全球首個百億級可部署基因組基礎模型誕生
科技日報記者 張佳星
23日,華大生命科學研究院與之江實驗室聯合發佈全球首個百億參數可部署的基因組通用基礎模型Genos。該模型支持多達百萬鹼基對的超長上下文分析,並實現單鹼基分辨率的精準識別。
人類基因組由30億對鹼基組成。“人類基因組計劃”破譯了序列,但序列上鹼基的具體功能仍需要精準識別和解析。
現有模型大多基於1—2個參考基因組開展訓練,難以體現人類遺傳資源的多樣性。而Genos整合了人類泛基因組參考聯盟(HPRC)、人類基因組結構變異圖譜計劃(HGSVC)等多個權威公開資源,首次將全球範圍內636個“端粒到端粒”級別的高質量人類基因組作為訓練數據。這些數據覆蓋了全球不同人羣,有助更全面理解人類遺傳多樣性。
算法架構方面,Genos通過“混合專家”架構,精準調度強相關“專家”算法協同處理,在彙總百億級龐大參數時成功降低推理成本和資源消耗,讓模型既強大、又好用。
測試結果顯示,Genos在直接面向臨牀應用的致病性突變解讀任務中,準確率達92%;結合科學基礎模型後,準確率高達98.3%。多項綜合評測結果也顯示,Genos超越現有最佳水平模型。
華大生命科學研究院相關負責人説,Genos模型已在HuggingFace(抱抱臉)、魔搭等平台全面開源開放,提供12億和100億參數兩個版本,滿足不同需求。