Cell Res:首个知识与数据联合驱动的多物种生命基础大模型GeneCompass,解析基因调控密码,打造干湿融合新范式 |
数据集:多物种单细胞数据集
目前,全世界范围内在单一物种上已获得的单细胞转录组数据规模为千万级别,研究团队从美国(NCBI)、欧洲(EMBL-EBI)和中国(CNCB)等公开数据中收集了不同物种的单细胞转录组数据,人类和小鼠的同源基因采用相同的Ensembl ID表示,非同源基因则采用各自的Ensembl ID。经过筛选、清洗、均一化等预处理流程,建立了已知最大规模、包含人类和小鼠的超过1.26亿细胞、覆盖两个物种3.6万个基因、几乎全部已知细胞类型的高质量数据集scCompass-126M。
研究人员收集了1.26亿人类和小鼠的单细胞转录组数据(Credit:Cell Research)
模型架构:知识嵌入的生命基础大模型GeneCompass
研究人员开发的GeneCompass模型参数量超过1.3亿,是国际上首个融入先验知识的预训练基础大模型,探索了知识与数据联合驱动的新范式。GeneCompass采用gene2vec、DNABert等工具将启动子序列、已知基因调控网络、基因家族信息和基因共表达关系四种生物学先验知识进行编码,在单细胞转录组的基因ID和表达值基础上加入人类注释信息编码,提高了对生物数据间复杂特征关联关系的理解。通过训练整合不同物种的数据信息及先验知识,GeneCompass显著提升了多种下游任务的性能,有望进一步提高传统生物学研究的效率和精准性,为尚无法突破的复杂生命科学难题带来新的切入点。
GeneCompass融入四种生物学先验知识(Credit:Cell Research)
GeneCompass采用基于Transformer的深度学习架构,扩展传统的掩码语言模型Masked Auto Encoder(MAE)方式进行预训练,根据单细胞转录组的上下文同时预测掩码的基因及其基因表达,捕获不同基因之间在不同细胞背景下的长程动态关联,通过多任务联合预训练形成更加细粒度的生命基础大模型。预训练完成后,GeneCompass进一步应用于多种下游任务,用于对单细胞转录组数据进行编码,支撑细胞类型标注、基因扰动预测、药物反应预测和基因调控关系预测等任务。
GeneCompass模型架构(Credit:Cell Research)
规模效应:多物种联合训练捕获生物进化保守规律
研究人员发现对大规模跨物种数据所获得的预训练模型对于单物种的子任务符合尺度定律(scaling law):即较大规模的多物种预训练数据量较单一物种数据量产生更优异的预训练表征,并进一步提高下游任务的性能。这一发现显示了物种间存在保守的基因调控规律,并且这些规律能够被预训练模型学习理解。这同时预示着随物种和数据的扩展,模型性能有望不断提升。
研究结果:GeneCompass具有跨物种表征能力
研究人员对人类和小鼠同一细胞类型(心肌细胞)中同源基因和非同源基因的GeneCompass编码进行了相似性分析,可以看出相较于非同源基因,不同物种的同源基因具有更相似的编码,同源基因在人类和小鼠之间也具有相似的基因调控关系。
研究人员将GeneCompass编码后的基因嵌入与跨物种细胞类型标注的SOTA方法CAME进行结合,发现在多种细胞尤其是视网膜细胞中,GeneCompass能够显著提升跨物种细胞类型标注的精度。这些结果都展示了GeneCompass通过多物种联合预训练获得了生命底层的共性规律,增强了基因表征的能力。
下游任务:基因扰动预测任务
研究人员利用GeneCompass编码的基因嵌入来预测由基因扰动所导致的全局基因表达变化,将其与现有工作GEARS结合起来,替换了原始从共表达知识图谱中学习到的基因嵌入。在前20个差异表达基因(DEG)的均方误差(MSE)平均降低了15.4%,使单基因扰动的偏差减少了5.9%,双基因扰动的偏差减少了12.5%。下图展示了双基因扰动TGFBR2+PRTG前20个基因表达变化, GeneCompass 的17/20 DEG预测结果比GEARS 的预测结果更准确。
下游任务:药物反应预测、基因调控预测、药物剂量反应预测、基因表达谱预测
GeneCompass作为生命基础大模型,支持直接使用(zero-shot)和微调(fine-tune)两种模式。基于此,研究人员在药物反应预测、基因调控预测、药物剂量反应预测、基因表达谱预测等多种下游任务上进行了充分实验,验证了GeneCompass在不同任务中的适配性。实验结果表明,GeneCompass 在不同下游任务中均可达到SOTA水平,相比于传统生物学方法对生命底层规律具有更深的理解。
下游任务:细胞命运预测和关键基因筛选
由于基因及其表达值在自监督预训练过程中同时被掩码和重建,GeneCompass能够捕捉复杂的调控机制,实现定量的模拟基因扰动。为了验证这种能力,研究人员构建iPSC模拟诱导实验,在人类成纤维细胞中模拟两个水平的OSKM 基因(Oct4、Sox2、Klf4 和 c-Myc)过表达。通过对比细胞状态嵌入的相似性可以看出,随着过表达水平的提高,成纤维细胞逐渐向iPSC细胞发育。这与现有结论是一致的,说明GeneCompass具有用于细胞命运预测的潜力。
此外,GeneCompass可通过模拟基因扰动分析预测细胞命运转变中的关键调控因子,有望提高湿实验的效率并揭示新机制。研究人员进行了人类ESC细胞向性腺细胞分化的实验,利用GeneCompass在ESC细胞上开展广泛的单基因模拟过表达。通过比较初始、模拟和目标细胞嵌入之间的余弦相似度,研究人员确定了五个潜在基因,即 NR2F1、NR5A1、WT1、TCF21 和 GATA4。其中三个( WT1、NR5A1 和 NR2F1)已有研究成果验证对小鼠体内性腺发育至关重要。进而,研究人员在 ESC 中分别过表达NR5A1和 GATA4,荧光结果表明,在人类 ESC 中单独过表达任一基因均可诱导性腺基因。
综上所述,作为迄今为止最大规模的、具有知识嵌入的跨物种预训练生命基础大模型,GeneCompass可实现多个跨物种下游任务的迁移学习,并在细胞类型注释、定量基因扰动预测、药物敏感性分析等方面,相比已有方法取得更优性能。这充分展示了基于多物种无标注大数据预训练,再利用不同子任务数据进行模型微调的策略优势,有望成为实现基因-细胞特征相关联的各种生物问题分析预测的通用解决方案。
上述研究由 指南针联盟 团队完成, 指南针联盟 团队目前由北京与再生医学研究院/中国科学院动物研究所李鑫团队联合计算机网络信息中心,自动化研究所,计算技术研究所,数学与系统科学研究院等组成,联盟的目标是建立数智驱动的生命科学研究新范式,解析生命的本质规律。
版权声明 本网站所有注明“来源:100医药网”或“来源:bioon”的文字、图片和音视频资料,版权均属于100医药网网站所有。非经授权,任何媒体、网站或个人不得转载,否则将追究法律责任。取得书面授权转载时,须注明“来源:100医药网”。其它来源的文章系转载文章,本网所有转载文章系出于传递更多信息之目的,转载内容不代表本站立场。不希望被转载的媒体或个人可与我们联系,我们将立即进行删除处理。 87%用户都在用100医药网APP 随时阅读、评论、分享交流 请扫描二维码下载-> 医药网新闻- 相关报道
-
- Cell:北京大学陈鹏团队等开发多模态靶向嵌合体——Multi (2024-11-10)
- Cell子刊:中国医科大学李褒曼等揭示防治癫痫新方法 (2024-11-10)
- Cancer Discovery:上海交大瑞金医院卢敏团队建立p53靶向药物研究规范 (2024-11-10)
- Cell:中国博后一作,开发CRISPR (2024-11-10)
- JAMA:风扇不能帮助老年人有效降温!科学家发现,35℃以上的高温时吹风扇不能有效降低老年人的核心体温峰值 (2024-11-09)
- Cell子刊:清华大学唐海东团队揭示PD (2024-11-09)
- Nat Commun:血栓的力学驱动,一种新型的心血管疾病风险检测平台以及高血压引起心血管疾病高风险的机理探究 (2024-11-09)
- 8.5亿美元!GSK收购恩沐生物三特异性抗体,用于自免疾病 (2024-11-08)
- Nat Commun:欧阳松应教授团队揭示Sir2 (2024-11-08)
- Cell Metabol:肠道微生物在调节机体一整天的压力反应中扮演着关键角色 (2024-11-07)
- 视频新闻
-
- 图片新闻
-
医药网免责声明:
- 本公司对医药网上刊登之所有信息不声明或保证其内容之正确性或可靠性;您于此接受并承认信赖任何信息所生之风险应自行承担。本公司,有权但无此义务,改善或更正所刊登信息任何部分之错误或疏失。
- 凡本网注明"来源:XXX(非医药网)"的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。本网转载其他媒体之稿件,意在为公众提供免费服务。如稿件版权单位或个人不想在本网发布,可与本网联系,本网视情况可立即将其撤除。联系QQ:896150040