当语言模型涌现出通用智能时,蛋白质模型的通用智能还有多远。 在 NLP 领域,语言模型基座经历了从 BERT 到 GPT 的跨时代变化,涌现出了各种超出预期的通用智能, BERT 时代的模型关心具体任务的提升,缺乏对可扩展性、通用性和涌现能力的系统化讨论,而在 GPT 时代,系统化的讨论逐渐显现,通用智能的爆发也因此开始。 为了通往蛋白质的通用智能, 清华大学智能产业研究院( AIR )周浩副教授课题组联合上海人工智能实验室 发布的 AMix-1 ,首次以 Scaling Law 、 Emergent Ability 、 In-Context Learning 和 Test-time Scaling 的系统化方法论来构建蛋白质基座模型,为通往蛋白质的通用智能的构建起了新的技术范式。
暂无评论