397B参数追平万亿模型,上海AI Lab发布科学智能体新基座 | WAIC 2026 采用非Transformer架构“Mobius”,不做泛化通用问答 2026世界人工智能大会(WAIC 2026)期间,上海人工智能实验室发布书生系列大模型Intern-S2-Preview-397B,该模型基于全新架构和预训练范式,以397B参数规模在分子设计、材料结构生成等核心科学任务上追平实验室此前的万亿参数模型。
面对科学智能(AI4S)领域长期存在的“通用认知”与“专业知识”难以兼顾的难题,Intern-S2-Preview-397B通过底层架构的根本性革新,尝试为复杂科学任务的推理构建新的基座。
与此同时,Intern-S2-Preview-397B与昇腾计算生态开展深度协同,持续探索从模型能力提升到国产算力基础设施优化的协同演进路径。
架构创新:让“记忆”与“思考”各司其职 科学研究需要模型既“记得多”,又“想得活”。
但在传统大模型中,知识存储与逻辑推理高度耦合:模型不但无法充分利用已有知识进行推理,而且每接入一个新学科,都可能扰动已经形成的通用能力。
Intern-S2-Preview-397B从底层架构入手,将知识承载与推理计算分开设计,形成由 Memory Decoder与 Mobius 组成的“知识与推理分离”双引擎。
其中,Memory Decoder 引入了专业领域的可插拔外部记忆。
不同学科的最新知识可以在独立记忆模块中训练,并按需接入基础模型,使模型在吸收垂域知识时尽量减少对原有参数和通用能力的扰动。
换言之,专业知识不再只能通过反复改写整个模型来“硬编码”,而可以像扩展记忆一样持续更新,及时校正模型在探索未知过程中对新获知信息的理解偏差。
🔗 原始来源
如果你要核对细节,可以再看原文: 量子位原文链接
AI热榜