字节跳动打造5万亿参数AI模型,挑战国内智能极限!
创始人
2026-08-06 22:11:01
0次
今日,字节跳动被爆正在讨论训练一个参数规模超5万亿的AI模型,这将超过阿里的Qwen3.8-Max(2.4万亿参数)和月之暗面的K3(2.8万亿参数),成为国内已知参数规模最大的模型。模型规模的扩大通常意味着智能水平的提升,但该计划目前仍处于早期阶段。据悉,该模型将由SeedFoundation负责人项亮和大语言模型预训练数据负责人沈科合作主导,两人均为字节跳动AI及大模型研发体系内的核心成员。
字节跳动内部人士透露,上半年多个Seed团队已开始反思,这也是公司讨论训练超5万亿参数模型的原因之一。有观点认为,将参数规模一次推到同行数倍以争取领先位置的举措“像一场赌博”。在两周前的Seed全员会上,字节跳动创始人张一鸣安抚了团队成员,认为训大模型本就是一件难事,团队不必过度焦虑。他明确表示,一段时间内可接受模型落后于行业,希望大家以追求智能上限为目标,期待Seed模型能力能跻身世界第一梯队。张一鸣还强调编程是当前的关键方向,并表态自己反对蒸馏,认为蒸馏只能在短期内改善模型表现,本质上是在复制已有能力,难以实现超越。
相关内容