浪潮Yuan3.0Ultra多模态大模型开源 企业级AI新突破
创始人
2026-03-06 09:51:30
0次
今日，浪潮旗下YuanL网页链接团队宣布开源发布源Yuan3.0Ultra多模态基础大模型，这是一款专为万亿参数规模设计的旗舰模型。Yuan3.0Ultra在模型结构设计中系统性引入MoE大模型的训练效率优化，并针对企业应用及智能体工具调用进行了深度优化。该模型在多模态文档理解、检索增强生成（RAG）、表格数据分析、内容摘要与工具调用等企业级任务中表现卓越，能够处理企业环境中的复杂信息形态，如图文混排文档、多级结构表格以及跨文档知识检索，为构建多模态数据驱动的企业AgentAI提供能力支撑。
Yuan3.0Ultra采用统一多模态模型架构，由视觉编码器、语言主干网络与多模态对齐模块组成，实现视觉与语言信息的协同建模。语言主干网络基于混合专家（MoE）架构构建，包含103层Transformer，训练初始阶段参数规模1515B。通过LAEP方法创新，团队在预训练过程中将模型参数优化至1010B，预训练算力效率提升49%。此外，模型还引入了LocalizedFilteringAttention（LFA）机制，强化对语义关系的建模能力，相比经典Attention结构可获得更高的模型精度表现。
Yuan3.0Ultra大模型全面开源，包括模型权重（16bit与4bit模型）、技术报告，以及完整的训练方法与评测结果，支持社区在此基础上进行二次训练与行业定制。源Yuan3.0基础大模型将包含Flash、Pro和Ultra等版本，模型参数量为40B、200B和1T等，相关成果将陆续发布。
相关内容
热门资讯
特斯拉FSD入华遇阻：6.4万...
近日，特斯拉FSD（Full Self-Driving）监督版在全球多个市场开放，包括北美、亚太、欧...
广州湾区中央法务区中心区（白云...
5月25日，广州市白云区发出公告，正式启动广州湾区中央法务区中心区（白云）三期城市设计竞赛工作，公开...
多部门协同发力！广州从化开展文...
5月25日，广州市从化区委宣传部牵头，联合公安、城管、市场监管及街口街、江埔街、城郊街等单位，开展文...
广州优化土地供应：年度内不在同...
5月26日上午，广州市召开《关于进一步促进房地产市场平稳健康发展的实施意见》系列配套文件新闻发布会，...
中东部大范围降雨持续：多部门全...
央视网消息：5月25日—26日两天，中国中东部大范围降雨持续。5月25日，本轮强降雨迎来最强时段，安...
总台将播出系列纪录片守护：警惕...
由中共中央保密委员会办公室、国家保密局与中央广播电视总台联合摄制的纪录片《守护：警惕身边的泄密风险》...
科技赋能文化 文化赋能城市
报告人:魏小芳 北京市怀柔区委党校导读:《回眸“十四五” 展望“十五五”——理论热点面对面》十集连播...
视频丨夏巴兹：巴中合作助力巴基...
5月24日，来华访问的巴基斯坦总理夏巴兹在杭州出席第三届中巴信息技术与电信、电池储能系统及农业B2B...
给阿嬷的情书票房破11亿，这4...
5月25日，粤产电影《给阿嬷的情书》票房突破11亿，累计观影人次超3100万，跻身2026年度票房榜...
校社联动共沐书香 广州科贸打造...
金羊网讯 5月18日下午，广州科技贸易职业学院财经学院携原创读书品牌“书与我”走进番禺区华南碧桂园社...