华为昇腾AI芯片突破：训推一致性实现Logdiff为0，性能提升20%-60%
创始人
2026-08-06 16:46:12
0次
8月6日，华为计算官方宣布，昇腾基于AscendC编程语言提供完整的训推一致算子集，这一技术突破在Qwen3-30BMoE模型上的测试中实现了Logdiff为0，即推理与训练过程中的数值一致性。昇腾通过FA算子优化，在Eager模式下获得了20%-60%的性能提升，为强化学习训练提供了高效可靠的方案。
昇腾针对训推不一致问题，即Rollout引擎与训练引擎之间的数值不一致性，进行了系统性的优化。通过统一注意力语义、锁定reduce累加序、对齐在线Softmax分块策略以及对齐关键路径精度等四个方面的修改，昇腾确保了训练与推理在数值路径上的一致性。这些优化不仅解决了底层计算时累加不保序的问题，还覆盖了多种调用场景，并在关键计算步骤上施加了约束，同时控制了性能损失。
华为还宣布，相关基础设施已开源，并即将上线“训推一致问题识别Skill”，以支持排查残余logdiff并定位问题根源，无论是算子路径问题还是框架实现差异。这一开源举措将进一步推动行业核心场景的工程化落地，为开发者提供更多的便利和支持。
相关内容
热门资讯
奥迪E5电量突降0%，续航虚标...
近日，林女士驾驶上汽奥迪E5在高速行驶时遭遇电量突然从15%降至0%的问题。4S店将故障归咎于磷酸铁...
吉利汽车西班牙销量破千，新能源...
8月6日，吉利汽车官方宣布，截至2026年7月底，吉利在西班牙的单月销量首次突破1000台，达到10...
华为昇腾AI芯片突破：训推一致...
8月6日，华为计算官方宣布，昇腾基于AscendC编程语言提供完整的训推一致算子集，这一技术突破在Q...
理想汽车2026上半年销量夺冠...
8月6日，中国汽车工业协会发布的数据显示，理想汽车在2026年上半年以平均成交价20万元以上的豪华汽...
鸿蒙智行享界V8亮相：增程纯电...
近日，鸿蒙智行旗下中大型MPV享界V8实车亮相，车身规格与智界V9接近，提供增程、纯电两套动力方案。...
英伟达发布34B参数自动驾驶开...
近日，英伟达CEO黄仁勋在社交平台上宣布了新一代自动驾驶开源模型Alpamayo2Super的发布。...
亚马逊Zoox全球首推无方向盘...
亚马逊旗下自动驾驶公司Zoox宣布，8月10日起将在美国拉斯维加斯向乘客收费运营Robotaxi服务...
国内车市遇冷，出口激增65%，...
8月6日，2026年上半年国内车市数据显示，乘用车零售规模同比下滑超两成，6月单月零售同比跌幅达23...
专访许丙屯：把诗意画进岭南沃土...
8月4日，由广东画院主办、广东青年画院承办的广东青年画院个案研究系列展首场展览——“景观的修辞：贺海...
华为鸿蒙生态新品爆发：Mate...
今日，鸿蒙智行发布了两款新能源MPV车型尊界V680和V800，以及豪华硬派SUV享界G9。尊界V6...