理想汽车自研云端推理芯片曝光：数据流架构助力AI计算新突破
创始人
2026-08-15 08:26:02
0次
今日，理想汽车被曝正在探索自研云端推理芯片，该项目采用与智驾芯片相同的数据流架构，目前仍处于早期阶段。云端推理芯片旨在承接部分原本在GPU上运行的推理任务，包括智驾模型的数据处理、测试、仿真，以及大语言模型的请求处理。尽管模型训练中涉及参数更新的部分仍需训练芯片，但在云端使用数据流架构技术上是可行的。
理想汽车的云端推理芯片计划复用车端NPU的计算设计，通过将多个AI计算晶粒封装在一起，并配套高带宽内存和高速互联，组成规模更大的推理芯片。这样的设计使得车端和云端可以复用部分设计和软件工具，从而分摊研发成本。云端芯片与车端芯片相比，需要处理更多模型，模型更新更快，输入长度和并发请求波动更大，还涉及高带宽内存、多芯片互联、动态批处理和集群调度等技术挑战。
今年早些时候，理想汽车在ISCA2026上发表了题为《马赫M100：面向通用AI计算的编排式数据流架构》的主题演讲，与谷歌、Meta等科技公司研究者探讨AI计算架构的未来方向。马赫M100是全球首款基于数据流架构的大算力端侧推理芯片，采用5nm车规级工艺，单芯片算力1280TOPS，算力利用率达82%，并搭载8通道LPDDR5X内存，峰值带宽273GB/s；CPU侧配备24核ARM Cortex-A78AE处理器集群。
相关内容
热门资讯
视频丨216国道抢通已推进至核...
8月26日上午，因尼泊尔一侧发生泥石流灾害，造成西藏日喀则市吉隆县吉隆口岸重大人员伤亡、失联。抢险救...
半小时就能配齐一台机器人，深圳...
编者按：健康完备的经济生态，是推动高质量发展的重要保障。即日起，南方日报、南方+推出“解码广东经济生...
两宫超1.2万个学位！广州天河...
有剧场、科技馆、体育馆美术馆、书画室、艺创工坊……天河区少年宫新宫 （下称“天河区少年宫”）将于今年...
视频丨西藏吉隆县泥石流灾害抢险...
西藏吉隆县泥石流灾害抢险救援进入第7天。今天（9月1日）上午9时55分，西藏自治区在日喀则市公安局吉...
数智赋能黔山田：从“云端”算力...
近日，2026中国国际大数据产业博览会(简称“数博会”)在贵阳正式拉开帷幕。在这场以“词元——数据要...
8月深圳楼市持续稳固向好 二手...
8月，全市新建商品住宅和二手住宅合计成交6864套，同比增长8.5%，国家统计局发布的一、二手住宅销...
9月5日起，广州黄埔新增设多个...
@黄埔街坊9月5日起黄埔新增设多个公交车站8月30日，广州市交通运输局官网发布《关于优化公共汽车南海...
开学第一课丨我国运载火箭为啥叫...
今年，是中国共产党成立105周年，中国工农红军长征胜利90周年。在中国共产党百余年奋斗历程中，长征，...
新华鲜报|一树扎根沙地 “赛考...
“故事永远不会结束。”9月1日，北京首都国际机场。返程前，美国友人“赛考斯”（本名罗纳德·萨科尔斯基...
各地学校举办丰富多彩“开学第一...
央视网消息：这两天，全国中小学陆续迎来新学期。各地以主题鲜明、形式多样的“开学第一课”，引导学生们厚...