iPhone 17 Pro挑战极限：4000亿参数大模型也能跑！
创始人
2026-03-23 19:34:45
0次

3月23日，IT之家报道了一个技术突破，即iPhone 17 Pro成功运行了拥有4000亿参数的大语言模型。尽管这种模型通常需要大容量内存和高性能硬件，但通过一些技术手段，苹果的旗舰机型实现了这一壮举。一个名为Flash‑MoE的开源项目在iPhone 17 Pro上运行成功，尽管Token生成速度仅为0.6个Token/秒，但这一成就表明，经过进一步优化，未来在手机端本地运行大语言模型是可能的。

实现这一技术的关键原理在于Flash‑MoE利用了设备的固态硬盘（SSD），直接向GPU流式传输数据，而不是将整个大模型载入内存。此外，“MoE”代表混合专家模型（Mixture of Experts），这意味着在生成每个单词时，只需要调用4000亿参数中的一小部分。这种方法不仅保护了用户隐私，还允许在不联网的情况下获得回复，尽管这会严重消耗电池。

开发者们也尝试使用大语言模型的压缩版，即“量化版”，但即便是量化后的4000亿参数模型，最低仍需200GB内存，这在iPhone 17 Pro上原本是无法实现的。这次演示证明了，只要能忍受每秒仅0.6个Token的缓慢生成过程，就可以在智能手机上运行4000亿参数的大语言模型。尽管如此，“能跑起来”和“能流畅、可用地使用”之间仍有明显差距。

上一篇：国际油价飙升，新能源汽车市场迎来转机

下一篇：比亚迪方程豹再升级：智能座舱焕新，哨兵模式升级，泊车更智能！

相关内容

2026广州“志TOP”研...
3月25日至27日，2026年“志TOP”志愿服务管理人才研修班在...
2026-03-28 05:09:16
清明将至，广州多方共同开展...
文/羊城晚报全媒体记者 周聪 通讯员 王雅图/受访者供图清明将至，...
2026-03-28 05:08:45
从“种地”到“慧种地”：中...
新华社南京3月27日电 题：从“种地”到“慧种地”：中国智慧春耕跑...
2026-03-28 05:07:29
本周末10城同步开打！这份...
本周末，粤BA常规赛第二轮将在全省10个城市同步打响20支队伍、1...
2026-03-28 05:05:29
广东一店主下单运送10箱茅...
“十件酒，十二万多元，货拉拉司机拉走就差点没了，还好警察及时帮我们...
2026-03-28 05:03:55
凡人微光 | “豫”见春天
2026-03-28 05:02:57
身高一米八男子借钱凑彩礼，...
近日，吉林省榆树市人民法院公布了一起男性遭受家暴的离婚纠纷案。身高...
2026-03-28 02:33:39
67岁“老闸”焕新生！广州...
3月27日，随着闸门缓缓开启、清澈的流溪河水奔腾而下，广州市大坳拦...
2026-03-28 02:32:48
花Young河南 春动中原...
大河网讯 （记者 董蕾/文 胡瀚泽/海报）东风拂豫，万象启新。我们...
2026-03-28 02:31:02

热门资讯

2026广州“志TOP”研修班... 3月25日至27日，2026年“志TOP”志愿服务管理人才研修班在广州海心沙志愿服务主题公园举办。4...
清明将至，广州多方共同开展森林... 文/羊城晚报全媒体记者 周聪 通讯员 王雅图/受访者供图清明将至，踏青祭扫等活动进入高峰，森林火险等...
从“种地”到“慧种地”：中国智... 新华社南京3月27日电 题：从“种地”到“慧种地”：中国智慧春耕跑出“加速度”新华社记者何磊静春日时...
本周末10城同步开打！这份粤B... 本周末，粤BA常规赛第二轮将在全省10个城市同步打响20支队伍、10场对决将点燃南粤篮球的又一个热血...
广东一店主下单运送10箱茅台酒... “十件酒，十二万多元，货拉拉司机拉走就差点没了，还好警察及时帮我们找回来了，让我确确实实感受到温暖。...
凡人微光 | “豫”见春天
身高一米八男子借钱凑彩礼，婚后... 近日，吉林省榆树市人民法院公布了一起男性遭受家暴的离婚纠纷案。身高一米八的齐先生在环城法庭，声音止不...
67岁“老闸”焕新生！广州大坳... 3月27日，随着闸门缓缓开启、清澈的流溪河水奔腾而下，广州市大坳拦河闸坝工程正式投入运行。这座60多...
花Young河南 春动中原丨原... 大河网讯 （记者 董蕾/文 胡瀚泽/海报）东风拂豫，万象启新。我们总说，春天，是从一朵花的悄然绽放开...
明晚，中山全城皆主场！大屏观赛... 本周六（3月28日）粤BA常规赛第二轮将火热开打！中山队迎来首个主场赛事将在中山体育馆主场迎战茂名队...