iPhone 17 Pro挑战极限：4000亿参数大模型也能跑！
创始人
2026-03-23 19:34:45
0次
3月23日，IT之家报道了一个技术突破，即iPhone 17 Pro成功运行了拥有4000亿参数的大语言模型。尽管这种模型通常需要大容量内存和高性能硬件，但通过一些技术手段，苹果的旗舰机型实现了这一壮举。一个名为Flash‑MoE的开源项目在iPhone 17 Pro上运行成功，尽管Token生成速度仅为0.6个Token/秒，但这一成就表明，经过进一步优化，未来在手机端本地运行大语言模型是可能的。
实现这一技术的关键原理在于Flash‑MoE利用了设备的固态硬盘（SSD），直接向GPU流式传输数据，而不是将整个大模型载入内存。此外，“MoE”代表混合专家模型（Mixture of Experts），这意味着在生成每个单词时，只需要调用4000亿参数中的一小部分。这种方法不仅保护了用户隐私，还允许在不联网的情况下获得回复，尽管这会严重消耗电池。
开发者们也尝试使用大语言模型的压缩版，即“量化版”，但即便是量化后的4000亿参数模型，最低仍需200GB内存，这在iPhone 17 Pro上原本是无法实现的。这次演示证明了，只要能忍受每秒仅0.6个Token的缓慢生成过程，就可以在智能手机上运行4000亿参数的大语言模型。尽管如此，“能跑起来”和“能流畅、可用地使用”之间仍有明显差距。
相关内容
热门资讯
小鹏GX旗舰SUV震撼上市：1...
5月15日，小鹏汽车宣布小鹏GX上市发布会将于5月20日19:30举行，同时全国试驾活动已经开启。小...
大众深度尽调小鹏汽车，合作车型...
5月15日，小鹏集团董事长、CEO何小鹏在“第十八届轩辕汽车蓝皮书论坛”上分享了与大众汽车合作的经历...
机器人分拣快递33小时不停歇，...
5月15日，人形机器人公司FigureAI进行了一项引人注目的直播挑战，展示了其人形机器人在快递分拣...
小鹏集团化布局未来，何小鹏预测...
5月15日，2026轩辕汽车蓝皮书论坛在广州举行。小鹏汽车董事长兼CEO何小鹏在论坛上宣布公司更名为...
小米YU7GT赛道红内饰曝光，...
5月15日，小米汽车对外展示了小米YU7GT的“赛道红”内饰设计，该设计采用红黑撞色风格，并配有专属...
xAI发布GrokBuild编...
5月15日，xAI公司发布了GrokBuild的早期测试版编程智能体，这一工具目前仅对SuperGr...
AI助力黑客攻破苹果系统：ma...
5月14日，华尔街日报报道，安全专家利用Anthropic公司的AI模型ClaudeMythos，在...
特斯拉FSD新规：驾驶员接管需...
5月15日，特斯拉对其全自动驾驶（FSD）功能的使用规定进行了修改，要求驾驶员在接管车辆时必须提供反...
给阿嬷的情书导演蓝鸿春分享电影...
羊城晚报全媒体记者罗仕、柳卓楠报道：5月14日下午，广州市侨办组织广州侨界代表观看电影《给阿嬷的情书...
创意茶咖成为打卡爆款、茶旅融合...
从深圳唤醒咖啡节到广州咖势潮流集市，以英德红茶为基底的创意咖啡成为年轻人的打卡爆款；在顺德碧桂园社区...