富士通PHOTON架构性能超Transformer 475倍，革新多查询处理
创始人
2026-06-25 18:47:03
0次
6月25日，富士通在日本宣布了其最新开发的PHOTON架构，该架构在多查询场景下的性能可达到主流Transformer架构的475倍。PHOTON架构通过在语义层面进行分层处理，相较于Transformer的词元级分割，能够降低计算复杂度并提供更好的并行性。这一技术革新使得PHOTON在处理智能体系统等多I/O流程时更为高效，同时降低了GPU成本。
PHOTON架构在多查询的决策环节采用多数决定或选择最佳的方式，仅需一次推理即可完成。测试结果显示，在600M、900M、1.2B等参数规模相对较小的模型中，PHOTON实现了更高的迭代吞吐量和更低的内存占用。特别是在1.2B模型上，PHOTON展现了475倍的性能提升，尽管在质量上略有下降。此外，由于PHOTON架构每次迭代所需的KVCache更少，还能提升最大迭代次数。
相关内容
热门资讯
2万亿估值！Anthropic...
8月13日，《财富》杂志报道称，人工智能公司Anthropic计划于2026年10月进行IPO上市，...
文远知行上半年营收增73%，全...
8月14日，自动驾驶科技公司文远知行WeRide发布了2026年第二季度及上半年的财报。上半年公司总...
OpenAI月增20%营收，2...
8月14日，彭博社报道指出，OpenAI在IPO上市前展现出强劲的发展势头。预计到2026年，公司年...
省运会皮划艇静水项目将举办至1...
本次赛事全程对外免费开放，目前已决出8枚金牌羊城晚报讯 记者张小悦、刘畅、梁喻报道：8月10日上午，...
从渔业大市到渔业强市，阳江如何...
文/戴灵敏 陈文婷南海之滨，潮涌不息。阳江，这座拥有504公里海岸线、1.19万平方公里海域的“中国...
前7个月广东外贸进出口6.49...
羊城晚报讯 记者汪海晏，通讯员陈琳、吕美锦报道：据海关总署广东分署统计，今年前7个月，广东外贸进出口...
全球最大陆路口岸单体建筑即将收...
文、图/羊城晚报全媒体记者 张璐瑶 通讯员 黄俊生视频/羊城晚报全媒体记者 张璐瑶全球最大陆路口岸单...
一朵扭扭花，开出46个残障家庭...
文/羊城晚报全媒体记者 黎秋玲 杨进怡 实习生 兰心蕙图/羊城晚报全媒体记者 杨进怡（除署名外）一根...
一祠一晚一非遗，读懂广州增城公...
乡村振兴，既要塑形，更要铸魂。近日，广东省“十四五”公共文化服务案例名单公布，广州增城区三项实践成功...
像爸爸一样 我从风中来
陈婧雯，她不到1岁半时没了爸爸。18年后，她做了个决定——穿上军装。王贵武，他68岁，替17位烈士喊...