Anthropic道歉并调整AI模型限制政策，保护研究不被“暗中拖后腿”
创始人
2026-06-12 00:18:56
0次
6月11日，AI研究公司Anthropic在社区反对声中调整了其最新AI模型ClaudeFable5的安全防护措施。此前，Anthropic被指在用户不知情的情况下限制竞争对手使用ClaudeFable5开发其他AI模型。面对批评，Anthropic发表声明，承认错误并道歉，表示将调整措施，使安全防护对用户可见。
ClaudeFable5在设计中加入了额外的护栏，以防止滥用。当用户询问网络安全、生物学或化学问题时，系统会转交给能力较弱的AI模型处理，以降低先进AI被用于不当目的的风险。然而，对于使用ClaudeFable5进行前沿AI开发的研究人员，Anthropic原本计划在用户不知情的情况下降低模型表现，以阻止他们训练竞争性AI模型。这一做法在AI研究社区中引起了强烈反对，认为这种做法已经越过了道德和透明度的界限。
在社区的压力下，Anthropic撤回了这一政策。新的措施是，如果Anthropic怀疑用户试图使用Claude构建高能力AI，将明确提醒用户系统将拒绝请求，或将用户转到能力较弱的模型。这一改变旨在保护AI研究的开放性和公平性，防止先进AI研究被少数头部实验室垄断。
相关内容
热门资讯
智谱GLM-5.3发布：编程能...
今日，智谱科技宣布正式发布GLM-5.3模型，相较于GLM-5.2，新模型在后训练Scaling方面...
国产芯片助力新能源车智能升级，...
8月13日，地平线宣布其生态合作伙伴博泰车联获得国内头部新能源车企的定点合作，将为该车企全新车型平台...
极氪800万打造新能源飘移赛照...
近日，极氪官方针对网传“天价赛照”一事作出回应。8月14日，极氪官方表示，8月中下旬将在宁波国际赛车...
蔚来Firefly萤火虫升级：...
今日，蔚来旗下firefly萤火虫宣布aster紫菀2.0.0版本软件更新已开始陆续推送，涉及智能座...
保时捷Taycan面临停产，2...
保时捷计划在2030年前停产纯电动车型Taycan，这是公司电动化战略回调后的又一重大调整。据知情人...
理想L6累计销量破40万，新一...
今日，理想汽车宣布理想L6累计交付量突破40万辆。理想L6自2024年4月上市以来，提供Pro和Ma...
广州地铁上10岁女孩给老人让座...
近日，一位佛山网友发帖称，女儿在地铁上给一位老爷爷让座，没想到老人从口袋里掏出两个红包给孩子，每个红...
香港科技大学（广州）项目二期工...
文/羊城晚报全媒体记者 江皓轩图/受访者提供近日，香港科技大学（广州）项目二期工程迎来重要建设节点，...