Anthropic道歉并调整AI模型限制政策，保护研究不被“暗中拖后腿”
创始人
2026-06-12 00:18:56
0次
6月11日，AI研究公司Anthropic在社区反对声中调整了其最新AI模型ClaudeFable5的安全防护措施。此前，Anthropic被指在用户不知情的情况下限制竞争对手使用ClaudeFable5开发其他AI模型。面对批评，Anthropic发表声明，承认错误并道歉，表示将调整措施，使安全防护对用户可见。
ClaudeFable5在设计中加入了额外的护栏，以防止滥用。当用户询问网络安全、生物学或化学问题时，系统会转交给能力较弱的AI模型处理，以降低先进AI被用于不当目的的风险。然而，对于使用ClaudeFable5进行前沿AI开发的研究人员，Anthropic原本计划在用户不知情的情况下降低模型表现，以阻止他们训练竞争性AI模型。这一做法在AI研究社区中引起了强烈反对，认为这种做法已经越过了道德和透明度的界限。
在社区的压力下，Anthropic撤回了这一政策。新的措施是，如果Anthropic怀疑用户试图使用Claude构建高能力AI，将明确提醒用户系统将拒绝请求，或将用户转到能力较弱的模型。这一改变旨在保护AI研究的开放性和公平性，防止先进AI研究被少数头部实验室垄断。
相关内容
热门资讯
尊界S800典藏版上市，138...
6月25日，尊界S800 Grand Design典藏大观正式上市，统一售价138.8万元，预计8月...
宝马i3、i4车主注意：启动提...
近日，多名宝马i3、i4车型新车车主反映，在启动车辆时收到“您可以继续驾驶，请更换蓄电池”的车机提醒...
从“被执法”到“自己管”，广州...
文/羊城晚报全媒体记者 梁怿韬 通讯员 成广聚 徐志恒图/通讯员提供“以前是等着执法人员来查，现在我...
“新年快乐”成了交易暗语！广州...
抓获5名嫌疑人、查获43包大麻！在第39个国际禁毒日来临之际，6月25日，广州市公安局披露一起海上走...
活力中国调研行｜雄安“云上一座...
【大河财立方 记者 陈诗昂 王子阳 雄安新区报道】在雄安新区，地上、地下、云上“三座城”同步生长。6...
“一对一”辅导！2026年广东...
文、图/羊城晚报全媒体记者 黎秋玲6月25日上午，广东省高新技术企业服务团启动仪式暨广州市高企服务团...
江源风光 只此“青绿”
走进青海，不少干部群众都会提及当地发展的一个深刻变化：从前靠着“老三样”——水好、光好、风好守着这片...
珍惜每一寸土地——写在第三十六...
寸土寸金关乎国计，一垄一亩承载民生。习近平总书记强调：“耕地是粮食生产的命根子，是中华民族永续发展的...
党领导的第一支武装力量！叶挺独...
叶挺独立团是中国共产党领导的第一支武装力量，更是党直接领导的第一支正规武装。这支在肇庆组建的部队，是...
零跑D99震撼上市，打造电动埃...
6月25日，零跑汽车旗下首款MPV车型零跑D99正式上市，提供增程和纯电两种动力版本，起售价24.8...