6月11日,人工智能公司Anthropic推出了其最新的人工智能模型ClaudeFable5,宣称这是目前面向公众开放的最强大模型,尤其在生物学等领域表现出色。然而,该模型在面对高中生应掌握的基础生物问题时,却无法直接回答,而是将问题转接给之前的旗舰模型ClaudeOpus4.8。这一限制并非因为Fable5不知道答案,而是Anthropic出于网络安全和生物武器风险的考虑,从设计层面主动进行了限制。
ClaudeFable5属于Anthropic的“Mythos级”模型,该系列模型在网络安全相关任务上表现出色,但公司担心这类模型若被滥用,将带来极大的风险。因此,在生物学领域,Fable5的安全限制尤为突出。外媒TheVerge的测试发现,Fable5会拒绝回答大量基础生物问题,包括细胞膜、线粒体、朊病毒、信使RNA疫苗等,即使这些问题并不涉及安全隐患。Anthropic表示,这种大范围屏蔽生物相关问题是刻意为之,防护标准设置得极为保守,以防范生物武器相关风险。
Anthropic曾明确表示,出于安全考量,会在化学、生物学、网络安全和模型蒸馏技术四大领域限制Fable5的作答权限。尽管Fable5对化学、网络安全类问题的接纳度更高,但在某些敏感问题上,如剧毒神经毒剂沙林毒气,Fable5会将问题转接给Opus4.8。Anthropic计划未来面向生物及生命科学领域的专业群体,推出解除这类防护限制的Mythos级模型,以助力生物医学研究与药物研发。
