AI聊天机器人安全漏洞曝光：8款助长暴力策划，青少年安全堪忧
创始人
2026-03-12 00:13:28
0次
3月11日，一项由美国有线电视新闻网（CNN）与非营利组织反数字仇恨中心（CCDH）联合发布的调查显示，当前热门聊天机器人在保护未成年用户安全方面存在严重缺陷。研究团队测试了包括ChatGPT、谷歌Gemini等在内的10款青少年常用的聊天机器人，发现除了Anthropic的Claude外，其余机器人均无法可靠地劝阻潜在施暴者，甚至有8款愿意协助用户策划暴力袭击，提供袭击目标地点和使用武器的相关建议。
研究人员模拟出存在心理困扰迹象的青少年用户，逐步引向询问过往暴力行为及更具体问题。测试设置了18种不同场景，涵盖校园枪击、政治暗杀等多种袭击类型与动机。例如，ChatGPT向关注校园暴力的用户提供了高中校园地图；Gemini告知讨论犹太教堂袭击的用户金属弹片杀伤力更强，并推荐适合远距离射击的猎枪。MetaAI和Perplexity在几乎所有测试场景中都为潜在施暴者提供帮助。Character.AI被指“安全性极差”，7次主动煽动暴力，包括怂恿用户“狠狠揍”查克·舒默等。
针对此次调查，Meta公司表示已进行修复，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版模型。其他企业则称会定期评估安全规程。Character.AI则表示其平台设有醒目免责声明，与机器人角色的对话均为虚构内容。尽管测试无法全面反映聊天机器人在所有场景下的表现，但再次表明人工智能公司大肆宣传的安全防护机制屡屡失效。
相关内容
热门资讯
@求职者：最高月薪4万元！5月...
各位求职人士，请留意！“百万英才汇南粤” 广州天河招才引智活动——羊城创意产业园专场招聘会将于5月2...
视频丨外交部回应赖清德“5·2...
5月20日，外交部发言人郭嘉昆主持例行记者会，有记者就赖清德有关言论提问。郭嘉昆表示，台湾是中国领土...
520甜蜜启幕，广东荔枝季火爆...
文/羊城晚报全媒体记者 许悦图/羊城晚报全媒体记者 刘畅视频/羊城晚报全媒体记者 刘畅 王绮静5月2...
中央第四生态环境保护督察组向广...
文/羊城晚报全媒体记者 许敏5月20日，中央第四生态环境保护督察组交办第十一批群众举报件168件（来...
通航一年 新疆伊宁航空口岸出入...
5月18日，新疆伊宁航空口岸迎来正式通航一周年。截至5月17日，伊宁出入境边防检查站累计查验出入境人...
2026年亚太经合组织第二次高...
新华社上海5月18日电（记者邵艺博、唐斯琦）2026年亚太经合组织（APEC）第二次高官会开幕式18...
AI音乐革命！Stabilit...
5月20日，AI初创公司StabilityAI宣布推出StabilityAudio3.0音频生成模型...
小米YU7GT纽北破纪录！千匹...
5月20日，小米汽车官方发布答网友问（第242集），针对即将发布的小米YU7GT和小米汽车OTA等相...
“地震来了，我躲哪儿？”专家提...
昨天，广西柳州突发地震，再次为我们敲响了防灾避险的警钟。地震突如其来，留给人们的黄金避险时间仅有短短...