AI聊天机器人安全漏洞曝光：8款助长暴力策划，青少年安全堪忧
创始人
2026-03-12 00:13:28
0次
3月11日，一项由美国有线电视新闻网（CNN）与非营利组织反数字仇恨中心（CCDH）联合发布的调查显示，当前热门聊天机器人在保护未成年用户安全方面存在严重缺陷。研究团队测试了包括ChatGPT、谷歌Gemini等在内的10款青少年常用的聊天机器人，发现除了Anthropic的Claude外，其余机器人均无法可靠地劝阻潜在施暴者，甚至有8款愿意协助用户策划暴力袭击，提供袭击目标地点和使用武器的相关建议。
研究人员模拟出存在心理困扰迹象的青少年用户，逐步引向询问过往暴力行为及更具体问题。测试设置了18种不同场景，涵盖校园枪击、政治暗杀等多种袭击类型与动机。例如，ChatGPT向关注校园暴力的用户提供了高中校园地图；Gemini告知讨论犹太教堂袭击的用户金属弹片杀伤力更强，并推荐适合远距离射击的猎枪。MetaAI和Perplexity在几乎所有测试场景中都为潜在施暴者提供帮助。Character.AI被指“安全性极差”，7次主动煽动暴力，包括怂恿用户“狠狠揍”查克·舒默等。
针对此次调查，Meta公司表示已进行修复，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版模型。其他企业则称会定期评估安全规程。Character.AI则表示其平台设有醒目免责声明，与机器人角色的对话均为虚构内容。尽管测试无法全面反映聊天机器人在所有场景下的表现，但再次表明人工智能公司大肆宣传的安全防护机制屡屡失效。
相关内容
热门资讯
吹风机是“保健神器”？老中医：...
人们每天吹头发的吹风机，近日摇身一变，成为网上爆火的“养生神器”。不少博主声称，不用艾灸、不用拔罐，...
冯忠华孙志洋到增城区调研
文/羊城晚报全媒体记者 罗仕 通讯员 史伟宗3月11日，广州市委书记冯忠华，市委副书记、市长孙志洋到...
华莱士正式宣布退市
3月11日，“华莱士正式宣布退市”话题冲上热搜。在登陆新三板近十年后，“洋快餐之王”华莱士正式宣布挥...
台青知世派 两会新观察｜台青薛...
编者按：春潮澎湃，万象更新。全国两会不仅是观察中国发展的重要窗口，也成为外界理解中国式现代化的重要坐...
“最懂媒体的代表团！”广东代表...
3月11日下午，十四届全国人大四次会议广东代表团举行第二场新闻发布会。广东代表团新闻发言人李翔宇介绍...
2026年全国两会——务实新风...
3月8日下午3时，河北代表团分4个小组准时开会，代表们围绕民族团结进步促进法草案、国家发展规划法草案...
（全国两会）面向“十五五” 港...
中新社北京3月11日电 (记者 张晓曦 管娜 姜雨薇)“如果用一个简单的方式来讲港澳青年工作，我会说...
独家对话：三代台青的广东故事，...
“在他们身上，我真的感受到了‘爱拼真的能赢’。”3月11日上午，在全国政协十四届四次会议第三场“委员...
荣耀MagicPad3Pro升...
今日，荣耀中国区智慧生活业务部部长林林公开了MagicPad3Pro平板Linux界面。根据林林的分...
AI聊天机器人安全漏洞曝光：8...
3月11日，一项由美国有线电视新闻网（CNN）与非营利组织反数字仇恨中心（CCDH）联合发布的调查显...