AI聊天机器人安全漏洞曝光：8款助长暴力策划，青少年安全堪忧
创始人
2026-03-12 00:13:28
0次
3月11日，一项由美国有线电视新闻网（CNN）与非营利组织反数字仇恨中心（CCDH）联合发布的调查显示，当前热门聊天机器人在保护未成年用户安全方面存在严重缺陷。研究团队测试了包括ChatGPT、谷歌Gemini等在内的10款青少年常用的聊天机器人，发现除了Anthropic的Claude外，其余机器人均无法可靠地劝阻潜在施暴者，甚至有8款愿意协助用户策划暴力袭击，提供袭击目标地点和使用武器的相关建议。
研究人员模拟出存在心理困扰迹象的青少年用户，逐步引向询问过往暴力行为及更具体问题。测试设置了18种不同场景，涵盖校园枪击、政治暗杀等多种袭击类型与动机。例如，ChatGPT向关注校园暴力的用户提供了高中校园地图；Gemini告知讨论犹太教堂袭击的用户金属弹片杀伤力更强，并推荐适合远距离射击的猎枪。MetaAI和Perplexity在几乎所有测试场景中都为潜在施暴者提供帮助。Character.AI被指“安全性极差”，7次主动煽动暴力，包括怂恿用户“狠狠揍”查克·舒默等。
针对此次调查，Meta公司表示已进行修复，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版模型。其他企业则称会定期评估安全规程。Character.AI则表示其平台设有醒目免责声明，与机器人角色的对话均为虚构内容。尽管测试无法全面反映聊天机器人在所有场景下的表现，但再次表明人工智能公司大肆宣传的安全防护机制屡屡失效。
相关内容
热门资讯
视频丨216国道抢通已推进至核...
8月26日上午，因尼泊尔一侧发生泥石流灾害，造成西藏日喀则市吉隆县吉隆口岸重大人员伤亡、失联。抢险救...
半小时就能配齐一台机器人，深圳...
编者按：健康完备的经济生态，是推动高质量发展的重要保障。即日起，南方日报、南方+推出“解码广东经济生...
两宫超1.2万个学位！广州天河...
有剧场、科技馆、体育馆美术馆、书画室、艺创工坊……天河区少年宫新宫 （下称“天河区少年宫”）将于今年...
视频丨西藏吉隆县泥石流灾害抢险...
西藏吉隆县泥石流灾害抢险救援进入第7天。今天（9月1日）上午9时55分，西藏自治区在日喀则市公安局吉...
数智赋能黔山田：从“云端”算力...
近日，2026中国国际大数据产业博览会(简称“数博会”)在贵阳正式拉开帷幕。在这场以“词元——数据要...
8月深圳楼市持续稳固向好 二手...
8月，全市新建商品住宅和二手住宅合计成交6864套，同比增长8.5%，国家统计局发布的一、二手住宅销...
9月5日起，广州黄埔新增设多个...
@黄埔街坊9月5日起黄埔新增设多个公交车站8月30日，广州市交通运输局官网发布《关于优化公共汽车南海...
开学第一课丨我国运载火箭为啥叫...
今年，是中国共产党成立105周年，中国工农红军长征胜利90周年。在中国共产党百余年奋斗历程中，长征，...
新华鲜报|一树扎根沙地 “赛考...
“故事永远不会结束。”9月1日，北京首都国际机场。返程前，美国友人“赛考斯”（本名罗纳德·萨科尔斯基...
各地学校举办丰富多彩“开学第一...
央视网消息：这两天，全国中小学陆续迎来新学期。各地以主题鲜明、形式多样的“开学第一课”，引导学生们厚...