AI聊天机器人安全漏洞曝光：8款助长暴力策划，青少年安全堪忧
创始人
2026-03-12 00:13:28
0次
3月11日，一项由美国有线电视新闻网（CNN）与非营利组织反数字仇恨中心（CCDH）联合发布的调查显示，当前热门聊天机器人在保护未成年用户安全方面存在严重缺陷。研究团队测试了包括ChatGPT、谷歌Gemini等在内的10款青少年常用的聊天机器人，发现除了Anthropic的Claude外，其余机器人均无法可靠地劝阻潜在施暴者，甚至有8款愿意协助用户策划暴力袭击，提供袭击目标地点和使用武器的相关建议。
研究人员模拟出存在心理困扰迹象的青少年用户，逐步引向询问过往暴力行为及更具体问题。测试设置了18种不同场景，涵盖校园枪击、政治暗杀等多种袭击类型与动机。例如，ChatGPT向关注校园暴力的用户提供了高中校园地图；Gemini告知讨论犹太教堂袭击的用户金属弹片杀伤力更强，并推荐适合远距离射击的猎枪。MetaAI和Perplexity在几乎所有测试场景中都为潜在施暴者提供帮助。Character.AI被指“安全性极差”，7次主动煽动暴力，包括怂恿用户“狠狠揍”查克·舒默等。
针对此次调查，Meta公司表示已进行修复，Copilot称通过新增安全功能优化了回复内容，谷歌和OpenAI均表示已上线新版模型。其他企业则称会定期评估安全规程。Character.AI则表示其平台设有醒目免责声明，与机器人角色的对话均为虚构内容。尽管测试无法全面反映聊天机器人在所有场景下的表现，但再次表明人工智能公司大肆宣传的安全防护机制屡屡失效。
相关内容
热门资讯
宝马7系革新登场：个性化定制升...
近日，宝马宣布新款7系轿车在德国丁格芬工厂正式投产下线。此次升级，宝马7系在制造工艺、电池动力、个性...
从“中国制造”到“中国创造”，...
从“中国制造”的规模优势到“中国创造”的价值跃升，中国品牌正不断在全球市场展现更强竞争力人们提起中国...
坚定信心、接续奋斗，不断创造无...
胸怀梦想的远征，不惧风雨兼程；前无古人的事业，召唤新的进发。在庆祝中国共产党成立105周年大会上，习...
活力中国调研行 | 中国摩托何...
近期，一款来自广东江门的大冶摩托车在西班牙市场表现亮眼：上市当月，销量位列当地市场中第二名；次月，就...
广州南沙榄核镇垃圾分类进幼儿园...
近日，广州市南沙区榄核镇墩塘幼儿园里欢呼声与加油声此起彼伏，一场以“分类投放小举动，绿色环保大担当”...
广州开出首张“偷面积”罚单，释...
羊城晚报记者 江皓轩近日，广州首次对商品住宅“偷面积”行为作出公开行政处罚。广州市荔湾区城管执法局对...
这轮高温还要持续多久？气象专家...
在刚刚过去的6月，我国多地高温天数打破了当地的纪录，而进入7月的这三天，大范围的高温天气不仅无缝衔接...
鸿蒙智行享界MPV新车曝光，后...
7月5日，小红书用户“FarQ”分享了一组某厂测试车现身街头的照片，据评论区讨论和其他博主爆料，该车...
丰田大动作：统一术语体系，AI...
丰田汽车近日宣布将统一企划、生产、销售等部门的专用术语，以削减30%的中间流程，加快汽车生产速度。目...
加州1.35亿补贴电动车 购车...
美国联邦电动车购车税收抵免于2025年9月30日到期后，加利福尼亚州推出州级替代补贴方案，以填补市场...