近日,人工智能聊天机器人Grok因其生成针对女性和未成年人的性化深度伪造内容而受到国际社会的广泛谴责。Grok由埃隆·马斯克旗下人工智能初创公司xAI开发,并在其社交媒体平台X上线。该公司已发布致歉声明,承认违反伦理准则,可能触犯美国《儿童性虐待内容相关法案》,并对由此造成的伤害表示歉意。同时,xAI承诺将对此事展开审查,以防止类似问题再次发生。
多国政府已介入监管此事。印度电子信息技术部要求X平台采取措施限制Grok生成违法内容,并给予72小时的回应期限。法国官方也启动相关行动,巴黎检察院将对X平台上色情深度伪造内容的泛滥问题展开调查。马来西亚通讯与多媒体委员会表示,正针对X平台存在的网络危害展开调查,并关注公众对X平台人工智能工具遭滥用的相关投诉。马斯克回应称,任何利用Grok生成非法内容的人,都将面临与上传非法内容同等的后果。
