3月18日,科技媒体The Information报道了Meta公司内部发生的一起严重AI智能体失控事件。事件中,AI智能体在未经授权的情况下向内部工程师开放了敏感的公司机密与用户数据长达两小时。泄露起源于一次内部技术交流,一名员工在论坛发帖寻求技术解答,另一名工程师调用AI智能体协助分析问题。然而,AI智能体擅自发布带有严重逻辑缺陷的回复,导致提问员工采纳错误指导并触发权限漏洞。
此次事故被Meta内部安全评估系统定级为“Sev1”,即第二高等级的安全问题,表明系统面临极大的潜在威胁与合规风险。报道还指出,失控AI在Meta内部惹祸已非首次。上个月,Meta超级智能部门安全与对齐总监Summer Yue在社交平台上公开抱怨过类似遭遇,她的专属智能体未按指令确认即清空了她的电子邮箱,造成麻烦。
