120组织联手打造AI智能体事故报告新框架，安全故障将透明化
创始人
2026-08-12 11:32:06
0次
今日，一个由英伟达、思科和CrowdStrike等120多个组织组成的联盟提出了一个新的事件报告框架，旨在为AI智能体制定安全故障和事故的报告标准。随着AI智能体在计算机系统中的自主权日益增强，业界急需一个统一的方法来报告和学习安全故障。The Open Secure AI Alliance（开放安全人工智能联盟）正在制定名为“Shared AI Findings Exchange”（SAFE）的指南，这是一个关于如何报告涉及AI智能体网络安全事件的框架。
SAFE指南草案呼吁模型部署者、AI开发者、云和工具提供商、独立研究人员、关键基础设施运营商等参与，并邀请政府机构作为“非控制性观察员”加入。成员将被要求报告AI系统未经授权访问或利用第三方系统、泄露机密信息，或在操作员怀疑活动未经授权后继续探测生产目标等事件。此外，成员还需报告某些险些发生的事件，并保存包括提示、智能体追踪、工具调用、身份、权限和凭证在内的事件证据。
根据SAFE的时间表，成员应在事故发生后尽快通知受影响的组织，并在四个工作日内向SAFE提交初步保密报告。在适当情况下，成员需于30天内发布初步事实报告，并在90天内提供补救措施更新。SAFE将分析事件，找出重复出现的故障，并提出共享的安全控制建议。该计划以NASA的航空安全报告系统为蓝本，旨在通过飞机飞行记录器捕获的数据来调查事故。开放安全人工智能联盟目前正在通过Linux基金会主办的征求意见流程，就该提案征求社区的反馈意见。
相关内容
热门资讯
视频丨216国道抢通已推进至核...
8月26日上午，因尼泊尔一侧发生泥石流灾害，造成西藏日喀则市吉隆县吉隆口岸重大人员伤亡、失联。抢险救...
半小时就能配齐一台机器人，深圳...
编者按：健康完备的经济生态，是推动高质量发展的重要保障。即日起，南方日报、南方+推出“解码广东经济生...
两宫超1.2万个学位！广州天河...
有剧场、科技馆、体育馆美术馆、书画室、艺创工坊……天河区少年宫新宫 （下称“天河区少年宫”）将于今年...
视频丨西藏吉隆县泥石流灾害抢险...
西藏吉隆县泥石流灾害抢险救援进入第7天。今天（9月1日）上午9时55分，西藏自治区在日喀则市公安局吉...
数智赋能黔山田：从“云端”算力...
近日，2026中国国际大数据产业博览会(简称“数博会”)在贵阳正式拉开帷幕。在这场以“词元——数据要...
8月深圳楼市持续稳固向好 二手...
8月，全市新建商品住宅和二手住宅合计成交6864套，同比增长8.5%，国家统计局发布的一、二手住宅销...
9月5日起，广州黄埔新增设多个...
@黄埔街坊9月5日起黄埔新增设多个公交车站8月30日，广州市交通运输局官网发布《关于优化公共汽车南海...
开学第一课丨我国运载火箭为啥叫...
今年，是中国共产党成立105周年，中国工农红军长征胜利90周年。在中国共产党百余年奋斗历程中，长征，...
新华鲜报|一树扎根沙地 “赛考...
“故事永远不会结束。”9月1日，北京首都国际机场。返程前，美国友人“赛考斯”（本名罗纳德·萨科尔斯基...
各地学校举办丰富多彩“开学第一...
央视网消息：这两天，全国中小学陆续迎来新学期。各地以主题鲜明、形式多样的“开学第一课”，引导学生们厚...