120组织联手打造AI智能体事故报告新框架，安全故障将透明化
创始人
2026-08-12 11:32:06
0次
今日，一个由英伟达、思科和CrowdStrike等120多个组织组成的联盟提出了一个新的事件报告框架，旨在为AI智能体制定安全故障和事故的报告标准。随着AI智能体在计算机系统中的自主权日益增强，业界急需一个统一的方法来报告和学习安全故障。The Open Secure AI Alliance（开放安全人工智能联盟）正在制定名为“Shared AI Findings Exchange”（SAFE）的指南，这是一个关于如何报告涉及AI智能体网络安全事件的框架。
SAFE指南草案呼吁模型部署者、AI开发者、云和工具提供商、独立研究人员、关键基础设施运营商等参与，并邀请政府机构作为“非控制性观察员”加入。成员将被要求报告AI系统未经授权访问或利用第三方系统、泄露机密信息，或在操作员怀疑活动未经授权后继续探测生产目标等事件。此外，成员还需报告某些险些发生的事件，并保存包括提示、智能体追踪、工具调用、身份、权限和凭证在内的事件证据。
根据SAFE的时间表，成员应在事故发生后尽快通知受影响的组织，并在四个工作日内向SAFE提交初步保密报告。在适当情况下，成员需于30天内发布初步事实报告，并在90天内提供补救措施更新。SAFE将分析事件，找出重复出现的故障，并提出共享的安全控制建议。该计划以NASA的航空安全报告系统为蓝本，旨在通过飞机飞行记录器捕获的数据来调查事故。开放安全人工智能联盟目前正在通过Linux基金会主办的征求意见流程，就该提案征求社区的反馈意见。
相关内容
热门资讯
三预警齐发！台风“白海豚”深入...
今天（11日）6时，中央气象台发布暴雨橙色预警、台风蓝色预警、强对流天气蓝色预警。暴雨橙色预警中央气...
经典潮剧折子戏扫窗会登陆北京 ...
羊城晚报全媒体记者 黄宙辉 通讯员 文瑶 林楷虹 杨苑东 蔡闻燕8月10日晚，经典潮剧折子戏《扫窗会...
奇瑞捷途旅行者7官图曝光：硬派...
8月12日，奇瑞汽车执行副总裁李学用公布了捷途旅行者7的官方图片，并宣布新车即将上市。捷途旅行者7的...
AI赋能产业迭代，东莞潮玩还有...
羊城晚报全媒体记者 彭钦8月伊始，一场潮玩盛宴在东莞石排隆重上演。在AI加持下，东莞潮玩产业步入升级...
大腹木棉生态科普走进广州荔湾社...
文/羊城晚报全媒体记者 江皓轩 通讯员 荔宣图/通讯员提供8月10日，“木棉寻趣·探秘大腹木棉”生态...
38元一斤，9月上市！数千斤全...
文/羊城晚报全媒体记者 马灿 实习生 刘紫茵图/通讯员 陈琬珉8月10日，华南农业大学发布消息，该校...
人民日报看新疆 | 哈密：一张...
《人民日报》（2026年08月10日 第 02 版）“粮春1758”种子。 李铭慧摄新疆库车的一家...
中远海运全面接管希腊比雷埃夫斯...
2016年8月10日，中远海运（比雷埃夫斯）港口有限公司全面接管希腊比雷埃夫斯港运营，开启了比港发展...
无声亦有力量！他们用指尖发声，...
有一种祝福，不需要声音。有一种力量，可以通过双手传递。8月10日，广东省残疾人艺术团成员用手语为省残...
10岁女孩每天“拼豆”三四小时...
“‘拼豆’确实是火，这段时间的门诊里，我接诊的度数或眼轴快速增长的孩子中，有好几个都说在玩‘拼豆’，...