OpenAI新“红队”模型GPT-Red：网络攻击模拟助力AI模型鲁棒性提升
创始人
2026-07-16 12:18:19
0次
7月16日，OpenAI宣布了其内部使用的网络安全“红队”模型GPT-Red，该模型能够自动化地进行网络攻击模拟，旨在提升对外模型产品的鲁棒性。自GPT-5.3版本以来，OpenAI的每个生产模型均已使用GPT-Red进行训练，显著降低了伪造思维链型攻击的成功率，从GPT-5.1的95%降至最新模型的不足10%。GPT-5.6Sol在直接提示符注入攻击中的失败率仅为0.05%。
GPT-Red采用自博弈强化学习进行训练，与一组不同的防御型LLM在广泛的红队场景上同时训练。GPT-Red因诱发有效失败而获得奖励，而防御型模型则因抵抗攻击并完成其原始任务而获得奖励。随着防御型模型的增强，GPT-Red被迫发现更强大、更多样化的攻击手段。OpenAI表示，“红队”模型与产品模型相隔离，通过这种方式，OpenAI开启了一个良性的人工智能网络安全循环，利用现有模型来增强未来模型的鲁棒性、一致性和可信度。
相关内容
热门资讯
“月之暗面KimiK3模型即将...
7月16日，月之暗面在B站、X平台、小红书等平台发布视频，预热即将推出的KimiK3模型。视频中一帧...
韩国开发者遭遇天价AI账单：1...
7月16日，Anthropic公司就近期发生的天价AI账单事件作出回应。官方声明称，涉及的异常账单并...
“手”记——这就是众志成城的力...
近期台风“美莎克”给广西多地带来洪涝灾害危难之际无数平凡之“手”在泥泞与洪水中撑起一方安然天地 7...
粤博推出首个数字艺术大展，走进...
当《星月夜》的星云翻涌流动，《罗纳河上的星夜》的星光随水波轻轻摇曳，《向日葵》的金色花盘在光影中舒展...
“粤菜师傅”职业技能大赛比什么...
煎、炒、蒸、煮……以食为媒，振兴乡村！“粤菜师傅”技能大赛来了！7月16日，广东省人力资源和社会保障...
广州海警局普法进渔港进校园，筑...
今年是95110海上报警服务平台开通七周年，同时也是《中华人民共和国海警法》正式施行五周年。近日，广...
潮州奇谭获评中欧光影传播奖最佳...
羊城晚报全媒体记者 詹锡伟近日，第八届中国—欧盟电影节“Meet China”国际传播单元发布获奖公...
地标齐亮灯！海警法实施五周年，...
文、图/羊城晚报全媒体记者 侯梦菲 通讯员 丁冬 鲁杨为深入宣传《中华人民共和国海警法》（以下简称《...
俄外交部：日本应恪守和平宪法全...
新华社莫斯科7月15日电（记者侯鸣）俄罗斯外交部发言人扎哈罗娃15日表示，日本应恪守和平宪法，全面承...
18年前汶川地震获救的少年，1...
日前广西贵港汛情趋缓洪水消退参与防汛救灾工作的官兵已陆续撤离在这场“逆行”中陆军某旅战士吴杰的经历格...