OpenAI升级ChatGPT安全防护,新增“锁定模式”应对提示注入攻击
创始人
2026-02-14 11:06:48
0

2月13日,OpenAI宣布为ChatGPT新增高级安全设置,以应对日益增长的安全风险,特别是“提示注入”攻击。这种攻击通过误导AI执行恶意指令或泄露敏感信息。为此,OpenAI推出两项新防护措施:一是“LockdownMode(锁定模式)”,主要面向高风险用户,如大型组织高管或安全团队,通过限制ChatGPT与外部系统交互降低数据泄露风险;二是在ChatGPT、ChatGPTAtlas与Codex中新增“ElevatedRisk”风险标签,统一标注可能引入额外风险的功能。

锁定模式下,ChatGPT的网页浏览功能将限制为仅访问已缓存内容,防止敏感数据在浏览过程中被攻击者获取。对于无法提供强确定性数据安全保证的功能,锁定模式下会直接禁用。目前,锁定模式适用于ChatGPTEnterprise、ChatGPTEdu、ChatGPTforHealthcare与ChatGPTforTeachers,管理员可在WorkspaceSettings中通过创建新角色启用。OpenAI计划未来几个月将锁定模式提供给消费者用户。

OpenAI还在产品内为可能引入额外风险的功能提供使用指引,通过“ElevatedRisk”标签让用户自行决定是否使用这些功能,尤其是在处理个人私密数据时。例如,在Codex编程助手产品中,开发者可以授予Codex网络访问权限,但相关设置界面将显示“风险提升”标签,并提供明确说明。

相关内容

小鹏GX大型6座SUV即将...
3月22日,小鹏汽车全新旗舰SUV车型GX的实车图被博主@AD超智...
2026-03-22 09:29:39
Cursor新编程模型Co...
3月21日,美国AI编程应用Cursor联合创始人、COO阿曼·桑...
2026-03-22 08:34:32
粤BA的主场,不止于赛场
3月21日晚,广州天河体育馆灯火璀璨,2026年广东省城市篮球联赛...
2026-03-22 02:03:46
羊城晚报成为展品,广东多地...
每年的3月23日为“世界气象日”。我国气象机构常在“世界气象日”当...
2026-03-22 02:01:08
基层也有“国际范儿”(我在...
图片从上至下依次为:深圳君悦酒店行政总厨乔尼·谢伊(右)正在检查厨...
2026-03-22 01:58:45
“梅姨”案时间线梳理→
3月21日,广州警方通报“张维平等人拐卖儿童案”取得重大进展,犯罪...
2026-03-22 01:54:08
视频丨总台CGTN民调:好...
美以对伊朗发动打击,中东地区局势骤然升级。总台CGTN日前面向全球...
2026-03-22 01:53:07

热门资讯

小鹏GX大型6座SUV即将上市... 3月22日,小鹏汽车全新旗舰SUV车型GX的实车图被博主@AD超智能曝光。新车以淡金色外观亮相,采用...
Cursor新编程模型Comp... 3月21日,美国AI编程应用Cursor联合创始人、COO阿曼·桑格(Aman Sanger)对外确...
粤BA的主场,不止于赛场 3月21日晚,广州天河体育馆灯火璀璨,2026年广东省城市篮球联赛(以下简称“粤BA”)揭幕战在此正...
羊城晚报成为展品,广东多地向公... 每年的3月23日为“世界气象日”。我国气象机构常在“世界气象日”当天或临近周末举办开放活动,开放气象...
基层也有“国际范儿”(我在中外... 图片从上至下依次为:深圳君悦酒店行政总厨乔尼·谢伊(右)正在检查厨房工作。林晓平摄外国友人学习麦秆画...
“梅姨”案时间线梳理→ 3月21日,广州警方通报“张维平等人拐卖儿童案”取得重大进展,犯罪嫌疑人谢某某(女)落网,其即为该案...
视频丨总台CGTN民调:好战美... 美以对伊朗发动打击,中东地区局势骤然升级。总台CGTN日前面向全球网友开展的一项网络民调结果显示,美...
“足”够热 “篮”不住,城市联... 好的,观众朋友们,现在出现在我们面前的,正是激情燃烧的广东体育城市联赛!摄像机扫过赛场,1873年,...