OpenAI升级ChatGPT安全防护,新增“锁定模式”应对提示注入攻击
创始人
2026-02-14 11:06:48
0

2月13日,OpenAI宣布为ChatGPT新增高级安全设置,以应对日益增长的安全风险,特别是“提示注入”攻击。这种攻击通过误导AI执行恶意指令或泄露敏感信息。为此,OpenAI推出两项新防护措施:一是“LockdownMode(锁定模式)”,主要面向高风险用户,如大型组织高管或安全团队,通过限制ChatGPT与外部系统交互降低数据泄露风险;二是在ChatGPT、ChatGPTAtlas与Codex中新增“ElevatedRisk”风险标签,统一标注可能引入额外风险的功能。

锁定模式下,ChatGPT的网页浏览功能将限制为仅访问已缓存内容,防止敏感数据在浏览过程中被攻击者获取。对于无法提供强确定性数据安全保证的功能,锁定模式下会直接禁用。目前,锁定模式适用于ChatGPTEnterprise、ChatGPTEdu、ChatGPTforHealthcare与ChatGPTforTeachers,管理员可在WorkspaceSettings中通过创建新角色启用。OpenAI计划未来几个月将锁定模式提供给消费者用户。

OpenAI还在产品内为可能引入额外风险的功能提供使用指引,通过“ElevatedRisk”标签让用户自行决定是否使用这些功能,尤其是在处理个人私密数据时。例如,在Codex编程助手产品中,开发者可以授予Codex网络访问权限,但相关设置界面将显示“风险提升”标签,并提供明确说明。

相关内容

Meta联手三星打造2nm...
7月3日,韩国媒体SEDaily报道称,Meta正在推进自研AI ...
2026-07-03 17:32:30
小牛电动Q2销量激增24%...
7月3日,小牛电动发布了2026年第二季度的销量数据。在该季度,小...
2026-07-03 16:54:04
吉利银河战舰700内饰曝光...
近日,吉利汽车发布了银河战舰700的内饰官图,这款插电混动硬派风格...
2026-07-03 16:50:37
谷歌GeminiOmniF...
今日,谷歌DeepMind的GeminiOmniFlash视频模型...
2026-07-03 16:45:01
西安车主维权难:哪吒S增程...
近日,西安市民王女士遭遇购车困境。2023年,王女士全款购入哪吒S...
2026-07-03 16:39:20
AI算力激增引发芯片涨价潮...
7月3日,AI算力需求的激增导致电子产业链全面涨价,功率半导体、存...
2026-07-03 16:38:57
奥迪Q9豪华版谍照曝光,起...
7月3日,据汽车媒体M网页链接报道,奥迪即将发布全新旗舰SUV产品...
2026-07-03 15:55:54
吉利携手Bestway进军...
近日,吉利汽车与巴基斯坦综合性企业集团BestwayGroup签署...
2026-07-03 15:55:31
小鹏携手神州租车,1300...
7月3日,小鹏汽车与神州租车宣布达成全场景合作,并举行了车辆交付仪...
2026-07-03 15:55:11

热门资讯

Meta联手三星打造2nm A... 7月3日,韩国媒体SEDaily报道称,Meta正在推进自研AI ASIC的开发,并计划在其MTIA...
小牛电动Q2销量激增24%,中... 7月3日,小牛电动发布了2026年第二季度的销量数据。在该季度,小牛电动共售出434,687台各类电...
吉利银河战舰700内饰曝光:硬... 近日,吉利汽车发布了银河战舰700的内饰官图,这款插电混动硬派风格SUV预计将于近期发布。内饰设计以...
谷歌GeminiOmniFla... 今日,谷歌DeepMind的GeminiOmniFlash视频模型在VideoArena盲测排行榜上...
西安车主维权难:哪吒S增程车故... 近日,西安市民王女士遭遇购车困境。2023年,王女士全款购入哪吒S增程车型,但至今未能获得纸质或电子...
AI算力激增引发芯片涨价潮,新... 7月3日,AI算力需求的激增导致电子产业链全面涨价,功率半导体、存储芯片、电容、PCB等基础电子元件...
奥迪Q9豪华版谍照曝光,起售价... 7月3日,据汽车媒体M网页链接报道,奥迪即将发布全新旗舰SUV产品Q9,预计在未来几周内亮相。Q9的...
吉利携手Bestway进军巴基... 近日,吉利汽车与巴基斯坦综合性企业集团BestwayGroup签署合作协议,授权Bestway成为吉...
小鹏携手神州租车,1300台新... 7月3日,小鹏汽车与神州租车宣布达成全场景合作,并举行了车辆交付仪式。小鹏集团董事长、CEO何小鹏与...
阿里巴巴全面禁用Anthrop... 7月3日,阿里巴巴宣布全面禁用Anthropic公司旗下的Claude系列产品,包括Sonnet、O...