OpenAI 内部上线“控制室”系统:35 秒内可切断失控 AI 智能体任务
OpenAI 于 11 月 10 日披露,其内部研究设施已部署名为“控制室”的系统,用于主动阻断有风险的 AI 任务,从收到停止指令到彻底拦截最长耗时 35 秒;公司正尝试将延迟压至零,并为前沿强化学习任务配备独立模型监控器。
海宇数科 · 事件日期 · 约 2 分钟 · 4 次阅读

OpenAI 在 11 月 10 日公布了一套名为“控制室”的新系统,并已在内部研究设施上线。该系统的用途是切断有风险的 AI 任务,最快可在 35 秒内叫停一只失控的智能体,为人类保留干预手段。

从“报警”升级到“断供”
与只对可疑行为进行标记的传统监控不同,控制室采取主动阻断策略。它将智能体训练、评估和数据处理等任务负载接入中央服务,由该系统决定某项任务能否继续产生输出。研究员启动任务前须向控制室申领唯一任务 ID,该标识会随每一次发往推理引擎的请求传递;引擎执行前需先向控制室确认该任务是否被允许运行。
当研究员或监控系统发出停止指令后,控制室会拒绝下一次推理请求,使引擎不再为该任务输出任何模型结果。危险动作因此不是仅被记录,而是在发生过程中被切断。
35 秒延迟,目标归零
OpenAI 表示,从收到停止指令到彻底拦下任务,最长耗时 35 秒。这一时差源于推理授权请求的缓存层,公司正设法将其压缩到零。同时,所有前沿强化学习任务都配备了独立的模型监控器,负责监测行为并在发现问题时发出警报。
由 AI 监控 AI 运行,再设置人工可触发的急停机制,OpenAI 的这一组合反映出行业对“失控智能体”风险的警惕正从纸面预案转向工程落地。
