国际 AI 资讯

OpenAI 搭建中央工作负载控制室,介入后可于 35 秒内停止模型输出

OpenAI 介绍面向内部研究的中央工作负载管控系统 Control Room。从收到停止指令到任务无法继续,最长需要 35 秒。

海宇数科 · 事件日期 · 更新于 · 约 1 分钟 · 2 次阅读

OpenAI 搭建中央工作负载控制室,介入后可于 35 秒内停止模型输出 配图
OpenAI 搭建中央工作负载控制室,介入后可于 35 秒内停止模型输出 配图

OpenAI 宣布构建中央研究工作负载管控系统 Control Room(控制室),用于实时追踪研究基础设施中的模型工作负载,并在发现安全或安保隐患时快速切断相关工作。据该公司的说法,从控制室收到停止指令到任务无法继续,最长需要 35 秒。

核心功能与运行机制:与错位行为监测系统深度协同

Control Room 是 OpenAI 前沿模型整体安全训练与部署方案的组成部分,覆盖全部研究推理工作负载。

在运行架构上,Control Room 与错位行为监测系统(Misalignment Monitoring System)协同工作。监测系统发现模型运行出现异常偏离、安全风险或安保隐患后,控制室据此做出响应;官方数据显示,这段延迟来自推理授权缓存。停止指令生效后,后续推理请求会被拒绝。

← 返回AI 资讯