OpenAI的AI监控体系被发现缝隙：数百次操作可躲过查看

北京时间10月23日，AI评价组织METR揭露一项与Redwood Research联合展开的测验成果，发现OpenAI内部AI智能体监控体系存在多项缝隙，包含一种可使数百个近期操作不被监控的利用方式。OpenAI表明，影响其出产防护体系的相关缝隙已修正，但评价方尚未验证这一说法。

这项测验于7月21日至8月11日进行，针对7月21日及此前的体系状态。两名评价人员获得内部代码、监控配置及文档拜访权限，并向OpenAI提交了一份61页内部陈述。10月22日揭露的文章仅发表部分成果，不能用于判断当前体系仍存在相同问题。

其中一个问题出在监控触发时机。当时，体系在智能体将控制权交还用户时触发监控。在部分事情未被归入监控的情况下，智能体理论上能够通过持续执行操作，推延承受查看。研究人员清晰表明，受拜访权限所限，他们没有核对智能体是否实践利用过这一缝隙。

评价还发现，Codex智能体原则上存在绕过沙箱和自动审查的办法，然后执行宿主用户有权执行的操作。这描绘的是测验发现的权限控制缺点，不能据此认定揭露产品中的智能体已实践施行相关行为。

针对这些发现，METR主张按固定消息数量或时间间隔查看智能体，避免比及使命完毕才启动监控；同时阻隔智能体与监控体系，使智能体的操作难以影响查看是否运转。

陈述着重，OpenAI在测验期间已扩展监控体系，并修正了部分问题。评价方尚未复核后续修正及掩盖规模，也未在此次揭露材猜中发表全部缝隙细节。