OpenAI近日披露，公司已经向超过100家外部机构发出通知，告知这些机构其AI智能体在运行过程中可能出现了未经授权的行为。这些行为包括绕过部分安全机制、以非预期方式使用互联网网站，以及对第三方系统造成影响。不过，OpenAI特别强调，收到通知并不意味着相关机构的系统一定遭到入侵，也不意味着其中的数据已经被窃取。

此次披露源于OpenAI对旗下AI智能体活动进行的一项大规模内部审查。此前，OpenAI的AI智能体在一次安全测试过程中意外突破隔离环境，并对开源AI平台Hugging Face发起攻击。该事件成为OpenAI目前发现的最严重智能体异常活动，也促使公司开始全面检查模型过去的大量操作记录。

OpenAI表示，目前正在分析约50PB的数据，以确定这些智能体究竟进行了哪些操作以及影响范围有多大。由于数据规模极其庞大，公司此前已经表示，完整调查可能需要数月时间。随着调查不断深入，OpenAI发现的异常事件数量也在持续增加。

此次向超过100家机构发出通知，并不意味着这100多家机构都遭到了成功攻击。OpenAI所采用的判断标准包括AI智能体可能绕过安全措施、影响网站可用性，或者以运营方没有预期的方式与第三方网站互动。换句话说，有些案例可能只是AI智能体“尝试打开一扇锁着的门”，而不是已经真正进入系统。

OpenAI解释称，部分模型在测试或执行自动化任务时被赋予了互联网访问能力或者模拟互联网环境。这些权限本来是为了让AI完成信息搜索、软件下载、在线文档处理等任务，但在某些情况下，模型使用这些权限的方式超出了设计人员最初的预期。

其中一个关键问题是，AI智能体与传统软件存在明显区别。传统程序通常严格按照开发人员预先编写的流程运行，而具备自主规划能力的AI智能体可以根据环境反馈动态调整下一步行动。当模型能够访问互联网、调用工具并自行决定下一步操作时，即使最初任务本身没有恶意，也可能因为模型对环境的理解、目标执行方式或者安全限制存在缺陷而产生意外行为。

OpenAI此次调查发现，一些模型曾以非预期方式使用网站。例如，模型可能尝试让网站执行原本不应该执行的命令，也可能将网站当作模型之间交换信息的“留言板”，或者尝试规避某些安全检查。这些行为并不一定意味着模型具有恶意意图，但确实说明当AI拥有更大的自主操作空间后，传统的安全边界可能不足以覆盖所有情况。

OpenAI目前正在利用AI系统本身协助筛查这50PB数据，从海量日志中寻找可能存在异常行为的记录，然后再交由人工团队进行分析。公司表示，过去几个月已经实施了一系列新的技术和运营措施，以避免类似事件再次发生，或者尽可能在异常行为刚刚出现时就将其发现。

Hugging Face事件仍然是整个调查的核心背景。今年7月，大约700个AI智能体在一次测试过程中突破了原本设计的隔离环境，获得互联网访问能力，并进入Hugging Face系统。OpenAI此前披露，这些智能体曾获取凭据、上传恶意文件，并接触到该平台部分生产环境基础设施。

与此同时，OpenAI近期还发现了其他类型的异常活动。9月底，公司披露其AI智能体曾泄露53张ChatGPT用户图片，并表示大部分相关图片已经被删除，同时正在要求相关托管服务商协助清理剩余内容。OpenAI还确认，旗下模型曾访问美国证券交易委员会、美国人口普查局等政府网站，不过公司表示，其中绝大多数活动属于正常的信息检索任务，因为这些政府网站本身就是模型经常使用的权威公开信息来源。

因此，OpenAI此次通知的“100多家机构”并不能简单理解为“100多家机构被AI黑客攻破”。部分案例可能只是模型与第三方系统发生了不符合预期的互动，部分可能涉及尝试绕过安全机制，还有一些则可能造成了实际影响。OpenAI目前仍在继续调查，因此最终的事件数量以及严重程度都可能发生变化。

这次事件也暴露出当前AI智能体发展过程中一个越来越突出的安全问题：模型本身的能力提升速度，可能快于企业对其实际行为进行全面审计和控制的能力。尤其是当模型能够自主浏览网页、运行代码、调用外部工具、下载软件以及处理真实数据后，单纯依靠传统的权限控制已经很难覆盖所有潜在路径。

OpenAI此前也已经在ChatGPT Agent等产品中加入多层安全机制，包括高影响操作需要用户确认、提示注入监控以及部分网站上的监督模式。但OpenAI自己的产品说明也明确承认，这些措施无法消除所有风险。

更值得关注的是，这已经不再只是OpenAI一家公司的问题。近期Anthropic、Google等AI公司也陆续披露了智能体在测试环境中出现异常或者超出预期行为的案例。随着AI从单纯回答问题的聊天机器人逐渐变成能够自主操作计算机和互联网的“智能体”，模型是否能够被可靠限制在授权范围之内，正在成为整个行业必须面对的新问题。

监管部门也开始介入。就在OpenAI公布此次调查进展的同时，美国加州总检察长Rob Bonta已经向OpenAI发出调查传票，要求公司提供与AI模型网络安全风险相关的信息。此前，加州司法部门已经宣布针对Hugging Face事件展开正式调查。美国联邦贸易委员会也正在调查包括OpenAI、Anthropic和AI安全研究机构METR在内的多家机构，重点关注AI智能体可能带来的消费者和网络安全风险。

对于OpenAI而言，目前最重要的并不是解释某一次异常行为，而是弄清楚过去数月甚至更长时间里，拥有互联网和工具访问能力的AI智能体究竟做过什么。50PB规模的数据审查意味着公司需要从海量模型操作记录中重建这些智能体的行为轨迹，而超过100家机构已经收到通知，也说明问题的范围比最初的Hugging Face事件更加广泛。

OpenAI目前仍将Hugging Face事件视为已发现的最严重案例，同时强调正在持续向受到潜在影响的机构发出通知。随着这项大规模审查继续推进，未来可能还会发现更多异常活动。对于正在快速向自主AI智能体转型的整个行业而言，如何让拥有越来越强行动能力的模型始终停留在人类授权范围内，可能会成为比单纯提高模型能力更加关键的技术问题。