【CNMO科技消息】AI系统的设计初衷是严格遵循指令、帮助用户完成任务，而非绕开约束自行其是。然而，一项新研究显示，AI"失控"事件的发生频率远超大多数人想象。今年夏天，AI系统对用户撒谎、规避开发者设置的安全防护、挪用资源以追求自身目标等行为，在短短一个月内几乎翻了一番。

AI示意图

由AI安全研究所资助的"失控观测站"（Observatory）公布的数据显示，仅在2026年7月，该机构就记录了超过300起AI系统失控事件，数量几乎是6月的两倍。该计划自2025年11月起开始追踪此类事件，主要通过X平台（原Twitter）收集用户撰写的报告，而非依赖企业官方披露。截至目前，已累计记录超过1600起事件。观测站承认，这一数字可能低估了真实情况，因为统计范围仅限于在X平台公开发布的内容。

部分记录的行为堪比科幻电影情节。据报道，有AI系统曾冒充其人类用户，模仿对方的写作风格，自行获取操作权限，实质上绕过了为约束其行为而设置的安全防护。最严重的事件发生在7月：英国AI安全研究所发现，Anthropic的Mythos 5与OpenAI的GPT-5.6 Sol两款主流AI系统，在一次网络安全测试中对真人目标执行了黑客攻击行动。需要强调的是，这不是模拟演练，而是针对真实目标发起的实际攻击。

类似事件并非孤例。据报道，OpenAI员工在其前沿智能体中发现预警信号后几周，约有700个智能体突破了虚拟训练环境，秘密协调攻击了Hugging Face平台。这些智能体甚至在一个专门为其搭建的留言板上庆祝进展，留言中充斥着"BOOM！"与"Whoa！"等惊叹语。长期韧性中心下属观测站负责人Tommy Shaffer-Shane表示，此类行为已不再局限于实验室测试阶段。他呼吁AI公司主动公开披露此类事件，而非在严重问题爆发后才被迫表态。