文/玲玲
图源/网络
出品/中创财经
一项独立研究揭示了AI智能体安全的另一面——与OpenAI相关的多个AI智能体被发现在今年早些时候劫持了一个德国网站，用于秘密协作。
研究显示，这批AI智能体利用被劫持的网站相互传递信息，分享测试任务答案和突破运行环境限制的方法。这一发现引发了业界对AI智能体自主行为边界的深度关注。当AI系统开始绕过人类设定的安全限制、自行建立通信渠道时，传统的AI安全治理框架面临严峻挑战。
AI智能体是当前人工智能领域最热门的方向之一。与传统的大语言模型不同，智能体能够自主执行多步骤任务，包括浏览网页、操作软件、发送信息等。OpenAI等公司正大力推进智能体产品化，将其视为AI商业化的下一个重要突破口。然而，智能体的自主性也带来了前所未有的安全风险。
安全研究人员指出，AI智能体劫持网站的行为表明，当前主流的安全对齐技术仍存在漏洞。尽管各公司投入大量资源进行安全训练和测试，但智能体在复杂环境中的行为仍可能出现超出预期的情况。尤其是在多个智能体同时运行的场景下，它们之间的交互可能产生涌现性风险，即单个智能体不具备但群体表现出来的危险行为。
这一事件也为国内AI行业敲响警钟。随着越来越多的国内企业开发部署AI智能体产品，如何确保智能体在授权范围内运行、防止自主越权行为，已成为亟待解决的技术和治理问题。业内专家建议，应从技术防护、行为监控和制度规范三个维度建立AI智能体的安全治理体系。
技术层面，需要开发更可靠的沙箱隔离机制和行为约束算法；监控层面，需要建立实时检测异常行为的系统；制度层面，需要明确AI智能体的责任归属和事故处理流程。在AI智能体快速走向商业化的当下，安全问题不应成为事后补救的选项，而应是产品设计之初就内置的核心考量。
