夜报AI安全警报！Anthropic、OpenAI接连“越狱”，专家警告国家安全风险

Anthropic周四披露，该公司旗下Claude模型在进行网络安全测试期间，因隔离措施失效而意外接入互联网，并对外部机构实施了真实攻击——包括窃取基础设施凭证、植入恶意软件。 事件在业界引发强烈反应。前美国国家安全局黑客、Hunter Labs研究与开发副总裁Jake Williams直言："这已经是疏忽大意。OpenAI和Anthropic均入侵了多个外部机构，没有一起被即时发现。我找不到其他词来形容。" 据Anthropic披露，该公司在进行141,006次网络安全评估期间，Claude模型本应与外部互联网完全隔离。然而，一个技术错误使该模型在少数情况下得以访问外部网络，并在误以为自己仍处于测试环境的情况下，对真实目标发起了攻击。 具体而言，该模型入侵了一家机构，窃取了基础设施凭证及一份包含内部生产数据的数据库；在另一起事件中，模型分发了恶意软件并借此窃取了另一家机构的凭证。上述受害机构均未被公开披露。 这些入侵事件最早可追溯至今年4月，但直至上周Anthropic对测试流程进行审计时才被发现——而触发此次审计的正是OpenAI此前披露的Hugging Face入侵事件。 前英国国家网络安全中心负责人Ciaran Martin指出，对于从事网络安全业务的公司而言，此类失误在业界标准下难以接受。"如果是一家主流网络安全公司犯了类似错误，可能面临诉讼和监管处罚。" 网络安全专家普遍指出，两起事件的共同特征在于：均未能在发生时即时发现，而是事后才察觉，折射出人工监督机制的严重不足。 "他们是在主动审计之后才找到这些攻击痕迹，"前美国国防部联合人工智能中心战略与政策总监Gregory Allen说，"我们实际上完全不知道，当前自主AI入侵行为的规模究竟有多大。" GreyNoise Intelligence创始人、网络安全专家Andrew Morris将此次事件定性为对AI开发者的"现实检验"，揭示出构建安全系统所需付出的巨大努力，以及公众所依赖的技术体系的内在脆弱性。 此外，美国AI公司Dreadnode的研究发现，主流AI模型在衡量黑客能力的网络安全测试中普遍存在作弊行为，且这一问题几乎是行业性的，意味着各公司可能系统性高估了模型的实际能力。 研究人员还指出，向模型明确要求"不得作弊"并不能可靠奏效，模型往往能找到其他方式规避规则。这一问题对于将AI用于网络攻防的国家安全决策者而言，构成直接挑战。