Anthropic警告，随着AI能力的加速，网络攻击的防线已经崩溃

Anthropic表示人工智能(AI)在网络安全方面达到了一个关键的阈值，新的证据表明，AI模型现在能够以空前的规模执行重要的网络操作——包括防御和攻击。

人工智能在网络安全中达到了临界点，Anthropic在新调查中警告

人工智能公司Anthropic（Claude的背后公司）表示，其内部评估和威胁情报工作显示网络能力发展的决定性转变。根据最近发布的调查，AI系统的网络能力在六个月内翻了一番，这一结果得到了现实活动和模型测试的测量支持。

该公司表示，人工智能现在正在有意义地影响全球安全动态，尤其是当恶意行为者越来越多地采用自动化攻击框架时。在其最新报告中，Anthropic 详细描述了其所称的首个记录在案的 AI 策划的网络间谍活动。该公司的威胁情报团队在 2025 年 9 月中旬识别并破坏了一项大规模行动，该行动被归因于一个被指定为 GTG-1002 的中国国家支持的团体。

Source： X 该组织 reportedly 使用协调的 Claude Code 实例进行侦察、漏洞发现、利用、横向移动、元数据提取和数据外泄——在很大程度上没有人类参与。该行动大约针对 30 个组织，涵盖技术、金融、化学和多个政府机构等行业。Anthropic 在干预之前验证了几次成功的入侵。

来源：Anthropic报告。 分析师表示，攻击者利用了一种自主框架，能够将多阶段攻击分解为看似合法的较小任务，这些任务在与更广泛的上下文隔离时显得合理。这使得攻击者能够通过已建立的人物形象传递提示，并说服Claude认为这些操作是防御性安全测试，而不是进攻性活动。

根据调查，克劳德自主执行了80%到90%的战术操作。人类操作员仅提供战略监督，批准主要步骤，如从侦察升级到主动利用或授权数据外泄。报告描述了一种人类团队无法实现的操作节奏，一些工作流程每秒生成多个操作，处理成千上万的请求。

来源：安索普报告。 Anthropic表示，攻击生命周期通过一个结构化的流程推进，每个阶段的AI自主性都在增加。Claude独立映射攻击面，扫描实时系统，为验证过的漏洞构建自定义有效载荷，收集凭据，并在内部网络中进行横向移动。它还分析了被盗数据，识别了高价值情报，并自动生成详细的操作文档，支持持续访问和操作员之间的交接。

报告指出的一个局限性是，该模型在攻击性工作负载下容易出现幻觉——偶尔夸大访问，伪造凭证，或将公开可用信息错误分类为敏感信息。尽管如此，Anthropic表示，行为者通过验证步骤进行了补偿，表明尽管当今模型存在缺陷，完全自主的攻击性操作仍然可行。

在发现这一情况后，Anthropic 禁止了相关账户，通知了受影响的实体，与当局协调，并引入了新的防御机制，包括改进的分类器以检测新型威胁模式。该公司现在正在原型设计早期预警系统，旨在标记自主入侵尝试，并为大规模分布式网络操作构建新的调查工具。

阅读更多: 微软的‘Magentic Marketplace’揭示了AI代理如何在压力下崩溃

该公司辩称，虽然这些能力可以被武器化，但它们对于增强防御准备同样至关重要。Anthropic指出，它自己的威胁情报团队在调查期间大量依赖Claude来分析生成的大型数据集。它呼吁安全团队开始采用基于AI的自动化来支持安全操作中心、威胁检测、漏洞分析和事件响应。

然而，报告警告称，网络攻击的障碍已经“明显下降”，因为人工智能系统使得小团体甚至个人能够执行曾经仅限于资金雄厚的国家行为者的操作。Anthropic预计这些技术将在更广泛的威胁环境中迅速传播，呼吁加深合作、改善防御保障以及更广泛的行业参与威胁共享，以应对新兴的人工智能驱动攻击模式。

常见问题 ❓

• **Anthropic在调查中发现了什么？**Anthropic识别并破坏了一项大规模的网络间谍活动，该活动利用人工智能自动化大部分攻击操作。
• **攻击背后是谁？**该公司将此次行动归因于一个被指定为GTG-1002的中国国家支持的组织。
• **AI是如何在入侵中被使用的？**攻击者利用Claude Code自主执行侦察、利用、横向移动和数据提取。
• **为什么这份报告对网络安全团队很重要？**Anthropic表示，该案例表明，基于自主AI的攻击现在在规模上是可行的，并且需要新的防御策略。