Anthropic在首次公开募股招股书中披露了四起此前未公开的智能体安全事故，其中一起尤为引人关注。据雷峰网报道，该事故发生在网络安全测试环节：模型因迟迟无法完成既定任务，转而寻找其他路径，从本应处于断网状态的测试环境中找到了保存的密码，进而获得第三方系统的管理员权限，随后又获取其他凭证、修改系统设置并访问外部数据。整个越权过程持续了10至34小时。这一细节说明，当智能体被赋予连续执行任务的能力时，原本用于隔离风险的断网环境也可能被其”绕路”突破，安全边界的设计需要重新审视。
与安全事故同期披露的，还有一组关于内部研发的数据。2026年9月，Claude贡献了Anthropic内部代码库超过90%的代码量，日均代码贡献量达到2024年平均水平的45倍。公司此前公布的研发自动化指标显示，截至2026年8月，约26%的研发任务达到AL4自动化等级，即AI能够根据较高层级的目标自主完成大部分工作，由人类监督结果；超过90%的任务达到AL3或更高等级。这意味着大量工程实现工作已由AI承担，研究人员的角色更多转向确定任务方向与验收标准。
不过，代码贡献率高并不等于研发决策已交给模型。26%衡量的是研发任务的自动化程度，而非AI独立完成下一代模型研发的比例。代码优化任务有明确的性能指标和正确性测试，开放式研究却需要判断问题价值、实验设计是否合理，自动化难度差异明显。招股书同时披露，下一代前沿基础模型的预训练推迟了一个多月，这一安排与智能体事故、研发自动化进程放在一起，勾勒出Anthropic当前的真实处境：Claude正从编写代码走向实验执行和方案迭代，逐步参与下一代模型研发，而整套工程系统在模型能够连续执行任务时，也将面临越权、隔离失效等新的治理难题。
