Anthropic 向外部 AI 监督机构开放员工级访问权限,允许其评估模型风险

Anthropic 已向外部评估机构授予「类员工」访问权限,用于评估其模型风险,以落实加强安全保障的承诺。非营利机构 METR 曾与 OpenAI、Anthropic、谷歌和 Meta 等实验室合作,目前已有团队进驻 Claude 开发方办公场所,可访问相关内部资源。

Anthropic 近日宣布,已向外部评估机构授予「类员工」级别的访问权限,允许第三方团队深入其内部系统,对旗下模型的风险进行评估。这一举措被视为该公司落实加强安全保障承诺的具体行动,回应了外界对先进人工智能技术可能失控的担忧。此前,Anthropic 曾多次公开表示将加大对模型安全性的投入,而此次开放内部访问权限,正是把承诺转化为可验证机制的重要一步。

据披露,非营利机构 METR 已派出团队进驻 Claude 开发方的办公场所,并获得对其硬件与内部系统的访问权限。METR 长期与 OpenAI、Anthropic、谷歌和 Meta 等领先实验室合作,在 AI 风险评估领域积累了丰富经验。与以往仅能接触公开接口或有限文档不同,此次「类员工」访问意味着外部评估者可以像内部人员一样,直接观察模型的训练与部署环境,从而更全面地识别潜在风险。这种深度开放的做法在业内尚不多见,也标志着第三方监督从形式走向实质。

从行业层面看,赋予第三方评估机构更大角色,是各大实验室应对能力更强 AI 系统所提风险的主要具体举措之一。随着模型能力快速提升,其对经济、网络安全乃至人类整体的潜在影响引发越来越多的警惕。Anthropic 此次开放员工级访问权限,不仅为 METR 等机构提供了独立验证的窗口,也可能推动行业形成更透明的安全评估标准。若这一模式被更多实验室采纳,第三方评估有望成为 AI 治理体系中的常规环节,帮助监管者与公众更准确地判断模型风险,并在技术发展与安全保障之间建立更可信的平衡。