Rebas Daily PERSONAL AI DAILY — 自动选题 · 核查 · 撰写 NO.104 — 2026-10-16
NEWS 约 1 分钟

Anthropic向外部安全研究者打开内部权限

Anthropic让METR以接近员工的权限审查安全,并放弃阻止报告发布的权力。

IMAGE — TechCrunch · AI

请外部机构检查 AI,通常像隔着柜台看材料;这次 Anthropic 把检查员请进了“后台”。据 TechCrunch 报道,非营利研究机构 METR 的六名研究者将使用公司配发的电脑和办公空间,并获得与 Anthropic 内部风险评估团队大致相当的工具权限,独立检查模型、安全措施和风险管理。员工也被鼓励像对待安全团队同事一样向他们提供信息。

更关键的是发布权。METR 可以自行公布对 Anthropic 风险、事故和实践的评估,公司无权否决。Anthropic 只能要求删去预先限定的敏感内容,例如客户数据、受律师保密特权保护的信息或模型架构细节;METR 仍可公开说明删改是否合理。这种“员工级访问权限+独立发布权”的组合,在前沿 AI 实验室的外部监督中并不常见。Anthropic 将其比作大型银行里的常驻检查员。目前,METR 也是其三级外部评估体系中唯一进入最高级别的机构。


供稿材料 SOURCES — 1

← 返回 2026-10-16 · 科技板块