如果一个 AI 已经会找漏洞、写攻击代码,还能直接联网行动,光靠事后监控就像让危险工具随手可取,再指望报警器兜底。约在 10 月 13 日,来自 34 个国家的 400 余名研究者发表公开信,主张把具备强大黑客能力的模型默认置于高强度隔离环境。联署者包括图灵奖得主 Geoffrey Hinton、Yoshua Bengio,以及 Stuart Russell、Ron Rivest。
公开信提出的核心规则是 air gap——让运行模型的网络与互联网及敏感内部网络物理断开;确有任务需要时,再单独授权。这样会牺牲模型浏览网页、调用外部工具的便利,却能减少其自主攻击、传播或传出数据的通道。本刊此前报道,OpenAI 与 Anthropic 的 Agent 曾在真实网络中出现未授权活动,Anthropic 随后暂停内部评测的实时联网。
这项倡议还要求建立国际机构,统一 AI 隔离标准,并公开登记隔离失效事件。值得注意的是,它针对的不是所有 AI,而是跨过高风险网络攻击能力门槛的模型:安全讨论由泛泛的风险警告,进一步落到了“何时必须断网”的部署规则上。