OpenAI 的安全研究员既要找出模型可能失控或被滥用的风险,也会接触未发布模型、内部测试结果等敏感信息。如今,这两项职责之间的张力再次浮出水面:据《华尔街日报》报道,OpenAI 已与安全团队的三名研究员分手,理由是他们涉嫌向一家第三方 AI 安全组织分享公司机密信息。
OpenAI 发言人称,内部调查确认三人绕过既定流程,不当处理了敏感信息,违反公司政策并破坏工作所需的信任。但报道没有披露三人的姓名、接收信息的组织,以及具体涉及哪些资料。社交平台 X 上流传了一些身份猜测,TechCrunch 表示无法确认。
这件事值得关注,不只因为又有安全人才离开。第三方安全组织可以提供独立监督,但内部研究员向外交换信息时,也会撞上公司的保密义务。眼下最关键的问题仍无答案:三人是否先通过内部渠道提出过担忧。两天前,《纽约时报》刚报道有员工认为 OpenAI 管理层淡化安全警告;OpenAI 则称公司重视这些问题,也承认需要加快处理。