给同一套 AI：一家医院要求医生复核，另一家直接照单执行，结果可能完全不同。问题不只在模型聪不聪明、会不会出错，还在谁提问、谁采纳答案、谁能纠错，以及组织有没有明确责任。只盯模型能力，很容易误判 AI 的真实影响。
据 Science 摘要页，Pietro Michelucci 指出，近期 AI 企业高管向联合国安理会提出的建议，主要围绕模型防护、评测和治理，却较少处理 AI 与人和机构互动时产生的风险。他主张把安全分析扩展到“人机系统”——把人和 AI 看作共同决策的整体，并将数据、组织规则与基础设施一并纳入。
这不意味着模型评测无用。评测像给机器做标准化考试，能发现能力和缺陷；但它未必看得见真实流程中的误用、盲信和责任错位。文章的提醒很朴素：评估 AI，不能只检查发动机，还要看谁在驾驶、道路怎样设计。现有材料未披露更具体的评估方案或案例。