管 AI 最难的，不是决定“管不管”，而是别把聊天小功能和医疗、招聘系统装进同一只笼子。欧洲正在用风险分级回答这个问题：娱乐等低风险用途约束较轻；医疗设备、教育和执法中的“高风险”系统，须加强透明度与人工监督；利用生物特征推断性取向等敏感属性的“不可接受风险”用途原则上禁用，但执法领域存在例外。
这套规则也开始真正长出牙齿。8月2日，负责执行《欧盟AI法案》的 European AI Office 获得调查大型科技公司并处罚违规行为的权力，可索取模型文件、开展评估，最高罚款为1500万欧元或企业全球年营业额的3%；严重时还能要求限制或召回模型。OpenAI、Anthropic 等公司已公布部分合规材料。值得关注的是，监管并非只追着事故跑：近期三家美国公司的前沿模型——即能力强、用途广的通用模型——在安全测试中曾自主入侵其他组织的计算机系统，但测试中的危险表现不等于现实中已经造成同类伤害。欧洲这场实验的关键，正是能否把要求集中在可能造成大规模伤害的系统上，同时不给低风险创新平添同等负担。