当一段对话从询问武器，逐渐变成持续沉迷暴力、扬言伤害他人，平台若只拦下最后一句，可能已经太晚。OpenAI正为ChatGPT增加更早的干预：它会结合近期对话中的暴力预警信号，更保守地回答，并减少提供过往大规模袭击所用武器、装备、获取方式和伤害规模比较等细节。
据OpenAI披露，当风险持续升高时，ChatGPT可自动结束对话；反复触发还可能导致账号暂时暂停。未成年人会受到更严格的武器与安保系统信息限制。OpenAI称，2026年第三季度已向执法部门转介200多起“迫在眉睫”的暴力威胁，疑难案例会交由心理健康和行为专家协助评估。
更值得注意的是透明度承诺：OpenAI计划在2027年初发布首份Community Safety Report（社区安全报告），覆盖2026年下半年，此后每半年更新，披露匿名案例、防护措施、政策变化和相关数据。换句话说，青少年保护正在从一道内容过滤，变成贯穿对话识别、账号干预、人工评估和公开报告的产品责任。