诈骗来电终结者，藏进手机里

骗子很少一上来就让你转账。更常见的剧本是：先冒充银行、政府机构或熟人，陪你聊几轮，建立信任，再用“账户异常”之类的理由催你交出资料或汇款。单看其中一句，每句话都可能很正常；连起来看，操纵意图才会浮现。

Google DeepMind与新加坡政府技术局GovTech Singapore正在合作，把识别这类对话的AI放进用户手机。它会在设备本地分析聊天，在发现可疑模式后实时提醒用户：分享敏感信息或转账前，先停一下。值得注意的是，这还是一项将分阶段接入公民应用的部署计划，并非已经全面上线。本文涉及的项目设计、损失数字和效果描述，主要来自Google DeepMind单一官方博客，尚无独立评测或真实部署数据交叉验证。

不只找关键词，而是看一段对话

传统拦截工具擅长检查可疑号码、链接或关键词。但社会工程诈骗并不一定破解系统，而是靠冒充、施压和建立信任来操纵人。识别这种骗局，需要理解前后几轮对话，而不是只盯着某一句话。

这个项目以Gemma为基础。Gemma是Google的轻量开放权重模型家族，可以针对特定任务调整。团队使用新加坡本地诈骗对话对模型进行微调——也就是在通用模型之上继续训练，让它更熟悉某一类问题。训练材料覆盖冒充公共机构、银行、本地人物以及区域流行骗局等场景。

本地化很关键。同一句催促、同一种身份包装，放在不同地区，可能使用完全不同的机构名称和表达方式。DeepMind称，通用模型往往不擅长识别这些本地欺骗手法；微调后的Gemma负责结合更大范围的聊天上下文，判断对话究竟是普通社交，还是正在把人推向泄露凭证或转账。

手机里设两道安检

让Gemma持续阅读全部聊天，既耗电，也会放大隐私疑虑。团队因此采用两阶段管线，可以把它理解为两道安检。

第一道是一款低功耗的轻量分类器，快速筛查收到的消息，只挑出潜在威胁。第二道才调用微调后的Gemma，读取更大一段对话，确认威胁或排除误报。发现操纵性对话模式后，系统会直接在设备上发出警告。

这种设计的重点不是让大模型时刻盯着每句话，而是把较费算力的判断留给少数可疑对话。识别也在端侧完成——端侧AI指模型直接运行在手机等本地设备上，不必先把聊天内容传到云端。按照官方披露，部署后模型须经用户同意，才能依照所在应用的使用条款访问设备内对话；Google和新加坡政府无法通过该部署读取这些对话。

训练环节也设置了隔离。DeepMind称，微调在GovTech管理的GCP“主权沙箱”中进行，训练数据不包含公民私人资料或可识别个人身份的信息，而是来自匿名化诈骗报告、情报数据和合成对话。团队还用合成对话及本地语料测试不同诈骗类别和不断变化的冒充手法。

为什么值得关注

这首先是一个“小模型如何落地”的具体样本：它没有追求包办一切，而是被放进明确的公共安全流程中，与更轻的分类器分工，并受到手机功耗和隐私边界约束。

需求也很现实。DeepMind称，诈骗占新加坡已报告犯罪的一半以上，自2019年以来造成超过40亿新元损失。官方博客还称，复杂社会工程诈骗造成的损失最高可占全部诈骗损失的80%，但没有交代这一比例的统计时段和口径，因此只能谨慎看待。

反诈本身也是一场猫鼠游戏。据Channel NewsAsia报道，新加坡2020年推出ScamShield，以警方维护的号码名单拦截诈骗电话和短信；到2023年，骗子却开始冒用ScamShield的名称和标志，诱导受害者从站外链接安装假应用。工具名称本身也能被包装成骗局，说明单靠固定名单很难覆盖不断变化的话术。能理解连续对话、又不必把聊天上传云端，正是这项尝试最有意思的地方。

局限与未知

官方没有公布准确率、召回率、误报率、测试集规模或基线对比，也没有真实部署后的拦截成效，暂时无法判断它到底能抓住多少骗局，又会打扰多少正常聊天。
“端侧运行”不等于绝对没有数据风险。现有材料没有说明操作系统权限、日志、遥测、模型更新，以及承载模型的应用方能否接触数据。
两阶段流程的公开说明有限。模型将接入哪些应用、覆盖哪些对话渠道、何时扩大部署，仍待后续披露。