一条聊天消息先寒暄几句,再抛出投资机会,最后催你交注册费。面对这种步步推进的骗局,新加坡GovTech Singapore推出了一款反诈手机应用AntiScam Pango。只要可疑通知进入手机,应用就会弹出提醒;用户可以直接举报,也可以确认误报后标记为安全。

这款应用目前在Google Play Store开放Android内测。GovTech Singapore于11月4日在STACK大会上宣布启动测试,暂未提供iPhone版本。团队解释称,Android系统允许应用读取其他应用的通知,包括WhatsApp、Telegram和短信;Apple目前并不允许同类操作,因此iPhone版本暂时没有时间表。
其核心是一套可在手机本地运行的小型人工智能模型。应用会分析新收到的通知,寻找索要紧急款项、承诺高回报等诈骗迹象,但不会分析用户发出的回复。官方称,分析过程完全在用户设备上完成,GovTech Singapore及参与开发的各方不能借此访问个人信息或私人消息。
为训练模型,GovTech Singapore的产品团队使用了多年反诈骗工作中收集的超过100,000条合成消息和诈骗数据,并正与Google DeepMind合作继续训练。模型不会自行学习。每隔几天,应用只会汇总收到的消息数量,以及用户标记安全或可疑的情况,团队再据此判断误报是否过多并调整模型。

应用不会翻看完整对话。团队表示,它只检查每个聊天应用中最近10条收到的消息。举报时,系统会自动整理可疑内容、发送者、聊天平台和消息到达时间,用户能够在提交前检查。发送者的消息默认留在手机里,只有用户主动选择举报,内容才可能被提交。
首批测试收集了GovTech Singapore员工和公众成员的反馈,参与者超过30人。一些年长测试者表示,弹窗提醒混在其他通知中容易被忽略。团队随后加入全屏红色警告,在用户下一次打开屏幕时再次显示,不过这需要用户授予显示叠加层权限。
团队没有选择体积更大的云端模型。虽然这类模型识别诈骗通常更准确,但可疑内容需要发送到外部服务,隐私难以得到同等保护。现阶段,小模型主要使用英语,对俚语也可能不够敏感;手机内存至少需要6GB RAM,团队估计这能覆盖新加坡70%至80%的Android手机,压缩模型也在计划之中。

AntiScam Pango源自一次内部黑客松,团队由两名全职工程师、一名数据科学家和一名产品经理组成。它与现有ScamShield的分工不同:ScamShield覆盖电话和短信,新应用则重点为WhatsApp、Telegram和短信提供早期预警。团队接下来将继续测试、优化模型和提醒方式,之后再评估是否整合进拥有超过一百万名用户的ScamShield。
OpenClaw—AI研究