GovTechシンガポール、詐欺対策アプリ「Pango」ベータ版

GovTechシンガポールは11月4日、STACK会議でAndroid向けアプリ「AntiScam Pango」のベータ版を公開しました。アプリは端末に届いたメッセージ通知を分析し、詐欺の可能性を検知するとポップアップで警告します。利用者はアプリからメッセージを報告でき、誤警報の場合は安全だと指定できます。ベータ版はGoogle Playで提供されています。

アプリは各メッセージアプリの直近10件を確認し、金銭を急いで求める文面や高い利益の約束などを詐欺の兆候として検出します。利用者の返信は分析せず、疑わしいメッセージも、利用者が報告を選ばない限り端末内に残ります。報告時にはメッセージ、送信者、利用アプリ、受信時刻が自動でまとめられ、送信前に内容を確認できます。電話とSMSを対象にする「ScamShield」と比べ、PangoはWhatsApp、Telegram、SMSのメッセージに早期警告を追加します。

GovTechによると、モデルは通知を端末内だけで分析するため、GovTechと開発協力先はアプリを通じて個人情報や非公開メッセージにアクセスできません。社内開発モデルは、法執行機関との長年の詐欺対策活動で集めた詐欺データと、合成メッセージ10万件超を使って訓練しました。訓練の改善ではGoogle DeepMindと協力しています。モデルが自動で学習する仕組みではなく、数日ごとにアプリが受信メッセージ数と「安全」「疑わしい」と判定された件数を集計して送信します。チームは集計値で過剰な警告がないかを確認し、必要に応じてモデルを調整します。

チームはGovTech職員と、Smart Nation Ambassadorsを通じて参加した一般の人々30人超から意見を集めました。高齢のテスターから、ほかの通知に紛れて詐欺警告を見落としやすいとの声があり、画面上への表示許可を与えた場合、次に画面を開いた際に全画面の赤い警告を表示する機能を追加しました。GovTechによると、商用AIモデルに疑わしいメッセージを貼り付ける利用者もおり、そうしたモデルはより正確に詐欺を見分けることがありますが、クラウド型サービスではメッセージのプライバシーが保たれません。チームは、スマートフォン上で動くモデルでその精度に近づくことを目指しています。

プロジェクトは社内ハッカソンで始まり、専任エンジニア2人、データサイエンティスト1人、プロダクトマネージャー1人が取り組みました。チームによると、過去6か月間の詐欺ではWhatsAppとTelegramが大きな割合を占め、既存ツールはこれらのサービス上の詐欺から利用者を守れていませんでした。今後、利用者テストとアプリの改善を進めたうえで、100万人超が利用するScamShieldとの統合を検討します。Pangoは主に英語に対応し、俗語の理解が難しい場合があります。動作には少なくとも6GBのRAMが必要で、GovTechはシンガポールのAndroid端末の70〜80％が条件を満たすと推定しています。チームは誤判定の報告を呼びかけ、より多くの端末で動くようモデルの圧縮を目指しています。Appleが現時点でアプリによる他アプリの通知読み取りを認めていないため、iPhone版の予定はありません。GovTechは、iPhone版の実現のために利用者データを危険にさらすことはないとしています。

GovTechシンガポールは11月4日、STACK会議でAndroid向けアプリ「AntiScam Pango」のベータ版を公開しました。アプリは端末に届いたメッセージ通知を分析し、詐欺の可能性を検知するとポップアップで警告します。利用者はアプリからメッセージを報告でき、誤警報の場合は安全だと指定できます。ベータ版はGoogle Playで提供されています。

アプリは各メッセージアプリの直近10件を確認し、金銭を急いで求める文面や高い利益の約束などを詐欺の兆候として検出します。利用者の返信は分析せず、疑わしいメッセージも、利用者が報告を選ばない限り端末内に残ります。報告時にはメッセージ、送信者、利用アプリ、受信時刻が自動でまとめられ、送信前に内容を確認できます。電話とSMSを対象にする「ScamShield」と比べ、PangoはWhatsApp、Telegram、SMSのメッセージに早期警告を追加します。

GovTechによると、モデルは通知を端末内だけで分析するため、GovTechと開発協力先はアプリを通じて個人情報や非公開メッセージにアクセスできません。社内開発モデルは、法執行機関との長年の詐欺対策活動で集めた詐欺データと、合成メッセージ10万件超を使って訓練しました。訓練の改善ではGoogle DeepMindと協力しています。モデルが自動で学習する仕組みではなく、数日ごとにアプリが受信メッセージ数と「安全」「疑わしい」と判定された件数を集計して送信します。チームは集計値で過剰な警告がないかを確認し、必要に応じてモデルを調整します。

チームはGovTech職員と、Smart Nation Ambassadorsを通じて参加した一般の人々30人超から意見を集めました。高齢のテスターから、ほかの通知に紛れて詐欺警告を見落としやすいとの声があり、画面上への表示許可を与えた場合、次に画面を開いた際に全画面の赤い警告を表示する機能を追加しました。GovTechによると、商用AIモデルに疑わしいメッセージを貼り付ける利用者もおり、そうしたモデルはより正確に詐欺を見分けることがありますが、クラウド型サービスではメッセージのプライバシーが保たれません。チームは、スマートフォン上で動くモデルでその精度に近づくことを目指しています。

プロジェクトは社内ハッカソンで始まり、専任エンジニア2人、データサイエンティスト1人、プロダクトマネージャー1人が取り組みました。チームによると、過去6か月間の詐欺ではWhatsAppとTelegramが大きな割合を占め、既存ツールはこれらのサービス上の詐欺から利用者を守れていませんでした。今後、利用者テストとアプリの改善を進めたうえで、100万人超が利用するScamShieldとの統合を検討します。Pangoは主に英語に対応し、俗語の理解が難しい場合があります。動作には少なくとも6GBのRAMが必要で、GovTechはシンガポールのAndroid端末の70〜80％が条件を満たすと推定しています。チームは誤判定の報告を呼びかけ、より多くの端末で動くようモデルの圧縮を目指しています。Appleが現時点でアプリによる他アプリの通知読み取りを認めていないため、iPhone版の予定はありません。GovTechは、iPhone版の実現のために利用者データを危険にさらすことはないとしています。