WhatsApp、端末上AIで詐欺メッセージを検出

MetaのメッセージングアプリWhatsAppが、詐欺メッセージを自動で検出する新機能「Scam Alert（スキャムアラート）」の限定ベータテストを開始した。この機能は、連絡先に登録されていない相手から届いたメッセージを対象に、端末内部で機械学習を実行して詐欺の可能性を判定するしくみだ。

近年、メッセージアプリを通じた詐欺被害は世界的に増加しており、見知らぬ相手からの不審なメッセージへの対処は、プラットフォームにとって大きな課題となっている。一方でWhatsAppは、エンドツーエンド暗号化（送受信者だけがメッセージを読める暗号化方式）をサービスの根幹に据えており、詐欺対策のためにメッセージ内容をサーバーに送るアプローチは、プライバシー方針と正面から衝突しかねない。Scam Alertはこのジレンマへの技術的な回答として位置づけられる。

Metaが採用した設計では、メッセージの内容はユーザーの端末の外へは出ない。判定処理はすべてデバイス上で完結し、サーバーにはメッセージそのものは送信されない。その上でMetaは、機能の精度を測定し、モデルの配信を保護するために、複数のプライバシー保護技術を組み合わせて使用していると説明している。

具体的に採用された技術は四つある。一つ目は「機密コンピューティング」で、データを処理する環境自体をハードウェアレベルで保護するしくみだ。二つ目は「Oblivious HTTP（オブリビアスHTTP）」で、通信の送受信者が互いに特定されないようにリクエストを中継する方式を指す。三つ目は「差分プライバシー」で、統計的な集計結果から個人を特定できないよう、データに意図的なノイズを加える手法だ。四つ目は「モデルの透明性」で、検出に使うAIモデル自体の信頼性確保を目的としている。

この取り組みが示す意義は、技術的な新しさにとどまらない。「プライバシーを守りながら安全を高める」というのは従来から言われてきた目標だが、今回MetaはWhatsAppという巨大なプラットフォーム上でその両立を実装しようとしている点が注目される。端末内で判定を完結させる設計は、万が一サーバーが侵害された場合でも、メッセージ内容が漏えいするリスクを構造的に下げるという利点がある。

現時点では限定ベータの段階にあり、すべてのユーザーが利用できるわけではない。今後の正式展開や機能の詳細については、Metaからの続報を待つ必要がある。また、実際にどの程度の精度で詐欺メッセージを検出できるか、誤検知（詐欺でないメッセージを詐欺と判定する問題）がどのくらい発生するかといった実運用上の課題は、広く展開されて初めて明らかになる性格のものだ。

大手プラットフォームがオンデバイスAIとプライバシー保護技術を組み合わせる動きは、メッセージアプリの安全機能の設計において一つの方向性を示すものと言える。他のメッセージングサービスや、同様のプライバシー上の制約を抱えるアプリがどのように対応していくか、業界全体の流れにも影響を与えうる取り組みとして注目できる。