AI詐欺メッセージ判定とは？｜できること・できないことと使い方

AI詐欺判定は、送信者を本人確認する仕組みではない

AIに文面やスクリーンショットを渡すと、緊急性、金銭要求、個人情報要求、不審なリンク、なりすましらしい表現など、複数の特徴からリスクを整理できます。画像対応のツールでは、画像内のテキストや画面構成も入力に使える場合があります。

ただし、AIが見ているのは基本的に渡された情報です。外部の配送状況、実際の請求残高、銀行口座の状態、送信者の本人確認情報まで自動的に分かるわけではありません。

手動AIチェックと自動フィルターは別カテゴリ

ScamScanの現在確認した実装は手動AIチェッカーです。SMSをバックグラウンド監視する機能、URLのライブレピュテーション照合、端末のマルウェアスキャンは確認していません。

テキストだけでなく、画像を扱う意味

スクリーンショットには、本文だけでなく表示名、ボタン、画面レイアウトなど追加の情報が含まれます。ScamScanの現在の実装では、画像をAI入力へ含め、システムプロンプト上はOCRによるテキスト抽出や視覚的な情報も分析対象にする設計です。

一方で、これを「ロゴが本物か確実に認証できる」「画像から詐欺を必ず見抜ける」とは扱いません。OCRや画像理解にも誤認識はあり得ます。

リスクスコアは「検証済み確率」とは限らない

AI判定ツールでは0〜100などのスコアを使うことがあります。ScamScanの現在の日本語UIには「詐欺確率」というラベルがありますが、確認したリポジトリには、スコアが実際の詐欺確率と一致することを示す校正試験や独立ベンチマークを確認できませんでした。

「高精度」を比較するときに見るもの

AIツールが精度を数値で訴求する場合は、その数字が何を測ったものかを確認する必要があります。

ScamScanについては、現時点で製品固有の検証済み精度率を公開claimに使える根拠を確認していないため、「高精度」「99%」などの表現はこのSEOサイトでは使用しません。

結果の「理由」が見えるか

二択結果だけより、どの要因が判断に影響したかが分かる方が、利用者自身が公式情報と照合しやすくなります。

ScamScanの結果モデルには、スコア、詐欺パターン分類、リスク要因、注意キーワード、推奨行動があります。たとえば緊急性、リンク、個人情報要求、金銭要求などを要因として返せます。

ただし、その要因自体も「詐欺の証拠」ではありません。正規サービスにも支払期限や本人確認があるため、最終的には公式サービス側の事実と照合します。

「ブロック」「報告」と表示されても、実際に実行するとは限らない

ScamScanには `block`、`ignore`、`verify`、`report` といった推奨行動タイプがあります。しかし、現在の `ActionCard` はそれらを画面上に表示するだけで、送信者ブロック、元メッセージ削除、警察・通信会社等への報告を実際に行う処理ではありません。

入力データの外部送信はどうなるか

AIチェッカーへメッセージを渡す以上、データの流れは重要な比較項目です。ScamScanの現在のコードでは、テキストや画像をAI APIへ送信します。アプリ内の同意画面でも、入力したメッセージ全文や添付画像等をAI判定のために送信することを説明しています。

一方、判定履歴と履歴用画像には端末側へ保存する実装があります。これはAI分析入力も端末内だけで処理されるという意味ではありません。

• 不要な氏名・住所・電話番号・注文番号等は、可能ならマスキングする
• スクリーンショットに通知欄や別の個人情報が写っていないか確認する
• 利用するAIチェッカーの送信先・保存・削除方針を確認する

AI判定を使う安全な順番