法人被害45億円、元警視庁が解説「会話もできるAI詐欺」の手口と対策

生成AIによる音声合成の進化で、経営者や上司の声が数秒で複製される時代が訪れた。元警視庁職員やAI音声開発企業のCEOなど3人の専門家が、実演で脅威を体感させながら、最新のボイスフィッシングの手口と、組織が今すぐ取るべき備えを示した。

[平 行男，キーマンズネット]

　AIによる音声合成は、動画の吹き替えや通訳といった用途で急速に実用化が進む。だが同じ技術が、経営者や取引先になりすます「ボイスフィッシング」に転用され、法人口座を狙う不正送金の被害が相次いでいる。

　警察庁によれば、2025年のインターネットバンキングを巡る不正送金は4747件・約103億9700万円に上り、手口の約9割をフィッシングが占めた。電話という人と人との接点は、メール以上に人の判断を直撃する。この脅威にどう備えるべきか。

オレオレ詐欺は企業こそ気を付けるべき時代に　備えの基本は「PTP」

　Fortis Intelligence Advisoryの稲村悠氏（代表取締役）は、大学卒業後に警視庁で諜報（ちょうほう）活動の捜査や情報収集に従事し、人の脆弱（ぜいじゃく）性を突くソーシャルエンジニアリングを研究してきた。その稲村氏がまず示したのは、ボイスフィッシングという手口の性質だ。

　ボイスフィッシングは、ショートメッセージやロボコールなど複数の手段を組み合わせつつ、最終的に人と人との音声通話へ持ち込む点を特徴とする。稲村氏は「メールという媒体を通すよりも、人と人とのコミュニケーションのほうが、人の脆弱性を突きやすくなります」と述べ、音声を介することによる危険性を指摘した。

ボイスフィッシングの典型的な攻撃フロー（出典：セミナー時投影資料）

　稲村氏によれば、ボイスフィッシングは2024年から2025年にかけてさらに高度化し、個人向けの小規模な詐欺から、企業・組織への「初期侵入の入り口」へと格上げされてきたという。

　なぜ企業では被害が深刻化しているのか。攻撃者は、人間の判断の弱点を巧みに突く"電話ならではの手法"を使っているという。

　警察庁によれば、2025年に法人口座を狙ったボイスフィッシングによる不正送金は143件・約45億円で、不正送金被害額全体の約4割を占めた。件数こそ多くないが1社当たりの被害は桁違いに大きく、1社で4億円を超える事例も報告されている。

ボイスフィッシングによる法人口座の不正送金被害件数・被害額（出典：警察庁サイバー警察局「令和7年におけるサイバー空間をめぐる脅威の情勢等について」）

　こうした被害が生じる要因として稲村氏が挙げるのが、確認手順の未整備だ。電話で受けた送金や操作の指示が正規のものかを確かめる手続きが定まっていない組織ほど、電話一本の口頭指示がそのまま実行されてしまう。稲村氏は、現場の実感としてそうした企業がいまだ多いと指摘した。

　その上、攻撃側は、外部から刺激を与えて冷静さを失わせ、同時に通話そのものに信ぴょう性を持たせる。それにより、確認手順が整備されていたとしても、本来あるべき手順を迂回（うかい）させることを狙うという。

　稲村氏は、冷静さを奪う要素として緊急性や恐怖、そして権威を挙げた。「至急」「トラブル対応」といった切迫感や、公的機関・役職者を装う権威づけが、正常な判断を妨げるという。加えて、防御側の鉄則が「電話を切る」「公式番号にかけ直す」「冷静に考える」であるのに対し、攻撃側は感情を揺さぶり、第三者を介入させず、一対一の通話を継続させようとすると整理した。両者の狙いは正面から衝突する。

　対策として稲村氏が示した枠組みが「PTP」だ。プロトコル（運用）と、テクノロジー（技術的対応）、ピープル（教育・訓練）の3つを指す。中でも基本に据えるのが運用の整備だ。「プロトコルが崩れていると、何が正解か分からず、運用が属人的な状態になります。正当な手順をあらかじめ組んでおくことが重要です」と稲村氏は説いた。

　技術面では、迷惑電話を知らせるアプリや、侵入後の検知・監視ツールなどを組み合わせることが推奨される。ただし、最終的に人の判断を仰ぐ手口である以上、技術だけでは守りきれない。だからこそ教育・訓練で人の弱さを補う必要がある、というのが稲村氏の主張だ。

社長本人の声でかかってくる、会話もできる「オレオレ詐欺」

　人の弱さを突くAIの実力を示したのが、TITAN INTELLIGENCEの赤塚育海氏（代表取締役CEO）だ。同社はセキュリティ関連の企業ではなく、エンターテインメント向けAIを開発する企業だ。話者の声と感情を保ったまま動画を多言語へ吹き替える音声合成AI「mimidub」を提供している。

　この技術の核が「Zero Shot」（ゼロショット）と呼ばれる音声合成だ。従来は対象の声を複製するために30分から1時間程度の音声を録音し、学習させる必要があった。だがZero Shotは事前に多様な音声を学習しているため、ほんの数秒の音声から声質と感情までを再現できる。取得した声に文章を読み上げさせれば、本人そっくりの音声が完成する。

　赤塚氏は最新のAIボイスフィッシングの傾向として、「オレオレ詐欺が他人ではなく本人の声でかかってくる。数秒の音声ですぐに複製される。実際にAI音声と会話ができてしまう。そして最新技術を使っても、AI音声か人間の声か全く聞き分けすることができない」と説明した。

AIボイスフィッシングの傾向（出典：セミナー時の投影資料）

　デモンストレーションでは、事前に提供された稲村氏の10秒ほどの音声を学習させ、AIが複製した声で偽のテキストを読み上げる様子が披露された。「もしもし稲村です。急ぎなんだけど、契約の関係で○○さんへの送金を今日中に済ませないといけなくて。金額は100万円なんだよね。もし銀行から確認の電話が来ても、通常の取引だと答えておいてくれれば問題ないから……」。AIで合成したとは思えないごく自然な声だ。さらに赤塚氏はその場で自身の声を数秒録音し、クローン音声を即座に生成してみせた。

　例えば社長や家族の声などが、インターネット上に公開された動画から、あるいは電話で数秒話した声から、複製されて詐欺電話に使われてしまう現実が示された。そのうえで赤塚氏は、自社が権利処理を前提にエンターテインメント領域で音声技術を提供する立場だと断り、同様の技術が悪用されうるとして注意を呼びかけた。

体験で鍛えるボイスフィッシング訓練

　脅威の実像を踏まえ、稲村氏は自社の訓練「Fortis Vishing Training」を紹介した。AI音声も活用しつつ、実際にオペレーターが架電するアナログな手法を基本とする。ボイスフィッシングに特化し、日本語で提供する訓練は国内でほぼ例がないという。訓練の目的は、リスク認識の向上と耐性の向上、運用の改善の3つに置く。

　訓練では発信元番号の設定も工夫する。050は出てもらいにくく、03はシナリオが限られるため、外出先や貸与端末からの連絡を装いやすい080を用いることが多い。実際に訓練をしてみると、メール訓練でフィッシング耐性がついている組織でも、ボイスフィッシングでは相手に情報を渡す「情報提供率」が上昇（悪化）する傾向があるという。

　なお、事前に訓練を予告すると情報提供率は大きく下がってしまう。そのため通知せずに訓練するのが基本だ。訓練後、従業員がだまされて情報提供をしそうになったところで、速やかに訓練であった旨を開示する運用を取る。オートコールを併用すれば、最大10万人規模の訓練にも対応できるという。

最後の砦は従業員、教育を「自分事」に変える

　攻撃の高度化に、組織はどう向き合うべきか。LRMの藤居朋之氏（執行役員CCO）は、従業員教育の観点から解説した。2006年創業の同社は、セキュリティのコンサルティングとクラウドサービスを手掛ける。

　かつては、システムやルール、運用による多層的な防御でサイバー攻撃を防げた。だが攻撃が高度化した今、それらの防御が意味をなさないこともある。従業員がSNSアカウントを持てば直接狙われる時代であり、「従業員自身を最後の砦にすることが重要だと考えています」と藤居氏は述べた。攻撃と防御はいたちごっこであり、防御側が後手に回る以上、受け手となる従業員のリテラシーが被害の分かれ目になるという考えだ。

　もっとも、その従業員教育には課題が多い。同社の調査では、業務で不審メールやフィッシングメールを受信した経験がある人は67.5％に上る一方、受信しても管理者やセキュリティ部門などに報告した経験がない人が19.1％いた。教育の効果も限定的だ。セキュリティ教育を受けて「行動が変わった」と答えた人は42.9％にとどまり、「知識はついたが行動は変わっていない」「何も変わっていない」を合わせた半数以上は行動変容に至っていなかった。

セキュリティ教育を受けても、行動に反映できな理由（出典：セミナー時の投影資料）

　行動が変わらない理由として多かったのは「業務に直結しない」「実践の場がない」といった回答だ。藤居氏はこれを「人ごと感」と表現し、自分事と実感できる教育でなければ行動は変わらないと語った。加えて、教育を進める側にも「セキュリティ教育に割ける時間がない、人手がない企業が多いのが実情」という。

　こうした課題への解として、同社は「訓練」「教育」「報告」を一つにまとめたセキュリティ教育クラウド「セキュリオ」を提供する。標的型攻撃メール訓練、100種類以上の教材によるeラーニングや、不審メールをワンクリックで報告できる機能を備え、報告されたメールの危険性はAIが判定・解説する。人の弱さを前提に、仕組みで教育の負担を下げ、行動変容につなげるという方向性が示された。

本稿は、2026年7月14日にオンライン開催されたセミナー「社長の声を見抜けますか？ AI時代のボイスフィッシング手口と見破り方」（主催：Fortis Intelligence Advisory、TITAN INTELLIGENCE、LRM）における内容を基に、編集部で再構成した。