--- title: "ディープフェイクを使ったなりすましへの備え｜AI-Ready.jp" url: https://www.ai-ready.jp/guide/deepfake-fraud-prevention/ description: "AIで作った偽の声や映像によるなりすましは、見分けることに頼らず、依頼の重さに応じて折り返しの確認や複数人の承認を決めておく手続きで備えるのが現実的です。IPA・警察庁・FBIの資料で整理しました。" updated: 2026-11-12 publisher: "フロレンティナ株式会社" --- 広げる[柱：基盤とセキュリティ](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) # ディープフェイクを使ったなりすましへの備え 執筆：[石田誠](https://www.ai-ready.jp/about/authors/#ishida)更新 2026-11-12最終確認 2026-11-12出典 4件[図解 2点](https://www.ai-ready.jp/zukai/) この記事の結論 AIで作った偽の声や映像によるなりすましは、見分けることに頼らず、依頼の重さに応じて「折り返しの確認」「複数の人の承認」を決めておく手続きで備えるのが現実的です。 自社の「基盤とセキュリティ」の準備度は？[10問・約3分で確かめる（無料・登録不要）](https://www.ai-ready.jp/diagnosis/quick/) 生成AIを使うと、実在する人の声や顔に似せた音声・映像を作れるようになりました。こうした偽の音声や映像はディープフェイクと呼ばれ、経営者や取引先になりすました詐欺にも使われています。この記事では、IPA（情報処理推進機構）、警察庁、米国のFBIの資料にそって、手口と会社としての備えを整理します。 この記事でわかること - ディープフェイクを使ったなりすましの主な手口 - 「見分ける」より「確かめる」手続きが大切な理由 - 依頼の重さに応じた確認の決め方と、社内への伝え方 ## ディープフェイクは、どんななりすましに使われていますか？ IPAの「情報セキュリティ10大脅威 2026」解説書は、ビジネスメール詐欺（BEC）の手口の説明の中で、**なりすましにAIによるディープフェイクなどの利用も確認されている**としています。弁護士などの社外の権威ある第三者を名乗る手口では、生成AIなどによる偽の電話が使われることもあるとしています。 米国のFBIが運営するIC3（インターネット犯罪苦情センター）は、2024年12月の注意喚起で、生成AIを使った金銭の詐欺の手口を次のように挙げています。 | 手段 | 注意喚起で挙げられている使われ方（要約） | |---|---| | 声の複製 | 身近な人や著名人の声に似せた音声で支払いを求める。音声を使って本人になりすまし、銀行の口座に入ろうとする | | 偽の動画 | 会社の幹部や捜査機関などを装った動画を、リアルタイムのビデオ会議に使う | | 偽の画像・文章 | 実在しそうな人物の写真やプロフィール、自然な文章で信用させる | 日本でも、警察庁の資料が引用する政府の人工知能基本計画は、ディープフェイクなどAIを悪用した問題が表に出てきていることを挙げ、AIを悪用したサイバー攻撃や詐欺への対応を図るとしています。 ## なぜ「見分ける」より「確かめる」なのですか？ FBIの注意喚起は、画像や映像の不自然さ（手や顔のゆがみ、影、声と口の動きのずれなど）に目を向けることも挙げています。一方で、生成AIの性能は上がり続けており、短い通話や画面の小さいビデオ会議では、違和感に気づけないこともあります。 FBIの注意喚起は、一般の人に向けた助言として、電話をいったん切り、相手の組織の連絡先を自分で調べて、その番号に直接かけ直して確かめることを挙げています。IPAの解説書も、振込依頼や口座の変更の依頼は、ふだんの連絡手段とは別に事前に取り決めたルートで確かめることを対策に挙げています。 **相手の顔や声が本人らしいかどうかではなく、「決めた手順で確かめたかどうか」で判断する**のが、ディープフェイクへの備えの考え方です。 「見分ける」と「確かめる」の違い - **見分けることに頼る**：不自然さに目を向けることも挙げられていますが、短い通話などでは違和感に気づけないこともあります - **決めた手順で確かめる**：電話をいったん切り、自分で調べた連絡先にかけ直します。**顔や声が本人らしいかではなく、手順で確かめたかで判断**します ## 確かめる手順は、どう決めればよいですか？ すべての依頼を厳しく確かめると、業務が回らなくなります。依頼の重さに応じて、確認の強さを変えると続けやすくなります。 ① **お金や信用に関わる依頼を洗い出す**：送金、振込先の変更、取引の条件の変更、機密の情報や個人情報の送付、アカウントの権限の変更、パスワードのリセットなどです。 ② **依頼の重さで段階を分ける**：たとえば、金額が一定以上の送金や振込先の変更は「重い」、社内向けの資料の共有は「軽い」などと分けます。 ③ **段階ごとに確認の方法を決める**：「重い」依頼は、決めておいた別の手段での折り返しと、複数の人の承認を組み合わせます。 ④ **折り返しの連絡先を前もって登録する**：届いたメールや通話で伝えられた番号ではなく、契約書や社内の名簿にある連絡先を使います。 ⑤ **例外の扱いを決める**：「社長が出張中で急いでいる」といった例外の場面ほど、なりすましに使われやすくなります。例外のときこそ手順を省かない決まりにします。 IPAの解説書は、なりすましのメールで「緊急」や「他の従業員には秘密」と添える例を挙げています。**急がせる・口止めする依頼は、確かめる合図**として社内で共有しておくと効果的です。 FBIの注意喚起は、家族の間で本人を確かめるための秘密の言葉を決めておくことも挙げています。これは家族を対象にした個人向けの助言で、会社での使い方を示したものではありません。会社で同じ考え方を取り入れる場合は、合言葉が漏れることもあるため、合言葉だけに頼らず、折り返しの確認と組み合わせることが考えられます。 読みながら、自社の現在地を確かめませんか クイック診断は10問・約3分・登録不要です。7つの柱ごとの目安と、「基盤とセキュリティ」を含めて次に取り組むことがわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/)[結果の解説（30分・無料）](https://www.ai-ready.jp/consult/review/) ## ビデオ会議や電話での依頼には、どう備えますか？ ビデオ会議や電話では、その場で答えを迫られ、確かめる時間を取りにくくなります。次のような決まりを用意しておくと、落ち着いて対応しやすくなります。 - 会議や通話の中では、送金や権限の変更を決めない。会議の後に、決めた手順で確かめてから実行する - 初めての相手や、ふだんと違う経路（個人のアカウント、知らない会議の招待など）からの依頼は、相手の組織の公式の連絡先で確かめる - 「カメラの調子が悪い」「声がかすれている」などの説明で、確認を省こうとする依頼には注意する 警察庁の資料は、銀行を名乗る電話でメールアドレスを聞き出し、偽のメールに誘導する「ボイスフィッシング」の被害も紹介しています。銀行から電話があったときは、代表電話などに折り返して本物かどうか確かめる対応を社内で徹底するよう呼びかけています。声による依頼全般にも参考になる考え方です。 ## 自社の役員や社員の声・顔は、どう扱えばよいですか？ 偽の音声や映像は、公開されている動画や音声をもとに作られることがあります。FBIの注意喚起は、個人向けの助言として、可能であれば自分の画像や声をネット上に公開する範囲を絞ることを挙げています。 会社としては、役員の講演や動画の発信をやめる必要はありません。**声や顔が公開されていることを前提に、手続きで守る**と考えるほうが現実的です。そのうえで、社内向けの動画を社外に公開しない、会議の録画の保管場所と閲覧できる人を決める、といった管理をあわせて行うと安心です。 ## 社員への伝え方と、起きたときの動き方は？ ① **確かめることを責めない**：上司や取引先を疑うようで気が引ける、という心理が詐欺に使われます。「決めた手順で確かめるのは当然」と経営者から伝えておくことが大切です。 ② **訓練で体験する**：AIで作った音声の例を見せたり、偽の依頼を想定した手順の練習をしたりすると、手順が身につきやすくなります（「[社員のセキュリティ教育の進め方](https://www.ai-ready.jp/guide/security-education/)」参照）。 ③ **被害に気づいたらすぐ報告する**：送金してしまった場合は、すぐに金融機関に連絡し、警察にも相談します。社内の報告の流れは「[セキュリティ事故が起きたときの対応の手順](https://www.ai-ready.jp/guide/security-incident-response/)」にまとめています。 依頼の重さに応じた確認の決め方 **洗い出す**：送金、振込先の変更、機密の情報の送付、権限の変更など **段階を分ける**：金額や影響で「重い」「軽い」に分ける **確認の方法を決める**：重い依頼は、別の手段での折り返しと複数の人の承認 **連絡先を登録する**：契約書や社内の名簿の連絡先を使う **例外の扱いを決める**：**例外のときこそ手順を省かない** ## チェックリスト ## 関連するひな形・ガイド・用語 ひな形 - [セキュリティ事故の初動チェックリスト](https://www.ai-ready.jp/templates/incident-response-checklist/) ガイド - [フィッシングとビジネスメール詐欺への備え](https://www.ai-ready.jp/guide/phishing-and-bec-prevention/) - [AIのセキュリティの基本：AIへの攻撃とAIを使った攻撃への備え](https://www.ai-ready.jp/guide/ai-security-basics/) - [社員のセキュリティ教育の進め方](https://www.ai-ready.jp/guide/security-education/) - [セキュリティ事故が起きたときの対応の手順](https://www.ai-ready.jp/guide/security-incident-response/) 用語 - [ディープフェイク](https://www.ai-ready.jp/glossary/deepfake/) - [ビジネスメール詐欺（BEC）](https://www.ai-ready.jp/glossary/bec/) - [ソーシャルエンジニアリング](https://www.ai-ready.jp/glossary/social-engineering/) - [承認フロー](https://www.ai-ready.jp/glossary/approval-workflow/) - [フィッシング](https://www.ai-ready.jp/glossary/phishing/) ## よくあるご質問 Q偽の声や映像は、注意して見れば見分けられますか？ AFBIの注意喚起は、画像や映像の細かな不自然さに目を向けることも挙げていますが、生成AIの性能は上がり続けています。見分けることだけに頼らず、電話を切って公式の番号にかけ直すといった確認の手続きで備えるほうが、確実性を高めやすくなります。 Qビデオ会議で上司の顔が映っていれば、本人と考えてよいですか？ AFBIの注意喚起は、会社の幹部などを装った偽の動画が、リアルタイムのビデオ会議に使われることがあるとしています。顔や声が本人らしくても、送金や機密の情報に関わる依頼は、決めておいた別の手段で確かめる決まりにしておくと安心です。 Q社員に何を伝えれば、被害を防ぎやすくなりますか？ A「顔や声が本人らしくても、決めた手順で確かめてよい」と伝え、確かめることで責められない雰囲気をつくることが大切です。至急や内密を強調する依頼ほど確かめる、という行動の目安もあわせて伝えます。 ## この記事に出てくる用語 - [生成AI](https://www.ai-ready.jp/glossary/generative-ai/) - [ディープフェイク](https://www.ai-ready.jp/glossary/deepfake/) - [ビジネスメール詐欺（BEC）](https://www.ai-ready.jp/glossary/bec/) - [要約](https://www.ai-ready.jp/glossary/summarization/) - [人工知能（AI）](https://www.ai-ready.jp/glossary/artificial-intelligence/) - [人工知能基本計画](https://www.ai-ready.jp/glossary/ai-basic-plan/) - [フィッシング](https://www.ai-ready.jp/glossary/phishing/) - [承認フロー](https://www.ai-ready.jp/glossary/approval-workflow/) - [ソーシャルエンジニアリング](https://www.ai-ready.jp/glossary/social-engineering/) ## 「基盤とセキュリティ」のほかの記事 [この柱の解説 →](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) [広げる／基盤とセキュリティAIと社内システムをAPIでつなぐ基本：仕組み・手順・安全の確かめ方石田誠2026-11-12](https://www.ai-ready.jp/guide/api-integration-basics/)[広げる／基盤とセキュリティAIのセキュリティの基本：AIへの攻撃とAIを使った攻撃への備え石田誠2026-10-26](https://www.ai-ready.jp/guide/ai-security-basics/)[定着させる／基盤とセキュリティAIの運用（MLOps・LLMOps）の基本：作った後に品質を保ち続ける仕組み石田誠2026-11-12](https://www.ai-ready.jp/guide/mlops-llmops-basics/) ## 出典 1. [IPA「情報セキュリティ10大脅威 2026」解説書［組織編］](https://www.ipa.go.jp/security/10threats/omgdg50000008fi8-att/kaisetsu_2026_soshiki.pdf) 2. [警察庁「令和7年におけるサイバー空間をめぐる脅威の情勢等について」](https://www.npa.go.jp/publications/statistics/cybersecurity/data/R7/R07_cyber_jousei.pdf) 3. [Federal Bureau of Investigation（FBI）IC3「Criminals Use Generative Artificial Intelligence to Facilitate Financial Fraud」（2024年12月3日、I-120324-PSA）](https://www.ic3.gov/PSA/2024/PSA241203) 4. [IPA「ビジネスメール詐欺（BEC）対策特設ページ」](https://www.ipa.go.jp/security/bec/index.html) 最終確認日：2026-11-12 ## 次の一歩 [測るAI-Ready診断（無料）いまの準備状況を、7つの柱で確かめられます。](https://www.ai-ready.jp/diagnosis/) [相談する結果の解説（30分・無料）診断の結果をもとに、オンラインでご説明します。](https://www.ai-ready.jp/consult/review/) [窓口ご相談のお申し込み経営・M&A・事業承継・上場・バリューアップはフロレンティナ、AIの導入・開発・データ・セキュリティ・研修はアメリア・テクノロジーがお受けします。](https://www.ai-ready.jp/consult/apply/) 目次 1. ディープフェイクは、どんななりすましに使われていますか？ 2. なぜ「見分ける」より「確かめる」なのですか？ 3. 確かめる手順は、どう決めればよいですか？ 4. ビデオ会議や電話での依頼には、どう備えますか？ 5. 自社の役員や社員の声・顔は、どう扱えばよいですか？ 6. 社員への伝え方と、起きたときの動き方は？ 7. チェックリスト 8. よくあるご質問 この記事が扱う柱 主に「基盤とセキュリティ」 [基盤とセキュリティの解説](https://www.ai-ready.jp/about-ai-ready/infrastructure-security/) 自社の準備度を確かめる 10問・約3分・登録不要。7つの柱ごとの目安がわかります。 [無料で診断する](https://www.ai-ready.jp/diagnosis/quick/) --- 出典：フロレンティナ株式会社「ディープフェイクを使ったなりすましへの備え｜AI-Ready.jp」 https://www.ai-ready.jp/guide/deepfake-fraud-prevention/