AI使って何かしてみた２ Gemini編　～中級：一般生活向け【第47回】AIが創るリアルな嘘！ディープフェイクの仕組みと見破り方 (2025年6月版) ～

【参考】予定している内容

Geminiにリストアップしてもらった100回分の内容はリンク先を参考にしてください。

前回はAIとウェアラブルデバイスを活用したパーソナル健康管理術について探りましたね。

今回は、AI技術がもたらす「光」だけでなく、その強力さゆえに生じる「影」の部分、特に社会を揺るがす可能性のある「ディープフェイク」に焦点を当てます。
「AIが作った本物そっくりの偽動画、見分けられる？」「そもそもディープフェイクってどんな仕組みなの？」「AIが生み出す嘘に、AI自身で対抗することはできるの？」そんな疑問に答えながら、情報化社会の新たな脅威と、それから身を守るための知識と視点について、一緒に考えていきましょう。
（※この記事の情報は2025年6月現在のものです。ディープフェイク技術とその検出技術は日々進化していますので、ご利用の際は最新情報をご確認ください。）

▼Geminiの作ってくれた記事▼

【第47回 中級編】AIが創るリアルな嘘！ディープフェイクの仕組みと見破り方 (2025年6月版)

皆さん、こんにちは！AIブログ第47回、中級者編の7回目です！🥳 （前回は、AIとウェアラブルデバイスで実現する、未来のパーソナル健康管理についてお届けしました。🏃‍♀️❤️）

さて今回は、AI技術の驚異的な進化がもたらした、非常にパワフルでありながら、同時に深刻な社会的課題も提起している「ディープフェイク（Deepfake）」技術について、その基本的な仕組みから、悪用された場合のリスク、そして私たちがその「巧妙な嘘」を見破るためのヒントまで、中級者の視点から詳しく解説していきます。

「有名人が、実際には言っていないことを話している動画」「歴史上の人物が、まるで生きているかのように滑らかに動く映像」――これらは、もはやSF映画の中だけの話ではありません。ディープフェイク技術は、エンターテインメントや教育分野で素晴らしい可能性を示す一方で、偽情報の拡散、詐欺、名誉毀損といった犯罪に悪用される危険性もはらんでいます。

AIが生み出す「リアルすぎる偽物」が溢れる時代において、私たちは情報を受け取る側として、どのような知識とリテラシーを身につけるべきなのでしょうか？AIが生み出した脅威に、AI自身で対抗する「検出技術」の最前線にも触れながら、この新しい課題と向き合っていきましょう。

🤔 そもそも「ディープフェイク」って何？（その驚異的な仕組み）

「ディープフェイク」とは、AI技術の一分野である「ディープラーニング（深層学習）」と、「フェイク（偽物）」を組み合わせた造語です。具体的には、AIを使って、特定の人物の顔や声を、別の映像や音声に非常にリアルに合成・置換する技術のことを指します。

その仕組みの中心にあるのが、主に「GAN（ギャン、敵対的生成ネットワーク - Generative Adversarial Network）」や、より高度な「オートエンコーダー」といったAIモデルです。

仕組みをものすごく簡単に例えるなら…

AIの中に、「偽物を作る職人（生成者 - Generator）」と、「偽物を見破る鑑定士（識別者 - Discriminator）」という二人の専門家がいると想像してください。

1. 偽物職人（生成者）の挑戦: まず、偽物職人（生成者AI）は、ターゲットとなる人物（例えばAさん）の顔写真を大量に学習し、その特徴を覚えます。そして、別の人物Bさんが映っている動画を元に、Bさんの顔をAさんの顔に置き換えた「偽の動画」を作ります。最初は、とても下手くそな偽物しか作れません。

2. 鑑定士（識別者）の見破り: 次に、鑑定士（識別者AI）が、その偽物職人が作った動画を見て、「これは本物のAさんの動画か、それとも偽物か」を判定します。最初は、鑑定士は簡単に偽物を見破ります。

3. 互いに競い合い、超絶進化！: ⚔️✨ ここからがポイントです。偽物職人は、鑑定士に「偽物だ！」と見破られたことをフィードバックとして受け取り、「次はもっとバレないように、もっとリアルな偽物を作ってやる！」と、さらに腕を磨きます。一方、鑑定士も、より巧妙になっていく偽物を見破るために、鑑定の精度を上げていきます。 この**「作る側」と「見破る側」が、互いに何百万回、何千万回と高速で競い合い、切磋琢磨し続ける**ことで、最終的に偽物職人は、鑑定士ですら見分けるのが非常に困難な、**人間が見てもほとんど違和感のない、超リアルな偽動画（ディープフェイク）**を作り出せるようになるのです。

この敵対的な学習プロセスにより、ディープフェイク技術は驚異的なリアリティを獲得しました。

⚠️ ディープフェイクが悪用されるリスクとは？（なぜ社会問題になるのか）

エンターテインメントやアートの世界で新しい表現を生み出す可能性を秘める一方で、ディープフェイク技術が悪意を持って利用された場合、以下のような深刻な社会問題を引き起こす可能性があります。

• 偽情報の拡散と世論操作: 💥 政治家や政府要人が、実際には言っていない過激な発言や政策発表をしているかのような偽動画を拡散させ、選挙に影響を与えたり、社会に混乱や分断を引き起こしたりする。

• 詐欺・金融犯罪: 💸 企業のCEOや家族の声をAIで模倣し、「緊急で送金してほしい」といった電話をかける「なりすまし詐欺（ボイスフィッシング）」。あるいは、経営者の偽動画を使って株価を不正に操作する。

• 名誉毀損・プライバシー侵害: 💔 特定の個人の顔を、不適切な映像（ポルノグラフィなど）に合成し、その人の社会的信用や名誉を著しく傷つける。

• 証拠の捏造と司法への影響: 犯罪の証拠となる映像や音声がディープフェイクによって捏造され、司法の公正性が揺らぐ。

• 「何も信じられなくなる社会」の到来: 何が本物で何が偽物かの区別がつかなくなると、人々は映像や音声といった情報全般に対する信頼を失い、社会全体のコミュニケーション基盤が危うくなる（これを「ライアーズ・ディビデンド（嘘つきの配当）」と呼ぶこともあります）。

これらのリスクから、ディープフェイク技術は「諸刃の剣」として、その規制や対策が世界中で急務とされています。

🧐 巧妙な嘘を見破れ！ディープフェイク動画を見分けるための7つのヒント

100%確実に見破れる方法はありませんが、ディープフェイク動画には、しばしば不自然な「綻び」が見られることがあります。動画を見る際に、以下のポイントに注意を払うことで、偽物である可能性に気づけるかもしれません。

1. ①「まばたき」の不自然さ: 初期のディープフェイク動画は、まばたきの回数が異常に少なかったり、全くしなかったりする傾向がありました。これは、学習データにまばたきをしている瞬間の顔写真が少なかったためです。最近では改善されていますが、それでもまばたきのタイミングや速度に不自然さがないか注意してみましょう。

2. ② 顔の輪郭や髪の毛の「境界線」の違和感: 顔を合成しているため、顔の輪郭、特にあごや首、耳の周り、そして髪の毛の生え際などが、背景と比べてわずかにぼやけていたり、不自然に滲んでいたり、あるいは逆にクッキリしすぎていたりすることがあります。

3. ③ 肌の「質感」や「色味」の不自然さ: 肌の質感が、まるで人形のようにツルツルしすぎていたり、顔の色と首の色が微妙に異なっていたり、照明の当たり方に対して影のつき方が不自然だったりすることがあります。

4. ④「表情」や「動き」の硬さ・不一致: 顔の表情の動きがどこか硬かったり、ロボットのようだったり、あるいは話している内容と口の動き、表情が微妙に一致していないように見えることがあります。特に、急に顔の向きを変えた時などに、映像が一瞬乱れたり、不自然になったりすることがあります。

5. ⑤「歯」や「目」のディテールの不自然さ: 歯の形が一本一本不自然に均一だったり、リアルさに欠けていたりすることがあります。また、瞳に映り込んでいるはずの光（キャッチライト）が、照明の位置と比べて不自然な場合もあります。

6. ⑥ 音声との「同期」のズレや音質の違和感: 映像だけでなく、音声もAIで生成されている場合、映像の口の動きと音声が完全に同期していなかったり、音声自体にノイズが乗っていたり、どこかロボットのような抑揚のない話し方だったりすることがあります。

7. ⑦「情報源」と「文脈」を徹底的に確認する（最も重要！）: 技術的な見分け方以上に重要なのが、その動画が「どこから発信された情報なのか」「信頼できる情報源なのか」を確認することです。衝撃的な内容の動画であればあるほど、一度立ち止まり、その動画について報じている他の信頼できるニュースメディアなどがないか、クロスチェックする習慣が不可欠です。（これは第28回でお話ししたフェイクニュース対策の基本と同じです。）

これらのポイントを知っておくだけでも、情報をより注意深く、批判的に見る姿勢が身につきます。

🤖 AIは嘘を見抜ける？「ディープフェイク検出技術」の最前線と限界

「偽物を作るのがAIなら、それを見破るのもAIだ！」ということで、ディープフェイクを自動で検出するAI技術の研究開発も世界中で活発に進められています。

• ディープフェイク検出AIの主なアプローチ:

  • 不自然な兆候の検出: 上記で挙げたような、人間が見ても気づきにくいレベルの「まばたきのパターンの異常」「心拍による微細な顔色の変化の欠如」「光の反射の物理的な不整合」といった、AI生成物特有の微細な「綻び」をAIが検出します。

  • 生成モデルの「指紋」の検出: 特定のAIモデル（GANなど）が画像を生成する際に残す、目に見えない固有の「指紋」や「透かし（ウォーターマーク）」のような信号を検出し、どのAIモデルによって生成されたかを特定しようとする研究。

  • コンテンツ来歴技術 (Content Provenance): 画像や動画が撮影された瞬間から、編集・加工の履歴をブロックチェーン技術などを使って改ざん困難な形で記録・追跡し、そのコンテンツが「本物」であり、途中で不正な改変がされていないことを証明する技術。

• 検出技術の限界と「いたちごっこ」: これらの検出技術は日々進化していますが、残念ながらディープフェイクを生成する技術もまた、これらの検出技術を回避するように進化しています。よりリアルで、より「綻び」の少ない偽動画が次々と生み出されており、生成技術と検出技術は、まさに「いたちごっこ」の状態にあるのが現状です。100%の精度で全てのディープフェイクを自動で検出できる完璧なツールは、まだ存在しません。

🎉 まとめ：AIが生む嘘と真実、見抜く力は「私たち自身」の中に！

今回は、AI技術の強力さがもたらす負の側面として、「ディープフェイク」の仕組みとそのリスク、そして私たちが見破るためのヒントについて詳しく解説しました。

ディープフェイク技術は、使い方次第でエンターテインメントや教育に新たな価値をもたらす可能性を秘めている一方で、悪用されれば社会に深刻な混乱をもたらす「諸刃の剣」です。AIによる検出技術も開発が進められていますが、最終的に情報の真偽を判断し、その情報にどう向き合うかを決めるのは、私たち人間自身です。

技術的な見分け方のポイントを知っておくことはもちろん重要ですが、それ以上に、情報の出どころを常に確認し、複数の情報源で裏付けを取り、そして自分の感情や思い込みに流されずに批判的な視点を持つという、基本的な「メディアリテラシー」を身につけることが、このAI時代を賢く、そして安全に生き抜くために最も重要なスキルと言えるでしょう。

AIが生み出すリアルな「嘘」に惑わされず、AIがもたらす「真実」の価値を見極める。その力は、私たち一人ひとりの中にこそあるのです。

次回は、AI画像生成技術を応用して、オリジナルのLINEスタンプ作りに挑戦します！テーマは「【中級編】AIを使ってオリジナルのLINEスタンプをデザインしてみよう！」です。あなたの創造力が形になる楽しい体験にご期待ください！

※今回の感想（ここは私が記載ｗ）

AIを使って画像や動画を簡単に作れるような時代になりましたが、逆にフェイク動画やフェイク画像、記事などもディープフェイクが簡単に作れるようになってきてしまいました。
テレビなどでも昔からどっきり映像などと特集がありましたが、最近は本当なのかどうか？疑問に思ってしまいますよね。
災害などの時にフェイク画像などを掲載して混乱させるような情報を発信するいたずらなども多くなっています。
いかにして情報を検証して正しいかどうかを判断するのはこれから大事なスキルだったりするんでしょうね。

まだまだ続けてみますね。