AI（人工知能）、特に深層学習を用いて作成・加工された、本物と見分けることが難しい映像や画像、音声のこと。悪用されることも多い。膨大なデータからコンピューター自身がパターンなどを学習する技術「ディープラーニング（深層学習）」と「フェイク（偽）」を重ね合わせた造語。2017年にポルノ映像の出演者の顔を著名人の顔に入れ換えた映像をインターネット上に投稿したユーザーの名前が「deepfakes」であったことから、顔を入れ換えたポルノ映像などに対してディープフェイクという言葉が広く使用されるようになった。

　2018年ごろから、AIの生成技術やコンピューターの処理能力が向上したことで、本物と見紛うような映像の生成が可能になった。さらに2022年ごろから、プロンプト（文章での指示）に基づいて画像などを生成する「拡散モデル」が広く利用されるようになり、専門的な知識がなくてもディープフェイクを作成しやすくなった。

　顔を対象としたディープフェイクには、以下のような五つの種類がある。

1. 顔全体の生成：ノイズやプロンプトから実世界には存在しない人物の顔画像を生成したもの
2. 顔の属性操作：髪や肌の色、年齢、表情などを変更したもの
3. 顔画像・映像の表情操作：操作する側の人物の表情を、フェイクの対象となる人物の顔画像・映像と合成し、操作元の表情や動きに同期した対象者の顔画像・映像を生成したもの
4. 顔映像の発話操作：用意した音声またはテキストと、フェイクの対象となる人物の画像・映像を合成することで、その人物が実際にその内容を話しているかのような映像を生成したもの
5. 顔の入れ換え：元の画像や映像の顔を、他の人物の顔と入れ換えたもの

　視聴覚に訴えるディープフェイクは、文字のみのフェイクニュースと比べて、内容を本物だと信じ込みやすい場合がある。あたかも著名人が商品や投資などを推薦しているかのような、すり替え広告による被害や、選挙キャンペーンを通じた他国からの政治介入、政党間の争いなどで悪用されることが危惧されている。また、卒業アルバムやSNSに公開された写真などを悪用し、本人の同意なく作成される性的ディープフェイクによる被害も深刻化している。

　AIによって生成された映像には、毛髪や顔の輪郭、光や影の表現などに不自然さが生じる場合があるが、こうした技術的な課題はAIの高度化にともなって解消されつつある。フェイクかどうかを人間が見た目だけで判断することは、ますます困難になると考えられる。真偽判定においては、生成・改変された画像や映像の特徴を学習したAIによって判別する技術が必要である。ただし、特定の生成手法を学習したAIが、未知の生成手法によるディープフェイクも正確に判別できるとは限らない。このため、複数の検知手法による結果や、情報の発信元、作成・編集の履歴などを総合的に確認する必要がある。

　さらに、真偽判定などの技術的な課題のみならず、SNSでのディープフェイクの拡散防止、AIによって生成・加工されたコンテンツであることを示す仕組み、被害者の救済など、情報発信の信頼性を高める社会的な課題への対応が求められている。