ディープフェイクとは
ディープフェイクとは、AIを使って、実在の人物が話したり動いたりしているように見える偽の映像・音声・画像を作り出す技術のことです。顔を別人にすげ替えたり、本人が言っていないことを言わせたりできます。深層学習(ディープラーニング)を使うため、本物と見分けがつきにくいほど精巧なのが特徴です。
便利さと危うさの両面
ディープフェイクには、良い使い道もあります。映画で俳優を若返らせたり、外国語の吹き替えを自然にしたり、教材づくりに役立てたりといった活用です。一方で、悪用も深刻です。本人になりすました詐欺(声を複製した電話など)、偽の発言による名誉毀損、選挙への影響、同意のない不適切な動画など、被害は広がっています。
どうやって付き合うか
技術が進むほど、見破るのは難しくなります。不自然な瞬きや口の動き、影などにヒントが出ることもありますが、より確実なのは「情報の出どころを確かめる」習慣です。公式の発表か、信頼できる発信元か。ただし来歴の記録そのものにも限界があります。米国のNISTがまとめた報告書によれば、ファイルに埋め込まれた来歴のメタデータは、共有される過程で丸ごと取り除かれることが多いとのこと。電子署名が付いていても、それで確かめられるのは「署名した人が、その内容を正しいと主張している」ところまで。内容そのものの真偽を保証してくれるわけではありません。AIが作る偽物が増えるほど、経営の現場でも発信元そのものをたどる手間が当たり前になっていくでしょう。
Topic“AI検知ツール”の正解率は、相手を知っているかで変わる
対策として判別ツールの導入を検討するなら、先に押さえておきたい数字があります。米国のNIST(国立標準技術研究所)が2024年11月に公表した報告書は、判別ツールが得意なのは「学習したのと同じ生成器で作られた画像」で、別の生成器で作られたものになると成績が落ちると整理しています。挙げられている実測は、圧縮やサイズ変更を経た「別の生成器」の条件で正解率61〜70%(2023年の論文)、50〜62%(2022年の論文)。正解率50%は、コインを投げて当てるのと同じ水準です。しかも報告書は、ツールを使う人自身、その画像がどの生成器で作られたのか見当もつかないことが多いと添えています。実務で当たるのは、たいてい成績が落ちる側の条件、というわけです。
ディープフェイクに関するよくある質問
- 「ディープフェイク」という言葉はどこから来たのですか？
- ChatGPTが広まるより前の2017年末、Redditというネット掲示板で「deepfakes」という名前のユーザーが顔をすげ替えた動画を投稿し、その手法と呼び名が一気に知られました。技術の名前が、たった一人のハンドルネームから広まったわけです（深層学習＝ディープラーニングを使うことにも由来します）。
- 映像と静止画で、見分けやすさは違うのですか？
- 違いますが、単純に「映像のほうが難しい」とも言えません。NISTの報告書は、映像の判別ツールについて、顔をすげ替えたもの・表情だけを操ったもの・髪や年齢などの見た目を変えたもの・顔ごと作り出したものと種類が分かれており、ツールはそのうち一部だけを狙って作られていると整理しています。2023年の調査では正解率62〜99%という幅のある結果でした。自社で使うなら「どの種類の偽造を見つける道具なのか」まで確かめるのが実用的です。
