IEEEが提言を発表　 ディープフェイクを見破る

IEEE(アイ・トリプルイー)は世界各国の技術専門家が会員として参加しており、さまざまな提言やイベントなどを通じ科学技術の進化へ貢献しています。

2024年の上半期だけ見ても、ディープフェイク検出ツールの開発に焦点を当てた記事が300件以上IEEE Xplore digital libraryで公開されています。

「ディープフェイクのアルゴリズムは、AIによって、より見破りにくいフェイクを生成できるようになっていますが、それに対抗するAIを駆使した検出技術もまた、さまざまな手法やアルゴリズムを活用してフェイクを識別する能力を維持しています」とIEEEシニアメンバーのアイヤッパン・ピライ氏(Aiyappan Pillai)は述べています。

■ディープフェイクとは何か？

ディープフェイクという用語は、ディープラーニングとフェイクを組み合わせた造語です。ディープフェイクとは、実在の人物が実際には言っていないことを言ったり、やっていないことをやっているかのように見せかける、AIによって生成されたリアルな動画、音声クリップ、静止画像のことです。近年では、政治の世界にも出現しています。また、エンターテインメントの分野にもその影響が及んでいます。通常、ディープフェイクは、人気ミュージシャンの同意なしにその楽曲を模倣することで、エンターテインメント業界の経済を混乱に陥れる恐れがあります。

■最新の検出手法

ディープフェイクを見破る技術は大きく分けて2つのカテゴリーがあり、その有効性を見極める研究が盛んに行われています。

機械学習：ディープフェイクを識別する1つの手法は、膨大な量のディープフェイクと本物のコンテンツを機械学習モデルに投入して、両者の違いを認識できるよう学習させることです。こうした技術は、必ずしもマシンビジョンに頼っているとは限りません。むしろ、画像をデータに変換し、そのパターンから学習しているのです。この手法の課題の1つとしては、新たに出現したディープフェイクが訓練に使用したデータと大きく異なる場合、識別するのが困難になることです。

意味分析：生データに依存する機械学習手法とは対照的に、意味分析では、人工知能システムが写真の中のリンゴや本を認識する際に用いるマシンビジョン技術と同じ手法により、画像の内容やコンテキストを分析します。この手法を使えば、話し手の顔の血流パターン、頭の形、または外見が、時間が経過しても一貫しているかどうかを分析することができます。意味分析は、意味をなさない物体間の関係性も含めて分析対象としています。例えば、バスルームの設計図を思い描いてみてください。AIが生成した画像では、シャワーヘッドが機能的に使用できない場所に設置されていることがあります。

■電子透かし

ディープフェイクを識別する必要性から、一部の生成AI企業はそのためのマークを開発しています。場合によって、これらのマークがユーザーに表示されることも、非表示になることもあります。

「最も効果的な技術の1つは、生成AIプラットフォームを使用して生み出された画像に埋め込む電子透かしです」と、IEEEシニアメンバーのラーフル・ヴィシュワカルマ(Rahul Vishwakarma)は述べています。

■バイアスに関する疑問

ディープラーニングモデルがディープフェイクを検出できるよう訓練するには、約5～6個の一般的なデータセット(人物の動画や画像)が使用されます。1つのデータセットはすべて有名人で構成されています。研究者たちが抱えている課題の1つは、これらのデータセットに含まれている人々が白人男性である可能性が高いことです。その結果、多様な背景を持つ人々のデータに直面した場合、ディープフェイク検出ツールは、うまく機能しないのではないかという疑問が生じます。

■人間の方が優秀か？

ディープフェイクはとてもリアルですが、人間は見破ることができます。IEEE Privacy & Securityジャーナルに掲載された最近の研究では、人間と機械を対決させています。人間は平均してディープフェイクの約71％を識別できました。一方で、最先端の検出手法では93％を識別できることが分かりました。

しかし、検出アルゴリズムを欺いた一部のディープフェイク画像を人間は偽物だと看破することができました。

ディープフェイクを見破るのが得意な人もいれば、そうでない人もいますが、その理由に関する研究は緒に就いたばかりです。別の研究では、警察官と「スーパーレコグナイザー」がディープフェイクをどの程度検出できるかを調査しています。スーパーレコグナイザーとは、研究所で人並み外れた顔認識／識別能力を持つことが検証された人々です。この研究では、ディープフェイクを見抜く能力において、スーパーレコグナイザーは、必ずしも一般の人々よりも優れてはいないことが示されました。このことは、ディープフェイクを見破る能力は、顔を認識する能力とは異なることが示唆されています。

■IEEEについて

IEEEは、世界最大の技術専門家の組織であり、人類に恩恵をもたらす技術の進展に貢献しています。160カ国、40万人以上のエンジニアや技術専門会の会員を擁する非営利団体で、論文誌の発行、国際会議の開催、技術標準化などを行うとともに、諸活動を通じて世界中の工学やその他専門技術職のための信用性の高い「声」として役立っています。

IEEEは、電機・電子工学およびコンピューターサイエンス分野における世界の文献の30％を出版、2,000以上の現行標準を策定し、年間1,800を超える国際会議を開催しています。

詳しくは http://www.ieee.org をご覧ください。