IEEE(アイ・トリプルイー)は世界各国の技術専門家が会員として参加しており、さまざまな提言やイベントなどを通じ科学技術の進化へ貢献しています。

ほとんどの人は、真実と虚構を見分けることができると信じています。ところがディープフェイクが台頭したことで、見分けるのはかなり困難になっていきます。

ディープフェイクとは、人工知能(AI)によって、まるで本物のように見えたり聞こえたりするように生成された、音声、動画、静止画などのデジタルコンテンツのことです。通常、その人の言動ではないことを、あたかも本人がしたり言ったりしているかのように表現します。サイバーセキュリティの専門家や技術者は、このコンテンツが詐欺や偽情報の拡散など、さまざまに悪用される可能性があると警告しています。

■リスクの特定

ディープフェイクの台頭に関して、専門家が特に警告している分野が有名人と政治の世界です。

しかし、中には個人を標的にする攻撃もあります。IEEEのメンバーであるレベッカ・ヘロルド氏(Rebecca Herold)は、ディープフェイクの危険性がよくわかる逸話を紹介しています。

「私の友人が出張中に奥さんから電話を受けました。彼女はひどく動揺していて、すすり泣きながら自分が事故に遭ってしまったことを話し、レッカー車の代金を払うお金を持っていないと訴えました。友人は、もう少しでそれを信じるところでした。その声は奥さんにそっくりだったからです。それでも、彼は今からレッカー車業者に代金を送ると言ってその電話を保留にして、奥さんの電話番号に電話しました。奥さんは事故になど遭っていませんでした。彼は、その声は本物のようで、もう少しで騙されるところだったと語っています。」

■指は何本ある？ ：ディープフェイクの見分け方

ディープフェイクは信じられないほど説得力があるものの、本物との違いがわかるわずかな手がかりが含まれていることが多々あります。

IEEEメンバーのエール・フォックス氏(Yale Fox)は次のように述べています。「現時点で、ディープフェイクは本物の動画とまったく見分けがつかないわけではありませんが、少しずつ完璧なものに近づいています。それでも、ほとんどの人はディープフェイクの動画を識別することができます。」

今後もディープフェイクの精度が上がっていくことから、へロルド氏は消費者に次のような「見分け方」を推奨しています。

・AIは、人の正面から見た画像を作成することが非常にうまくなりました。しかし、横や後ろから見たときの細部にはまだ問題があります。画像をあらゆる角度から見てください。また、ディープフェイクの写真や動画は、実際の人の歯の本数よりも多く描かれていることがあります。誰かが笑ったりして歯を見せている画像があれば、その点をよく観察してください。

・ディープフェイクの写真や動画では、指の数が多すぎたり少なすぎたりすることもよくあります。写真やビデオの被写体に指が何本あるか数えましょう。

・ディープフェイクは、人物の横顔や斜めから見た姿にも問題を抱えています。ライブストリームビデオでやりとりしている相手がディープフェイクだと思ったら、横を向いてもらうか、「あなたの後ろの壁にある絵は素敵ですね。誰の絵ですか?」などと振り向かせるような質問をしてください。

・ディープフェイクの写真や動画には、照明、反射、影などにつじつまが合わない部分がよくあります。

・ディープフェイクの動画には、不自然に素早い動きが含まれていることが多いものです。たとえば、通常とは異なるガクガクしたような動きをしたり、時間が飛んだように見える映像を探しましょう。

・通常、ディープフェイクの音声には、不自然な音声が含まれていたり、音質に一貫性がありません。

■最新技術をめぐる争い

ディープフェイクが社会に危害を及ぼす可能性があることから、政府、大学、民間企業による検出ツールの研究が勢いづいています。

疑わしいコンテンツそのものを検証する手法もいくつかあります。たとえば、一部のツールでは、人の顔の血流を診断したり、不自然なブレンドやぼかしを探したりします。あるいは、真正性の指標として、人の目の反射が周囲と一致するかどうかを確認します。

ファイルのメタデータを調べて操作の痕跡を見つけ出すツールもあります。

IEEEのシニアメンバーであるケイン・マグドリー氏(Kayne MGladrey)は、次のように述べています。「我々と同じように、ディープフェイクを生成する脅威アクターも、検出アルゴリズムから学習し、それに応じて独自の技術を適合させていくことでしょう。ここで極めて重要になるのは、動画や音声コンテンツを配信する大手事業者が、これらのソリューションに投資して大規模に導入することで、誤情報や偽情報の拡散を防ぐことです。」

■IEEEについて

IEEEは、世界最大の技術専門家の組織であり、人類に恩恵をもたらす技術の進展に貢献しています。160カ国、40万人以上のエンジニアや技術専門会の会員を擁する非営利団体で、論文誌の発行、国際会議の開催、技術標準化などを行うとともに、諸活動を通じて世界中の工学やその他専門技術職のための信用性の高い「声」として役立っています。

IEEEは、電機・電子工学およびコンピューターサイエンス分野における世界の文献の30％を出版、2000以上の現行標準を策定し、年間1800を超える国際会議を開催しています。

詳しくは http://www.ieee.org をご覧ください。