近年話題になっているディープフェイクは、ディープラーニングを利用して生成したフェイク（偽）動画・画像を指すことが多いです。例えばＴｉｋＴｏｋに公開されたトム・クルーズのディープフェイクを見ると、もはや本人としか思えない動画の出来に感嘆させられることでしょう。このようなＡＩ技術の発達により世界はどう変わっていくのでしょうか。今回はその光と影についてお話ししたいと思います。

【ディープフェイクを生み出す面白構造】

　ディープフェイクを可能にしたのは「ＧＡＮ（敵対的生成ネットワーク）」と呼ばれるディープラーニングの技術です。

　ＧＡＮが面白いのはその構造です。他のディープラーニングと異なり、ジェネレータとディスクリミネータと呼ばれる２つの機構を持っています。前者はイメージを生成する係であり、後者はそのイメージが正しいものか否かを判断する係。すなわちＡＩが生成したイメージをＡＩがフェイクかどうかを判定するのです。

　ジェネレータで生成した偽物のイメージを、ディスクリミネータが偽物であると判断できないように学習を繰り返すことで、そのうちジェネレータはディスクリミネータを欺けるイメージを生成できるようになります。自分の中にある２つの機構を競い合わせることでレベルの高いものを作れるようになるわけです。通常のディープラーニングでも画像生成はできましたが、ＧＡＮはこの構造により、人が見ても本物か偽物か判別がつかないディープフェイクを生成できるようになりました。

　見るからに悪いことができそうなディープフェイクですが、残念ながら実際にディープフェイクを悪用するケースは出てきています。日本ではアダルトビデオの出演者の顔を芸能人に変えたディープフェイクを作成し公開したとして、作成者が逮捕される事件がありました。アメリカでは母親が娘のライバルのわいせつな画像や動画を作成し、関係者に送付するという事件も起こりました。ディープフェイクを作成できるのはもはや一部のエンジニアのみではありません。そのため、こういった事件が後を絶たないのです。

　ディープフェイクは非常に精巧にできていますから、これがフェイクなのかどうかを見抜くことは非常に困難です。ディープフェイクを見抜くための技術の研究も進んではいますが、根本的な解決にはまだ至っていません。私たちはインターネットの普及により、多くの情報に簡単にアクセスできるようになってきました。その分、データの信頼性や信ぴょう性には注意する必要があります。

　ＡＩの発達により、今後はデータそのものがすべてフェイクの可能性が出てきているのです。知らず知らずのうちに偽の情報を拡散することに加担してしまわないように、情報を取り扱う際はそれがディープフェイクである可能性があることを認識しておきましょう。

　どうしても影の面で語られることが多いですが、使い方を誤らなければ素晴らしい技術であることは確かです。

　例えば、実際に存在した（すなわちすでに亡くなった）人物のディープフェイクを生成することは倫理的な問題があるにせよ、特定の人にとっては大切な人を失った悲しみを多少なりとも癒やすことができる画期的な技術であることは否定できません。

　そしてディープフェイクが生成するのは実際に存在する人のフェイクだけではありません。株式会社サイバーエージェントが開発した「極予測ＡＩ人間」では実際には存在しない人物モデルの画像を生成することができます。これらの人物モデルを広告に利用することで、クリック率が１２２％に向上する効果があったと発表されました。実際には存在しないけれども多くの人が好感を抱く人物が生成できることは、広告業界にとっては朗報と言えるでしょう。

　またディープフェイクはＡＩをより容易な存在にする可能性を秘めています。

　ＡＩの開発には多くのデータが必要です。「メガネが似合っているかどうかを判定してくれるＡＩ」を開発したい場合、当然「メガネをかけている人の写真」が大量に必要になりますが、実際に人を集めて撮影するだけの体力がない会社は断念せざるを得ません。そんなとき、ＧＡＮで様々なメガネをかけた人の写真を自動生成できれば、開発や導入ができるようになるかもしれないのです。

　技術を作り出すのは人間ですから、人間が使い方さえ間違えなければ我々の生活をさらに便利に快適にしてくれるはずです。これからのディープフェイクの発展や、新たな活用を楽しみにしていきましょう。

　☆おおにし・かなこ　愛媛県出身。２０１２年お茶の水女子大学大学院博士後期課程修了。博士（理学）。同年、ＮＴＴドコモ入社。１６年から２年間、情報通信研究機構に出向。一貫して雑談対話システムの研究開発に従事。２０年から大手ＩＴ企業でＡＩの導入や設計をリード。ＡＩに関する講演や執筆、監修等も行う。著書に「いちばんやさしいＡＩ＜人工知能＞超入門」。