ディープフェイクとは？ AIとの関係、活用例や問題事例、対策を解説

AIを用いた画像処理技術。フェイクニュースやプロパガンダへの悪用が問題視されており、対抗技術の研究が進む。

[キーマンズネット]

• ディープフェイクの仕組みと注目の背景
• ディープフェイクの活用例
• ディープフェイクの問題事例、考えられるリスク
• 各社のディープフェイク対抗策
• 関連用語

　ディープフェイクとは、高度な合成技術によって偽の画像を作る技術や、その技術によって作られた画像を指す。「ディープラーニング」と「フェイク（偽物）」を組み合わせた混成語で、2018年ごろから注目を集める。映画などのコンテンツで利用される一方、フェイクニュースや個人の尊厳を侵害する画像、プロパガンダへの利用などが問題視される。

ディープフェイクの仕組みと注目の背景

　ディープフェイクは、元となる人物の画像に作成したい人物の顔を重ね合わせる「コラージュ画像」の高精度版と言える。ディープフェイクの危険性が大きく注目されたきっかけは、2018年に俳優兼監督のジョーダン・ピール氏が「YouTube」で発表した動画だった。米国のバラク・オバマ元大統領がドナルド・トランプ前大統領をののしるフェイク動画で、動画の後半では顔をすり替える前の映像が確認できる。

　ディープフェイクは、映像作成に「敵対的生成ネットワーク」と呼ばれるディープラーニング技術が利用され、目視ではフェイク画像であると分からないほど精巧に顔や身体などをすり替えた画像が作成できることを特徴とする。低品質なものは非プログラマーでもアプリで簡単に作成可能とされる。

ディープフェイクの活用例

　ディープフェイク技術は商業利用も進んでいる。映画「アバター」では表情豊かな地球外生命体を描写するため、撮影した俳優の顔をCGに置き換える方法をとった。メディアに露出するキャスターやモデルをディープフェイクアバターで代替して勤務時間の制限や著作権問題を回避する試みもある。

　2021年2月、ZOZOTOWNはディープフェイクを活用したバーチャルモデル「Drip」を発表した。頭部には実在する人物の顔画像が合成されており、本物の人間との判別が難しいクオリティーを実現している。今後はユーザーの年齢や体形に合わせたバーチャルモデルを量産し、バーチャル試着やパーソナライズされた商品提案に活用する予定だ。

ディープフェイクの問題事例、考えられるリスク

　ディープフェイクは2017年頃からポルノコンテンツでの利用が問題視されていた。アイドルや女性俳優などの有名人に顔をすり替えた動画がインターネットに投稿される他、同様の手口で一般人が被害に遭う例もある。

　ディープフェイクが政治的に利用される例もある。インドでは政権に対して批判的な女性ジャーナリストがディープフェイクポルノの被害に遭った。マレーシアでは閣僚の性的な動画をめぐる疑惑が政治的な混乱を起こした。2022年にはウクライナのゼレンスキー大統領のフェイク動画が話題になった。今後も虚偽の報道やデマの流布などに悪用される可能性が指摘されている。

各社のディープフェイク対抗策

　2019年9月にはFacebook（現Meta）が米国のマサチューセッツ工科大学などと共同でディープフェイク検出オープンソースツール開発を目指すプロジェクトを発表した。2020年9月にはMicrosoftが写真や動画の改変を検出する技術を発表した。2021年9月には国立情報学研究所（NII）が、ディープフェイクを検出するWebAPIを発表している。しかし、検出技術の向上に伴いフェイク作成の技術も高度化し、今後もいたちごっこが今後も続くという見方もある。

　Googleは2018年、FacebookとTwitterは2020年から、フェイク画像やポルノ画像が投稿された際のポリシーを明言している。「利用者を欺くことを目的としているか」などを基準として、ラベリングや削除を実行するとしている。

　Adobeは2020年10月、同社が提供する「Photoshop」にフェイク画像作成防止機能を搭載すると発表した。自身の加工画像が信頼できるものであると証明したいユーザーは、同機能をオンにすると編集履歴を記録し、SNSで公開できる。

　各社の対策は進むが、それでも悪意あるディープフェイクを完全に刈り取るのは難しい。情報の発信者や受信者にも「情報を疑いの目で見る姿勢」や「疑われていることを前提として正当性を証明すること」などが求められる。

関連用語

ディープラーニング

　AI（人工知能）の学習手法の一種。インプットされたデータの特徴を階層構造的に関連させることで、人間による特徴抽出を必要とせず、画像認識や処理の分野で高い成果をあげる。

敵対的生成ネットワーク（GANs）

　「教師なし学習」で使用される人工知能アルゴリズムの一種。二つの敵対するネットワークからなり、一方が一方を欺こうと、一方はより正確に識別しようと競争的に学習する。