多くの可能性と危険を秘めたディープフェイク

様々なシーンで活用でき、私たちの生活を豊かにする可能性を秘めたディープフェイク。近年、そんなディープフェイクが犯罪にも利用され、技術の進歩と共に巧妙化していることが、全世界で問題になっている。ディープフェイクとは、人工知能による「ディープラーニング（深層学習）」の一手法である「GAN（敵対的生成ネットワーク）」という技術を用いて、動画に写っているオリジナルの顔に、他人の顔をマッピングして作成される合成動画、又は技術そのものを指す。
単純に顔の静止画を切り抜いて動画に当てはめるのではなく、映っている人の表情に合わせてそれぞれのパーツが自在に動く。そのため何も知らない人が見て、加工された動画だと気付くのは困難なことが多い。ディープフェイクは元々CGをたくさん使用した大型映画などで使われる、高価な設備と高度な専門知識を必要とする技術であり、動画づくりの専門家にとっても気の遠くなるような作業が必要だった。しかし、AI技術が発達するに伴い、一般ユーザーでも利用できるまでに浸透。現在はオンライン上に多数のディープフェイクの有料サービスが存在する。たとえば素材用、合成用の動画の再生時間が各60秒以内（合計2分以内）であれば、約3,000円で映像内の顔交換を請け負うサービス。他にも、250枚ほどの写真をアップロードすると2日程度でディープフェイク動画を作成してくれて、1本あたり2.99ドル（約300円）ほどの低価格というオンラインサービスもある。

誕生から一般に普及するまで
その足取りを探る

ここ数年でよく耳にするようになったディープフェイクは、いつごろから普及し始めたのだろうか。技術の誕生としては今から20年以上前。その後、2015年ごろに、大学教授たちが高価な機材や場所を利用せずして表情を作成することに成功したことで流れが大きく変わった。
比較的容易に利用できる技術として普及し始めたのは2017～2018年ごろと言われている。その発端はアメリカの大手ネット掲示板「レディット」に投稿された、ある書き込みが発端だった。2017年10月ごろに「ディープフェイクス」という人物が、複数のハリウッド女優の顔をポルノ映像に貼り付けた改ざん動画を立て続けに投稿。それをネットメディア「マザーボード」が取り上げたところ、世界的に知られるようになった。また、2018年には別の投稿者が「フェイクアップ」という、専門知識がなくてもある程度高性能のパソコンなら合成動画が簡単に作成できるアプリを公開した。その後、アプリはアップデートを重ねながらネット上に拡散。有名女優の顔を利用した偽のポルノ動画が大量につくられることになった。
初期のディープフェイクは人物の「まばたき」がうまく反映されないなど、いくつかの“弱点”が指摘されていた。しかし、技術の進化によって、まばたきも再現できるようになり、近年では肉眼で真偽を見分けることはほぼ不可能なほど、精密なフェイク動画も出回っている。
ディープフェイクを一躍有名にしたのは、2018年、YouTubeで公開されたバラク・オバマ前大統領が喋っている動画だろう。20秒を過ぎたあたりでオバマ前大統領が、「トランプ大統領は救いようのないマヌケだ（President Trump is a total and complete dipshit）」と元大統領らしくない発言をしている。一見すると本当にオバマ前大統領がドナルド・トランプ前大統領の悪口を言っているように見えるが、動画の最後では画面が二分割されて、俳優兼監督のジョーダン・ピール氏が現れ、偽物の動画（ディープフェイク）であることが分かる。但し、動画の中でのネタばらしがなければ、誰もオバマ前大統領ではない偽物が喋っているとは気づかなかっただろう。ディープフェイクは、赤の他人を使って、これほど忠実に本物の人を再現できるのだ。

悪用方法も巧妙化
海外では一般人も被害に

実際に巧妙化するディープフェイクの悪用によって、どのような被害が出ているのか。一番被害が拡大しているのは、ディープフェイクを利用したフェイクポルノであり、その被害者の大半は著名人だ。オランダのサイバーセキュリティ会社『ディープトレース』が公表した報告書「ディープフェイクスの現状情勢、脅威、そしてインパクト」によれば、2019年に同社がネット上で確認したディープフェイク動画は1万4,678件。これは前年の2018年に比べて84％も増加している。その内訳を見ると、96％が有名なハリウッド女優などの顔をはめ込んだポルノ動画で、ポルノ以外の動画はわずか4％だったという。
被害は海外だけではない。2020年10月2日、国内初の摘発例として、警視庁や京都府警などはディープフェイクを使ってアダルトビデオを合成したとされる男3人を、名誉毀損と著作権法違反の疑いで逮捕した。被害に遭った女性芸能人は延べ約150人に上り、500本を超える動画が違法に公開された疑いがある。また、ディープフェイクはポルノだけでなく、先ほど述べたオバマ前大統領の動画のように、国家や政党の責任者など影響力のある人の発言を動画でつくり、拡散させることで、政治上の印象操作にも利用できてしまう。
悪用の幅はさらに広がっている。たとえば、GANによる合成技術を使えば、本人そっくりの音声をつくることも可能であり、偽物の声を犯罪に利用するケースも発生している。2019年には、イギリスのエネルギー会社のCEOが、親会社の経営者の声をAI技術で再現した偽の音声指示に従って、22万ユーロ（約2,850万円）を騙し取られた事件が報じられた。報道によれば、偽の音声は経営者本人のドイツ語訛りまで忠実に再現した極めて精巧なものだったという。このような音声のディープフェイクは、今後は国内でも“振り込め詐欺”の手段として悪用される可能性が高い。
今のところ、国内で一般人が被害に遭ったという事例は報じられていないが、動画だけでなく、写真1枚からでもディープフェイクはつくれるため、ネットに顔を公開している限り、誰もが被害に遭うリスクはある。海外ではすでに一般の女性もターゲットになっており、ソーシャルメディアにアップした写真がポルノコンテンツに貼り付けられた被害が報告されている。

日常をより便利に快適に
ディープフェイクが齎（もたら）す恩恵

悪用ばかりが目立つディープフェイクだが、前向きな使用例もある。たとえば、新型コロナウイルスの影響でリモート会議が増えている。リモート会議では、なかなか話し手の目線がカメラのほうには向かず、話し手と目線が合わないと感じたことはないだろうか。しかし、最近ではアメリカの半導体メーカー『エヌビディア』が、GANを使って本人と瓜二つのアバターを作成するサービスを発表した。それにより、ディープフェイクを使って顔や視線のアングルを合成し、目線が合うように変えることが可能になった。さらに、このサービスを使えば、たとえ寝起きで化粧もしておらず、髪がボサボサの状態でリモート会議に出席しても、画面上に身だしなみの整ったアバターを映し出せるというメリットもある。
また、以前からファッション小売業者は、顧客が仮想的に「試着」する方法を模索してきたが、ディープフェイクはそれを可能にした。アメリカの大手スーパーチェーン『ウォルマート』は2021年5月、バーチャル試着室プラットフォームの「ジーキット（Zeekit）」の買収計画を発表。ユーザーが撮影した自分の画像をアップロードすることで、ドレスなどのファッションアイテムを画像に合わせて自由に仮想試着できるサービスを提供していくという。ジーキットは個人の身長や体型、肌の色を考慮しながら試着できる上、バーチャル試着上の画像をSNSを介して友人などにシェアできることで、第三者の意見も参考可能となる。
さらに映画業界では、ディープフェイクを応用することで、映画俳優が自然に多言語を“話せる”ようになる。これまで吹き替えの際に問題だった、セリフと口の形が合わないことも、セリフに合ったリアルな唇の動きと表情までついてくることで解決できるのだ。

迫られる対応
国や企業の取り組みとは

比較的容易に利用できる技術として普及し始め、急速に利用が拡大しているディープフェイク。そんな今だからこそ、ディープフェイクはどこまでが制限され、どこまでが許容される範囲なのか、様々な国や企業で議論が続いている。
悪用を防ぐために、ディープフェイクを検出する技術も多く研究されるようになり、国や大手企業、スタートアップなどがさまざまな取り組みや支援を開始している。たとえば、DARPA（米国国防高等研究計画局）では、ディープフェイク検出技術のプロジェクトに資金を提供するなどの支援を行い、2018年11月の時点では、すでに6,800万ドル（約74億円）の資金を投入している。
『Facebook』『YouTube』『Twitter』などは、デマとして拡散されて人々の誤解を生むリスクや、危害を与える可能性などがある場合、ディープフェイクを即座に削除するという声明を発表。2019年には『Facebook』『Microsoft』『Amazon』などが、ディープフェイク検出技術のコンテストを行い、2,114チームが参加した。しかしトップチームが識別できた精度は65%で、ディープフェイク検出技術の難しさも浮き彫りになっている。
加えて、ディープフェイクはどこまでを表現の自由と捉えるかの判断が難しく、「規制は限定的であるべきだ」という声も挙がっているのが現状だ。ディープフェイクへの対策について、『Facebook』のプロダクトマネージャーであるアントニア・ウッドフォード氏は「人々が自由に表現し意見交換できるようにすると同時に、利用者が見たくない内容から守る必要もあり、このバランスをどう取るのかが難しい」と語る。
また、日本においてディープフェイク自体を規制する法律はないため、現時点でディープフェイク動画はつくりたい放題の状況だ。逮捕事例においても、被害者側から「名誉毀損」と「著作権侵害」の罪を告訴した後に、容疑者2人が摘発されていることからも、まだまだ法整備が追いついていないことを物語っている。

良い面も悪い面もあるディープフェイク。この技術を活用するのは私たちであり、一人ひとりの向き合い方がディープフェイクの今後を決めると言えるだろう。ネットのモラルを守ることや、正しい情報と誤った情報を適確に判断する能力を身につけることは、これからのネット時代を生きるために必須だ。