偽動画ディープフェイク AIで制作容易、うのみにせず
先読みウェブワールド (瀧口範子氏)

2019/6/24付
保存
共有
印刷
その他

NIKKEI MJ

「ディープフェイク」問題が深刻化している。

フェイスブックのザッカーバーグCEOが登場する動画では偽の発言をさせて唇の動きを合わせた

フェイスブックのザッカーバーグCEOが登場する動画では偽の発言をさせて唇の動きを合わせた

ディープフェイクとはビデオに映った人物の顔を別人に入れ替えたり、本来とは違う発言をさせたりすること。まるで本人が身振り手振りを交え話しているように見える。人工知能(AI)技術により制作が簡単になっている。

最近では、米フェイスブックのマーク・ザッカーバーグ最高経営責任者(CEO)が「データを握るものが世界のこれからを牛耳る」と、カメラを真正面ににらんで語るビデオがインスタグラムに上げられた。フェイスブックが悪者だと宣言しているようだ。

このビデオはディープフェイクへの意識を喚起するために英国のアーティストが作ったものだ。だが、当然もっと悪質なものもある。政治家が酔っ払ってろれつの回らない話し方をしているビデオや、有名女優がポルノに出演しているビデオも出ている。

フェイクニュース問題もうまく解決できない中で、ディープフェイクはもっと大きな危険性をはらんでいる。フェイクニュースは何者かが制作している第三者の意図がうかがえるが、ディープフェイクには本人が登場する。AI技術が進化するにつれ顔や唇の動きがスムーズになり、見分けるのは難しい。語っている内容が本人らしくなくても信じる人々は多いだろう。

今は2020年の大統領選挙への悪影響が懸念されているが、いずれビジネスの分野に浸透するだろう。セレブが出演してもいないコマーシャルで特定のシャンプーを勧めたりおとしめたりするようなビデオが出てくるだろう。

一般人にも広まれば、万引きしている、とんでもない発言をしている、公共の設備を破壊しているなど、いわれのない行動がインターネット上でまき散らされる。いじめにも使われるだろう。

いくつかのディープフェイクがアップされているインスタグラムでは、第三者の組織が「偽ビデオ」だと判定するまでそのままになる。その間、面白がってシェアしているだけでも一定数の人々は信じてしまう。政治関連なら混乱を巻き起こすだけでも成果を上げたことになるだろう。

たきぐち・のりこ 上智大外国語(ドイツ語)卒。雑誌社、米スタンフォード大客員研究員を経てフリージャーナリストに。米シリコンバレー在住。大阪府出身。

たきぐち・のりこ 上智大外国語(ドイツ語)卒。雑誌社、米スタンフォード大客員研究員を経てフリージャーナリストに。米シリコンバレー在住。大阪府出身。

ディープフェイクを制作できるアプリが出回り、数十ドルで請け負う会社もあるという。ネット空間はますます本当と偽が混在した場所になりリテラシーが追いつかない。

顔に関わるテクノロジーの進化には驚くものがある。顔認識はもちろん、AIが勝手に人間の顔を作り出したり、顔をどこかの画家風の絵にしたり、アニメの唇を人間の音声に合わせて動かしたりできる。逆に顔からその人の声を予想もできる。

それぞれは研究やエンターテインメントのための有用なツールだが、現在は有用と悪用の間の距離があまりに縮まっているように感じられる。テクノロジーが安く、使いやすくなったからだろう。

ディープフェイクを見抜く技術を求めて、国防総省高等研究計画局(DARPA)が研究補助プログラムを設けているほどで、対抗がどれほど難しいのかがわかる。結局は「見たり読んだりしたものをうのみにしない」という基本以外に、われわれユーザーに対処方法はないのだろう。

[日経MJ2019年6月24日付]

保存
共有
印刷
その他

電子版トップ



[PR]