/

偽動画ディープフェイク AIで制作容易、うのみにせず

先読みウェブワールド (瀧口範子氏)

NIKKEI MJ

「ディープフェイク」問題が深刻化している。

フェイスブックのザッカーバーグCEOが登場する動画では偽の発言をさせて唇の動きを合わせた

ディープフェイクとはビデオに映った人物の顔を別人に入れ替えたり、本来とは違う発言をさせたりすること。まるで本人が身振り手振りを交え話しているように見える。人工知能(AI)技術により制作が簡単になっている。

最近では、米フェイスブックのマーク・ザッカーバーグ最高経営責任者(CEO)が「データを握るものが世界のこれからを牛耳る」と、カメラを真正面ににらんで語るビデオがインスタグラムに上げられた。フェイスブックが悪者だと宣言しているようだ。

このビデオはディープフェイクへの意識を喚起するために英国のアーティストが作ったものだ。だが、当然もっと悪質なものもある。政治家が酔っ払ってろれつの回らない話し方をしているビデオや、有名女優がポルノに出演しているビデオも出ている。

フェイクニュース問題もうまく解決できない中で、ディープフェイクはもっと大きな危険性をはらんでいる。フェイクニュースは何者かが制作している第三者の意図がうかがえるが、ディープフェイクには本人が登場する。AI技術が進化するにつれ顔や唇の動きがスムーズになり、見分けるのは難しい。語っている内容が本人らしくなくても信じる人々は多いだろう。

今は2020年の大統領選挙への悪影響が懸念されているが、いずれビジネスの分野に浸透するだろう。セレブが出演してもいないコマーシャルで特定のシャンプーを勧めたりおとしめたりするようなビデオが出てくるだろう。

一般人にも広まれば、万引きしている、とんでもない発言をしている、公共の設備を破壊しているなど、いわれのない行動がインターネット上でまき散らされる。いじめにも使われるだろう。

いくつかのディープフェイクがアップされているインスタグラムでは、第三者の組織が「偽ビデオ」だと判定するまでそのままになる。その間、面白がってシェアしているだけでも一定数の人々は信じてしまう。政治関連なら混乱を巻き起こすだけでも成果を上げたことになるだろう。

たきぐち・のりこ 上智大外国語(ドイツ語)卒。雑誌社、米スタンフォード大客員研究員を経てフリージャーナリストに。米シリコンバレー在住。大阪府出身。

ディープフェイクを制作できるアプリが出回り、数十ドルで請け負う会社もあるという。ネット空間はますます本当と偽が混在した場所になりリテラシーが追いつかない。

顔に関わるテクノロジーの進化には驚くものがある。顔認識はもちろん、AIが勝手に人間の顔を作り出したり、顔をどこかの画家風の絵にしたり、アニメの唇を人間の音声に合わせて動かしたりできる。逆に顔からその人の声を予想もできる。

それぞれは研究やエンターテインメントのための有用なツールだが、現在は有用と悪用の間の距離があまりに縮まっているように感じられる。テクノロジーが安く、使いやすくなったからだろう。

ディープフェイクを見抜く技術を求めて、国防総省高等研究計画局(DARPA)が研究補助プログラムを設けているほどで、対抗がどれほど難しいのかがわかる。結局は「見たり読んだりしたものをうのみにしない」という基本以外に、われわれユーザーに対処方法はないのだろう。

[日経MJ2019年6月24日付]

すべての記事が読み放題
有料会員が初回1カ月無料

日経MJをPC・スマホで! まずは1カ月無料体験

消費と流通の未来を先取りする、最先端の情報を発信。「日経MJビューアー」ならスマホ・タブレット・PCで読めます。直近30日分の紙面イメージを閲覧でき、横書きのテキストに切り替えて読むこともできます。初めての方は、まずは1カ月無料体験。

詳細はこちらから

関連トピック

トピックをフォローすると、新着情報のチェックやまとめ読みがしやすくなります。

セレクション

トレンドウオッチ

新着

注目

ビジネス

ライフスタイル

新着

注目

ビジネス

ライフスタイル

新着

注目

ビジネス

ライフスタイル

フォローする
有料会員の方のみご利用になれます。気になる連載・コラム・キーワードをフォローすると、「Myニュース」でまとめよみができます。
新規会員登録ログイン
記事を保存する
有料会員の方のみご利用になれます。保存した記事はスマホやタブレットでもご覧いただけます。
新規会員登録ログイン
Think! の投稿を読む
記事と併せて、エキスパート(専門家)のひとこと解説や分析を読むことができます。会員の方のみご利用になれます。
新規会員登録 (無料)ログイン