米ツイッター、「ディープフェイク」投稿に警告ラベル

【シリコンバレー=佐藤浩実】米ツイッターは4日、人工知能（AI）などを使って改ざん・捏造（ねつぞう）した「ディープフェイク」と呼ばれる偽動画を含む投稿について、3月5日からユーザーに警告する制度を導入すると発表した。重大な損害をもたらす可能性がある場合は削除する。米大統領選に向けて同技術の悪用懸念が強まるなか、誤情報の拡散を防ぐ狙いがある。

偽動画に対して「操作されたメディア」という警告を添える。ユーザーが偽動画だと理解した状態で投稿を見られるようにすることで、誤った情報が拡散するのを防ぐ狙いだ。動画に添えられたツイートや投稿者情報などから、人を欺く意図があるかどうかも考慮する。

新方針の対象は「改ざん・合成されたあらゆる動画に及ぶ」（信頼・安全担当副社長のデル・ハーベイ氏）。機械学習技術を用いて本物そっくりにしたディープフェイクのほか、視聴者に誤解を与えるために再生スピードや字幕を編集した動画も警告ラベルを付ける対象となる。

ディープフェイクの検出技術やツイッター上での専門家の指摘などをもとに偽動画を特定するという。偽動画が誰かに身体的な危害をもたらしたり、社会に重大な混乱を招いたりするリスクがある場合は投稿を削除する。

偽動画を巡っては2019年に、民主党のナンシー・ペロシ下院議長のスピーチの速度を変え、ろれつが回っていないように編集した動画がSNS（交流サイト）で拡散された。ツイッターで新施策を担当するヨエル・ロス氏はペロシ氏のような例が再び起きた場合「警告ラベルを付け、ツイートの内容によっては削除を選ぶ可能性がある」と指摘した。

ツイッターは同方針の決定に先駆け、19年11月からユーザーの意見を広く募ってきた。6500人以上から回答があり、9割近くが偽動画に警告ラベルを付けることを支持したという。一方で「表現の自由」とのバランスから、すべての偽動画の削除を支持する人は米国で55%にとどまったという。

新方針は日本でも同時期に実施される。