AI創造作品、「人工合成メディア」への懸念

簡単な説明をテキストで入力するだけで、驚くような品質の画像を生成してくれるサービスが話題だ。人工知能（AI）技術が、あたかも人間が創造したような「作品」を生み出すもので、代表的なものに「ステーブル・ディフュージョン」がある。「ゴッホ風に」と指示すれば、学習済みのデータからゴッホの筆致で風景を描いたりできる。

この「創造するAI」サービスは、まず絵画の分野で世を驚かせたが、その範囲は画像に止まらない。同じように指示を与えるだけで、首尾一貫した長文を書き出してくれるもの、プログラミングしてくれるもの、作曲（作譜）するなどが次々と生まれている。

IT（情報技術）大手のグーグル、メタは動画生成サービスを発表した。アマゾンは子供が音声で指示するだけで、オリジナル絵本を創作できるサービス「クリエイト・ウィズ・アレクサ」を発表。多くがまだ半製品的段階だが、商用化をめざす試みもある。ある研究ではこの種の事業を手がけるスタートアップが100を超えているという。

ごく安価に映像、音声、文章を自在に操れるということになれば、それを使ってメディアを制作し利益を得ようという試みが生まれるのは自然だ。そのため、「人工合成（シンセティック）メディア」という言葉が、メディア業界では懸念とともに語られるようになってきている。

最大の懸念は、人工合成メディアで創りだされるコンテンツが、「オリジナル」と言えるのか？　ということだ。AIが創造するといっても、過去、人が生み出してきた作品などのコンテンツを膨大に収集し、学習したエッセンスを反映している。真にオリジナルなものと言えないとの主張だ。

ある米国のプログラム自動生成サービスは成果物に著作権を主張するが、これに対して集団訴訟が提起されている。また、米国の芸術祭のコンテストでは、AIによる画像生成を使った作品が受賞してしまい、他のアーティストとの間で論争となったこともある。

もっと端的な問題が公序良俗をめぐるものだ。たとえば、画像や動画を生成するサービスを使って、著名人をモデルとしたポルノ映像が簡単に作れる。日本でも、9月の静岡の豪雨被害についてのツイートで、フェイク映像が広がった。

サービス側も、問題を放置しているわけではない。ステーブルは新バージョンで、この種の利用に対する抑止機能を搭載した。例えば、ヌード映像の出力はしづらくなり、特定の人物を明瞭なモデルとする写実的な映像、ある画家のタッチを再現することもできにくくした。だが、この程度の抑制で「悪用」が収まるものではないだろう。

「合成動画が、わずか3年から5年のうちにすべての動画コンテンツの90%を占めるようになる」と予想する専門家もいる。人工合成される作品があふれかえるほど作り出されることになるというわけだ。

米連邦捜査局（FBI）は21年3月、「悪意のあるアクター（行為者）は、ほぼ間違いなく人工合成コンテンツをサイバー活動や海外からの影響力行使に活用する」と警告した。メディア業界だけの問題ではなくなってきているようだ。

［日経MJ2022年12月11日付］