コンテンツ監視に多額投資　旧Facebookは5年で1兆円

新型コロナウイルスのパンデミック（世界的大流行）により、消費財メーカーや小売りはデジタルコンテンツへの依存度を高めざるを得なくなっている。このため、各社は画像共有アプリ「インスタグラム」の投稿や動画共有アプリ「TikTok(ティックトック)」の動画などユーザーが生成したコンテンツや、消費者との直接的なコミュニケーション、製品のカスタマイズに目を向けている。

行動制限が解除されても、こうした取り組みは続くだろう。だが、新たな機会には新たな責任も伴う。SNS（交流サイト）のプラットフォームと同様に、今や消費財メーカーもこうした新たに生成されたコンテンツが全て顧客にふさわしく、自社の評判にダメージを及ぼすことがないよう苦慮している。

例えば、ボトルラベルに好きな文言を印字できる米コカ・コーラのカスタマイズキャンペーン「シェア・ア・コーク（Share A Coke）」のケースだ。コンテンツのチェックが行き届かず、不快なメッセージをユーザーがボトルに印字する事態を許したとして批判を受けた。

各社の幹部は不適切なコンテンツを監視する「モデレーション」に注目しつつある。

・コンテンツ監視は高くつく:米メタは2016年以降、安全やセキュリティー対策に130億ドル以上を費やしている。現在ではコンテンツをチェックする担当者を数万人雇っており、不適切なコンテンツを削除した数は17年の15倍に上る。それでもなお、同社はヘイトスピーチや有害な行為、フェイクニュースの拡散を抑え切れていないとして反発を受けている。

これはコンテンツを大規模に監視するのがいかに難しいかを示している。ティックトックなど新たなSNSプラットフォームの台頭も、コンテンツ監視者の争奪戦が激しくなり、監視コストが総じて上昇していることを意味する。さらに、こうしたコンテンツ監視者が長期にわたってメンタルヘルス問題を抱えているとの報告も多くある。

・人工知能（AI）を活用することで、コンテンツ監視の安全性を高め、効率化できる:巨大テック企業やスタートアップはコンテンツ監視を自動化するAIツールの開発を進めている。これにより、ブランドや小売りは顧客にとってより安全なオンライン体験を生み出し、自社の評判を守ることができる。

例えば、米クラリファイ（Clarifai）はユーザーが生成した侮辱的、攻撃的、有害なコンテンツから電子商取引(EC)各社を守るため、文字と映像のコンテンツ監視サービスを提供している。米レストラン予約サイト「オープンテーブル」はユーザーによるレストランの口コミをチェックするため、クラリファイのコンテンツ監視ツールを使っている。