2019年1月20日(日)

米マイクロソフトの人工知能、ツイッターで差別発言連発

2016/3/25 16:20
保存
共有
印刷
その他

【シリコンバレー=小川義也】米マイクロソフトは24日、ソーシャルメディア上で人間と対話する「チャットボット」と呼ばれる人工知能(AI)の運用を停止した。悪意のある人々に教え込まれ、「ヒトラーは間違っていない」「男女同権論者は全員死んで地獄で燃やされるべきだ」などと差別的な発言をツイッターで連発するようになったため。このAIは23日に公開されたばかりだった。

「Tay(テイ)」と名付けられたこのチャットボットは、人間との対話を通じて発達するAIの研究の一環で開発された。スラングやジョークを交え、ターゲットとする米国の18~24歳の若者を楽しませるはずだったが、「公開後24時間以内に、複数の人間が協力してテイの対話能力を悪用し、不適切な発言をするように教え込んだ」という。

テイは最初から差別的な発言をするようにプログラムされていたわけではないが、大量の差別的発言を浴びせられるうちに、それを「学習」し、自分でも同様の発言を返すようになったとみられる。マイクロソフトは不適切なツイートを削除し、ソフトウエアの修正にあたっている。

米IT各社は急速に進歩するAIを活用したサービスの開発を競い合っているが、まだ完璧とはいえず、トラブルも少なくない。グーグルが昨年提供を始めた写真保存・検索サービスでは、利用者が保存した写真に何が写っているかを自動で判別し、タグ付けするAIが黒人を「ゴリラ」と判断。同社は謝罪に追い込まれた。

日経電子版が2月末まで無料!いつでもキャンセルOK!
お申し込みは1/31まで

保存
共有
印刷
その他

電子版トップ



[PR]

日本経済新聞社の関連サイト

日経IDの関連サイト

日本経済新聞 関連情報