2018年10月21日(日)

「AI脅威論」3つの誤解と真に議論すべき3つの課題

AI
(1/3ページ)
2017/6/9 6:30
保存
共有
印刷
その他

ITpro

最近、本屋に行くと「人工知能(AI)の脅威」について書かれた本がズラリと並んでいるのを見かける。AIに対する漠然とした不安が世間にあるのは事実だ。その不安に対して、例えば総務省が「AI開発ガイドライン(仮称)」の策定に動き出すなど、政府が何らかのリアクションを示しているのも、当然の成り行きといえる。

ただ、世間で語られるAIの脅威の中身は、現在のAI技術への誤解に基づくものが多い。ただその一方、まさにAI技術が直面する社会上、倫理上の課題として、AI開発者による議論が求められるテーマも確かにある。

ここでは、AIの脅威に関わる3つの誤解と、真に議論すべき3つの課題を紹介する。

誤解1:いずれAIが、自律的に人類を滅ぼす意思を持つかもしれない
回答1:そもそも今のAI技術は「自ら意思を持つ」にはほど遠い

現在、人間と会話するできるAI(会話AI、チャットボット)の技術は、大まかに言えば二つの仕組みから成り立っている。

一つは、あらかじめ人間が設定した対話シナリオに基づいて会話文を生成するルールベースの手法。もう一つは、膨大な対話データベースに基づき、質問に対する適切な回答を統計的マッチングの手法で探索する統計ベースの手法である。現在のチャットボット技術の多くは、この二つの手法を組み合わせて会話文を生成している。

いずれにせよ、現在のAIは、人間が入力した対話データなしには会話を生成できない。現在の会話AIは「対話データのオウム返し」という段階から脱していない。以前、AIロボットがテレビ番組で「人類を滅亡させる」を発言したとして話題になったが、これは質問者の「人類を滅亡させたいか」との質問をオウム返しに繰り返しただけと思われる。

深層学習(ディープラーニング:多層ニューラルネットによる機械学習)開発のスタートアップ企業であるPreferred Networks(PFN)最高戦略責任者の丸山宏氏は、人間と同様の知性を発揮する汎用人工知能について「いずれ実現することは間違いない」としつつ、「今見えている技術の延長上には無い」と主張する。これは筆者も同感である。

汎用人工知能が出現することは、確かに社会に大きなインパクトをもたらす。だが、AIの研究開発に新たな制約を加える必要があるほどの脅威が迫っているか、それほどの技術的進展があったか、と問われれば、現状では否と言わざるを得ない。昨今の「第3次AIブーム」においても、知性の中枢といえる言語機能に関する進展は比較的小さい()。

(出所:日経コンピュータ2016年4月28日号)

(出所:日経コンピュータ2016年4月28日号)

■AIが世界中の人間の差別意識を反映?

その一方、「AIの挙動はデータ次第」という点は、新たな倫理的課題を我々に突きつける。その典型例は、開発者が意図しない形で、AIが人種差別的な判断を下してしまうのでは、というものだ。

AIと人種差別に関わる有名な事例の一つに「three black teenagers(10代の黒人3人組)」がある。「three white teenagers(10代の白人3人組)」というキーワードでグーグル画像検索を実行すると、楽しそうな白人の3人組の画像が表示される。一方、「three black teenagers」と入力すると、警察署で撮影されたとみられる容疑者の画像が表示される、というものだ。

これは、インターネット上にアフリカ系米国人の犯罪者の顔が多く存在していたためとみられる。米マイクロソフト 規制関連分野担当 バイスプレジデントのデイヴィッド A. ハイナー氏は、この現状について「機械学習は、世界をそのままモデリングしてしまう。世界に人種差別があれば、それがAIに反映されてしまう」と表現する。

AIの応用領域によっては、AIによる差別が金銭上の被害につながることもあり得る。

例えば損害保険会社が、機械学習に基づいて保険料を自動算定するAIを開発したとしよう。この損保会社は、過去の加入者の氏名、顔写真、住所、生年月日、行動履歴などのあらゆる個人データをAIに入力し、支払った保険金の額と共に学習させた。

このAIは、氏名や顔写真から、人種や宗教に関連する特徴を自動的に抽出。結果として、特定の人種、宗教に属しているという理由だけで、他のパラメータは同じなのに高い保険料を算定するAIが生まれてしまう――といったシナリオが現実に起こりえる。

こうした予期せぬAIの判断について、筆者が取材したAI開発者の考えは二つに分かれた。一つは、現実のデータに基づいて高い保険料を算定している以上、その保険料は正当だというもの。もう一つは、そもそも氏名や顔のデータはAIによる人種差別を誘発するため、入力すべきでない、というものだ。

氏名や顔の入力を制限するだけでリスクを解消できるとは限らない。AIが、行動履歴から食事や購入品の種類を分析し始め、はては「スマートフォンの加速度データで特定時刻の礼拝の有無を判別」するようになれば、やはり差別的な判断につながりかねない。

先の顔認識技術の議論にしても、「日本市場を対象にした顔認識技術であれば、日本人以外の民族・人種のデータが少なくても問題ない」との意見もあれば、「このために訪日外国人が不利益を被るとすれば、問題と捉えるべきだ」との意見もある。

  • 1
  • 2
  • 3
  • 次へ
保存
共有
印刷
その他

日経BPの関連記事

関連企業・業界 日経会社情報DIGITAL

電子版トップ



[PR]

日本経済新聞社の関連サイト

日経IDの関連サイト

日本経済新聞 関連情報