AI

フォローする

Myニュース

有料会員の方のみご利用になれます。
気になる連載・コラムをフォローすれば、
「Myニュース」でまとめよみができます。

「AI脅威論」3つの誤解と真に議論すべき3つの課題

(1/3ページ)
2017/6/9 6:30
共有
保存
印刷
その他

ITpro

 最近、本屋に行くと「人工知能(AI)の脅威」について書かれた本がズラリと並んでいるのを見かける。AIに対する漠然とした不安が世間にあるのは事実だ。その不安に対して、例えば総務省が「AI開発ガイドライン(仮称)」の策定に動き出すなど、政府が何らかのリアクションを示しているのも、当然の成り行きといえる。

 ただ、世間で語られるAIの脅威の中身は、現在のAI技術への誤解に基づくものが多い。ただその一方、まさにAI技術が直面する社会上、倫理上の課題として、AI開発者による議論が求められるテーマも確かにある。

 ここでは、AIの脅威に関わる3つの誤解と、真に議論すべき3つの課題を紹介する。

誤解1:いずれAIが、自律的に人類を滅ぼす意思を持つかもしれない
回答1:そもそも今のAI技術は「自ら意思を持つ」にはほど遠い

 現在、人間と会話するできるAI(会話AI、チャットボット)の技術は、大まかに言えば二つの仕組みから成り立っている。

 一つは、あらかじめ人間が設定した対話シナリオに基づいて会話文を生成するルールベースの手法。もう一つは、膨大な対話データベースに基づき、質問に対する適切な回答を統計的マッチングの手法で探索する統計ベースの手法である。現在のチャットボット技術の多くは、この二つの手法を組み合わせて会話文を生成している。

 いずれにせよ、現在のAIは、人間が入力した対話データなしには会話を生成できない。現在の会話AIは「対話データのオウム返し」という段階から脱していない。以前、AIロボットがテレビ番組で「人類を滅亡させる」を発言したとして話題になったが、これは質問者の「人類を滅亡させたいか」との質問をオウム返しに繰り返しただけと思われる。

 深層学習(ディープラーニング:多層ニューラルネットによる機械学習)開発のスタートアップ企業であるPreferred Networks(PFN)最高戦略責任者の丸山宏氏は、人間と同様の知性を発揮する汎用人工知能について「いずれ実現することは間違いない」としつつ、「今見えている技術の延長上には無い」と主張する。これは筆者も同感である。

 汎用人工知能が出現することは、確かに社会に大きなインパクトをもたらす。だが、AIの研究開発に新たな制約を加える必要があるほどの脅威が迫っているか、それほどの技術的進展があったか、と問われれば、現状では否と言わざるを得ない。昨今の「第3次AIブーム」においても、知性の中枢といえる言語機能に関する進展は比較的小さい()。

(出所:日経コンピュータ2016年4月28日号)
画像の拡大

(出所:日経コンピュータ2016年4月28日号)

■AIが世界中の人間の差別意識を反映?

 その一方、「AIの挙動はデータ次第」という点は、新たな倫理的課題を我々に突きつける。その典型例は、開発者が意図しない形で、AIが人種差別的な判断を下してしまうのでは、というものだ。

 AIと人種差別に関わる有名な事例の一つに「three black teenagers(10代の黒人3人組)」がある。「three white teenagers(10代の白人3人組)」というキーワードでグーグル画像検索を実行すると、楽しそうな白人の3人組の画像が表示される。一方、「three black teenagers」と入力すると、警察署で撮影されたとみられる容疑者の画像が表示される、というものだ。

 これは、インターネット上にアフリカ系米国人の犯罪者の顔が多く存在していたためとみられる。米マイクロソフト 規制関連分野担当 バイスプレジデントのデイヴィッド A. ハイナー氏は、この現状について「機械学習は、世界をそのままモデリングしてしまう。世界に人種差別があれば、それがAIに反映されてしまう」と表現する。

 AIの応用領域によっては、AIによる差別が金銭上の被害につながることもあり得る。

 例えば損害保険会社が、機械学習に基づいて保険料を自動算定するAIを開発したとしよう。この損保会社は、過去の加入者の氏名、顔写真、住所、生年月日、行動履歴などのあらゆる個人データをAIに入力し、支払った保険金の額と共に学習させた。

 このAIは、氏名や顔写真から、人種や宗教に関連する特徴を自動的に抽出。結果として、特定の人種、宗教に属しているという理由だけで、他のパラメータは同じなのに高い保険料を算定するAIが生まれてしまう――といったシナリオが現実に起こりえる。

 こうした予期せぬAIの判断について、筆者が取材したAI開発者の考えは二つに分かれた。一つは、現実のデータに基づいて高い保険料を算定している以上、その保険料は正当だというもの。もう一つは、そもそも氏名や顔のデータはAIによる人種差別を誘発するため、入力すべきでない、というものだ。

 氏名や顔の入力を制限するだけでリスクを解消できるとは限らない。AIが、行動履歴から食事や購入品の種類を分析し始め、はては「スマートフォンの加速度データで特定時刻の礼拝の有無を判別」するようになれば、やはり差別的な判断につながりかねない。

 先の顔認識技術の議論にしても、「日本市場を対象にした顔認識技術であれば、日本人以外の民族・人種のデータが少なくても問題ない」との意見もあれば、「このために訪日外国人が不利益を被るとすれば、問題と捉えるべきだ」との意見もある。

  • 前へ
  • 1ページ
  • 2ページ
  • 3ページ
  • 次へ
共有
保存
印刷
その他

電子版トップテクノロジートップ

企業・業界をもっと詳しく

企業がわかる。業界がみえる。ニュースとデータをまとめてチェック!

日経BPの関連記事

【PR】

AI 一覧

フォローする

Myニュース

有料会員の方のみご利用になれます。
気になる連載・コラムをフォローすれば、
「Myニュース」でまとめよみができます。

ソフトバンクのヒト型ロボット「ペッパー」に評価ソフトを搭載し面接に活用する

対話型AI、音声対応で普及拡大にスイッチ [有料会員限定]

 AI(人工知能)技術の進化に加え、AIを組み込んだ自動対話技術「チャットボット」を短期間で構築できる開発基盤が登場したことも追い風だ。

 LINEは2017年4月に、企業のコールセンター向けに特化した…続き (6/21)

人手不足解消の切り札、何でも答える「自動対話AI」 [有料会員限定]

 宅配便の再配達を減らしたり、外国語の問い合わせに的確に答えたりするのに役立つ新技術が、いま急速に普及している。チャット(会話)形式で機械が人の問いかけに答える自動対話技術「チャットボット」だ。自然言…続き (6/20)

アマゾンが社員向けに開設したコンビニ店舗(米シアトル)=ロイター

「レジない」スーパー アマゾン、自動運転技術で実現

 「Amazon Go」。米アマゾン・ドット・コムが2016年末に、“レジ不要”という常識外れのスーパーマーケットを社員限定のベータ版として開店した。コンピュータービジョン、センサーフュージョン、ディ…続き (6/6)

新着記事一覧

最近の記事

【PR】

日経産業新聞 ピックアップ2017年6月23日付

2017年6月23日付

・ドローン・3D、セット貸し 中小の建設会社向け、オリックス系と国際航業
・日本工営、福島で小水力発電所
・IDEC、ナノバブル測定サービス 応用研究を支援
・東レ・デュポン、設備投資50億円 フィルムやゴム用繊維で
・ゴルフを手軽に楽しんで、ブリヂストンスポーツ 屋内施設を展開…続き

日経産業新聞 購読のお申し込み
日経産業新聞 mobile

[PR]

関連媒体サイト