AI

フォローする

Myニュース

有料会員の方のみご利用になれます。
気になる連載・コラムをフォローすれば、
「Myニュース」でまとめよみができます。

「AI脅威論」3つの誤解と真に議論すべき3つの課題

(1/3ページ)
2017/6/9 6:30
共有
保存
印刷
その他

ITpro

 最近、本屋に行くと「人工知能(AI)の脅威」について書かれた本がズラリと並んでいるのを見かける。AIに対する漠然とした不安が世間にあるのは事実だ。その不安に対して、例えば総務省が「AI開発ガイドライン(仮称)」の策定に動き出すなど、政府が何らかのリアクションを示しているのも、当然の成り行きといえる。

 ただ、世間で語られるAIの脅威の中身は、現在のAI技術への誤解に基づくものが多い。ただその一方、まさにAI技術が直面する社会上、倫理上の課題として、AI開発者による議論が求められるテーマも確かにある。

 ここでは、AIの脅威に関わる3つの誤解と、真に議論すべき3つの課題を紹介する。

誤解1:いずれAIが、自律的に人類を滅ぼす意思を持つかもしれない
回答1:そもそも今のAI技術は「自ら意思を持つ」にはほど遠い

 現在、人間と会話するできるAI(会話AI、チャットボット)の技術は、大まかに言えば二つの仕組みから成り立っている。

 一つは、あらかじめ人間が設定した対話シナリオに基づいて会話文を生成するルールベースの手法。もう一つは、膨大な対話データベースに基づき、質問に対する適切な回答を統計的マッチングの手法で探索する統計ベースの手法である。現在のチャットボット技術の多くは、この二つの手法を組み合わせて会話文を生成している。

 いずれにせよ、現在のAIは、人間が入力した対話データなしには会話を生成できない。現在の会話AIは「対話データのオウム返し」という段階から脱していない。以前、AIロボットがテレビ番組で「人類を滅亡させる」を発言したとして話題になったが、これは質問者の「人類を滅亡させたいか」との質問をオウム返しに繰り返しただけと思われる。

 深層学習(ディープラーニング:多層ニューラルネットによる機械学習)開発のスタートアップ企業であるPreferred Networks(PFN)最高戦略責任者の丸山宏氏は、人間と同様の知性を発揮する汎用人工知能について「いずれ実現することは間違いない」としつつ、「今見えている技術の延長上には無い」と主張する。これは筆者も同感である。

 汎用人工知能が出現することは、確かに社会に大きなインパクトをもたらす。だが、AIの研究開発に新たな制約を加える必要があるほどの脅威が迫っているか、それほどの技術的進展があったか、と問われれば、現状では否と言わざるを得ない。昨今の「第3次AIブーム」においても、知性の中枢といえる言語機能に関する進展は比較的小さい()。

(出所:日経コンピュータ2016年4月28日号)
画像の拡大

(出所:日経コンピュータ2016年4月28日号)

■AIが世界中の人間の差別意識を反映?

 その一方、「AIの挙動はデータ次第」という点は、新たな倫理的課題を我々に突きつける。その典型例は、開発者が意図しない形で、AIが人種差別的な判断を下してしまうのでは、というものだ。

 AIと人種差別に関わる有名な事例の一つに「three black teenagers(10代の黒人3人組)」がある。「three white teenagers(10代の白人3人組)」というキーワードでグーグル画像検索を実行すると、楽しそうな白人の3人組の画像が表示される。一方、「three black teenagers」と入力すると、警察署で撮影されたとみられる容疑者の画像が表示される、というものだ。

 これは、インターネット上にアフリカ系米国人の犯罪者の顔が多く存在していたためとみられる。米マイクロソフト 規制関連分野担当 バイスプレジデントのデイヴィッド A. ハイナー氏は、この現状について「機械学習は、世界をそのままモデリングしてしまう。世界に人種差別があれば、それがAIに反映されてしまう」と表現する。

 AIの応用領域によっては、AIによる差別が金銭上の被害につながることもあり得る。

 例えば損害保険会社が、機械学習に基づいて保険料を自動算定するAIを開発したとしよう。この損保会社は、過去の加入者の氏名、顔写真、住所、生年月日、行動履歴などのあらゆる個人データをAIに入力し、支払った保険金の額と共に学習させた。

 このAIは、氏名や顔写真から、人種や宗教に関連する特徴を自動的に抽出。結果として、特定の人種、宗教に属しているという理由だけで、他のパラメータは同じなのに高い保険料を算定するAIが生まれてしまう――といったシナリオが現実に起こりえる。

 こうした予期せぬAIの判断について、筆者が取材したAI開発者の考えは二つに分かれた。一つは、現実のデータに基づいて高い保険料を算定している以上、その保険料は正当だというもの。もう一つは、そもそも氏名や顔のデータはAIによる人種差別を誘発するため、入力すべきでない、というものだ。

 氏名や顔の入力を制限するだけでリスクを解消できるとは限らない。AIが、行動履歴から食事や購入品の種類を分析し始め、はては「スマートフォンの加速度データで特定時刻の礼拝の有無を判別」するようになれば、やはり差別的な判断につながりかねない。

 先の顔認識技術の議論にしても、「日本市場を対象にした顔認識技術であれば、日本人以外の民族・人種のデータが少なくても問題ない」との意見もあれば、「このために訪日外国人が不利益を被るとすれば、問題と捉えるべきだ」との意見もある。

  • 前へ
  • 1ページ
  • 2ページ
  • 3ページ
  • 次へ
共有
保存
印刷
その他

電子版トップテクノロジートップ

企業・業界をもっと詳しく

企業がわかる。業界がみえる。ニュースとデータをまとめてチェック!

日経BPの関連記事

【PR】

AI 一覧

フォローする

Myニュース

有料会員の方のみご利用になれます。
気になる連載・コラムをフォローすれば、
「Myニュース」でまとめよみができます。

人工知能(AI)を採用した働き方改革支援サービスの流れ(画像提供:エルテス、TIS)

社員の行動を分析 「働き方改革」AIが指南 [有料会員限定]

 働き方改革の方針を人工知能(AI)で導き出す新サービスが相次ぎ登場している。政府はテレワーク・デイを2017年7月24日に開催。数千人規模で取り組んだNTTデータなど600社以上が参加する盛り上がり…続き (10/11)

フェンシング界のレジェンドである太田雄貴氏。北京五輪のフルーレ個人で銀メダル、ロンドン五輪のフルーレ団体で銀メダルを獲得。2016年のリオデジャネイロ五輪後に現役を引退=共同

共同

肝はパターン分析、伝説的選手の「感性」AIに実装

 前回は、LIGHTzが開発するAI(人工知能)技術「ORINAS(オリナス)」を、スポーツ分野でどのように展開できるかについて紹介しました。
 今回は、フェンシング界の世界的なレジェンドである太田雄貴…続き (10/6)

イチロー選手=共同

共同

人工知能で継承する伝説のスポーツ選手「究極の技」

 人工知能(AI)技術の進歩によって、従来は人間にしかできなかった多くの仕事が、理論上は自動化できるようになってきた。実際、販売・マーケティング、顧客サポート、人事・人材管理、物流など多くの分野でAI…続き (9/29)

新着記事一覧

最近の記事

【PR】

TechIn ピックアップ

10月22日(日)

  • 「プライヴァシーの死」とGDPR:メディア美学者・武邑光裕による新連載「GDPR:データとインターネット〜EUが描く未来」
  • Face IDは今後の生体認証スタンダードになるか?
  • プログラミングを色鉛筆のような“表現ツール”に―DeNA、小学校に学習アプリを無償提供

日経産業新聞 ピックアップ2017年10月20日付

2017年10月20日付

・米ツナミ、VRで部品組み立て研修
・サイバーブル、電子看板にネット動画広告配信
・モフィリア、指先1つで静脈認証
・何でもつかむぞ万能ロボハンド 東北大、柔軟に変形
・フジクラ、伸縮・曲げ自在な電子回路…続き

[PR]

関連媒体サイト