米グーグル、AIに「非常停止ボタン」 暴走防止

2016/6/8 18:01
共有
保存
印刷
その他

 【シリコンバレー=小川義也】米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

 今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

 具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

 研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。

 ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

共有
保存
印刷
その他

電子版トップ

関連キーワードで検索

グーグルAI

【PR】

【PR】

主要ジャンル速報

北海道 23日 7:01
23日 7:00
東北 23日 7:00
23日 7:00
関東 23日 7:01
23日 7:00
東京 23日 7:01
23日 7:00
信越 23日 7:00
23日 7:00
東海 24日 21:30
23日 21:30
北陸 23日 6:32
23日 6:25
関西 23日 6:32
23日 6:25
中国 23日 7:01
23日 7:01
四国 23日 7:02
23日 7:01
九州
沖縄
6:00
24日 6:00

【PR】



日本経済新聞社の関連サイト

日経IDの関連サイト

日本経済新聞 関連情報