AIの判断基準とは 「ブラックボックス」指摘も
きょうのことば

2018/11/27 2:00
保存
共有
印刷
その他

▼AIの判断基準 人工知能(AI)が複雑なプロセスを経て判断を下す際の基準。現行のAIは「深層学習(ディープラーニング)」と呼ばれる技術を使い、大量に学習したデータから精度の高い結論を素早く導き出せる。半面、その処理過程を解明することは難しく、判断基準が「ブラックボックス」になるリスクが指摘されている。

深層学習は脳の働きを模したニューラルネット(神経回路網)が判断し結論を出す。その処理過程が複雑なため、根拠が不明瞭なまま融資が拒否されたり就職で不採用になったりする事態も想定される。学習段階で偏ったデータを読み込ませれば、判断にも偏りが生じうる。人種や性別間の差別が助長される恐れもある。

AIを使う政府や企業の責任をどう明確化するかが課題となる。AIへの規制では欧州連合(EU)が先行。AIの判断過程を分かりやすくすることを企業に求める指針の策定に動く。米グーグルが今年6月に公表した指針に「バイアス(偏向)を避ける」などの項目を盛り込むなど、企業による自主規制の動きも目立ってきた。

【関連記事】
AIの判断、企業に説明責任 ルール作りへ政府7原則
AIの判断、「なぜ」を明らかに 米IBMがソフト開発
データ寡占を独禁法で規制、政府検討 GAFA念頭
EU、AIに倫理指針 人種・性別の差別防ぐ
アンドロイドに人権はあるか AI進化が迫るルール
AIが変える会計監査 リアルタイム監視の足音
英検、AIが採点 「話す」と「書く」で部分点も
保存
共有
印刷
その他

電子版トップ



[PR]