国立情報学研・九大・JST、画像識別AIの誤識別リスクを効果的・効率的に低減する技術を開発

発表日:2023年03月17日

画像識別AIの誤識別リスクを効果的・効率的に低減する技術を開発

〜自動運転システムにおける安全性ベンチマークにて効果を検証〜

情報・システム研究機構 国立情報学研究所（NII（エヌアイアイ）、所長:喜連川 優、東京都千代田区）のアーキテクチャ科学研究系 准教授 石川（いしかわ） 冬樹（ふゆき）らの研究チームは、九州大学（九大、総長:石橋 達朗、福岡県福岡市）大学院 システム情報科学研究院 情報知能工学部門 准教授 馬（まー） 雷（らい）らの研究チームとともに、画像識別AIの誤識別に対するリスクを効果的・効率的に低減する技術を開発しました。本研究成果は、科学技術振興機構（JST（ジェイエスティ）、理事長:橋本 和仁、東京都千代田区）の未来社会創造事業 Engineerable AI プロジェクト(*1)（通称 eAIプロジェクト、研究開発代表者:NIIアーキテクチャ科学研究系 准教授 石川 冬樹）によるものです。

深層ニューラルネットワーク（以下 DNN: Deep Neural Network）では、多数のパラメーターが異なる物体の識別結果に対して複雑に影響するため、ある誤識別を改善するための修正が、他の識別結果に意図しない低下（デグレ）を発生させる問題があります。

本プロジェクトでは、役割の異なる複数のDNN修正技術を組み合わせ、画像識別用DNNを狙い通りに修正する研究開発を進めてきました。具体的には、様々な誤識別を分類し、タイプごとの原因と修正方法を発見する技術（NII）、パラメーター修正と誤識別改善の履歴情報を利用することで修正による低下を抑制する技術（NII）、パラメーター値だけでなくDNNの基本構造自体も修正する技術（九大）などに取り組んできました。

自動運転AI向けの実験では、自動車企業などを交えて定めた安全性ベンチマークで評価を行い、多数の安全要求を満たした上で狙い通りの修正が可能であり、効果的・効率的にリスクを低減できることを確認しました。

今後、開発した修正技術をフレームワークとして統合するとともに、自動運転のあり方に関するビジョンやポリシー、走行データの特性など企業ごとに異なるニーズに応じた産業実証に取り組んでいきます。

NII、九大の研究成果は、それぞれ、ソフトウェアテストに関するフラッグシップ国際会議 ICST 2023(*2)で2023年4月（アイルランド時間）、ソフトウェア解析に関するフラッグシップ国際会議SANER 2023(*3)で2023年3月23日（マカオ時間）、ソフトウェア工学に関するフラッグシップ雑誌 TOSEM(*4)で2023年内に発表されます。

※以下は添付リリースを参照

リリース本文中の「関連資料」は、こちらのURLからご覧ください。

添付リリース

https://release.nikkei.co.jp/attach/651392/01_202303171600.pdf