AIがだまされる可能性

2016年の米大統領選挙以降、ソーシャルメディアでウソのニュース記事を流す「フェイクニュース」という言葉が普及した。最近の報道を見て、筆者は次に普及するのは「フェイクデータ」ではないかと思っている。

シリコンバレーの地方の町でアウディ製の自動車が無線通信を使って信号機が次に変更するまでの時間などの情報を受信するサービスを始めるという。例えば、赤信号で待っている自動車が、信号が青になるまでの時間を運転手に表示する。運転手の不満を減らす効果を期待しているという。

以前に読んだ記事によると、ミシガン大学の研究者は町の信号を管理するコンピューターアルゴリズムをだます方法を発見した。アルゴリズムは自動車が通信している位置や速度などのデータを受信している。そのデータをもとに、交通の流れを最適にするために信号を変更するパターンを決めている。

その研究者は1台の自動車をハッキングし、ウソのデータを信号機システムに転送するシミュレーションをした。そして信号変更のパターンを変えて、膨大な交通渋滞を引き起こした。数台の自動車に対象を広げると、ある地域の交通をまるまるストップさせることができたという。

この話は研究で止まっているが、交通信号システムは自動車からデータを受信する機能があるので、こうした攻撃を受ける可能性は否定できない。

今後、人工知能（AI）が普及すると社会の裏にはいくつかの危険をもたらすと報道されている。最も話題にされるのは、AIが人間の仕事を減らすことだ。だが、それとは別の大きな危険が潜んでいる。

AIは単なるコンピューターアルゴリズムだ。適切なデータを入力しなければ、AIは何もできない。アルゴリズムに提供されるデータに誤解もしくはウソが含まれると、AIの出力にも誤解が入る可能性がある。

自動運転車がAIに頼る技術の一つは映像認識だ。いくつかの研究の結果によると、道の標識の表示を少し変えると、自動運転車の映像認識システムは正しく認識しない。

AIにウソのデータを提供することがもっと微妙な攻撃になる可能性もある。

ある記事によると、米国の健康保険会社は第三者の企業から消費者の生活に関するデータを購入している。そのデータを分析して、人の今後の健康状態を予測することで保険料を決めることを検討しているという。

このデータはソーシャルメディアで蓄積されたデータも含まれている。ここ数年、偽のソーシャルメディアのアカウントが登場し、選挙などに影響を及ぼそうとウソの情報を発信することが盛んだ。こうした形で誤った個人の情報を流し、保険料を上げるなどの妨害をする可能性が考えられる。

産業界はAIに頼る社会を目指している。そこにはいくつもの危険が潜んでいる。フェイクデータの問題をよく考えていく必要性がある。

［日経産業新聞2018年7月31日付］