/

[FT]犠牲は同乗者か歩行者か 自動運転車、誰を救う?

Financial Times

私は今日、残忍だった。また、慈悲深くもあった。意図的に年金生活者と犬の群れをひき殺した。ホームレスに突っ込み、スポーツ選手を2人惨殺し、太りすぎの人をひいた。だが、常に子供は救おうとした。

米マサチューセッツ工科大学(MIT)が実施している公開実験「モラル・マシン」のセッションを終えたとき、自分の道徳観は万人に共有されていないことを知った。倫理的なジレンマに関する世論を集約することは、限定的な道徳的思考能力を自動運転車などの「賢い機械」に授けるのに効果的な方法だという主張がある。だが、経験してみると、クラウドソーシング(不特定の人に作業を託すこと)が基本的に殺人の倫理にあたるものを形づくる最善の方法だとは思えない。

これは純粋な学術問題ではない。米テスラモーターズは中国で、自律的な運転支援機能「オートパイロット」を備えた車を運転していた人が死亡した事故をめぐって、提訴されている。テスラは、この技術が事故の原因であることを否定している。

パソコンと休憩時間があれば誰でも、完全自律的な自動運転車のブレーキが故障したことを想定したMITの大規模な実験に参加できる。

「トロッコ問題」の自動運転車版

車は同乗者でいっぱいで、歩行者に向かって進んでいる。実験は13通りの「トロッコ問題」を描いている。暴走するトロッコの車輪の下で誰が死ぬか決断を迫られる、倫理学の典型的なジレンマのことだ。

MITの設定では、暴走しているのは自動運転車で、進路を保つか、脇へそれることができる。どちらも死と破壊を意味する。(死すべき人の)選択肢は、車に乗っている人か歩行者のどちらか、または2組の歩行者だ。誰が死ぬべきかを計算するには、より多くの命と少ない命、若者と老人、専門職の人とホームレス、妊婦とスポーツ選手、人間と動物――をはかりにかける必要がある。

本質的に、トロッコ問題は、誰が生き、誰が死ぬかを決めることだ。これは真の自動運転車がいずれ下すかもしれない類の判断になる。実験後、私の「好み」が明らかになった。私は大抵、子供を救い、ペットを犠牲にする。交通規則に違反して道路を渡っているわけではない人は救われ、同乗者は犠牲になる。分かり切ったことだ。自動運転車に乗り込むと決めた時点で、乗った人はリスクを背負うべきだからだ。

進路をそれることを嫌う私の傾向について言えば、慎重であるなら当然、自動運転車は一般的に道路に沿って進むようプログラムされているはずではないだろうか。

この実験は啓蒙的だ――自分の好みがその他すべての人と比べてどうかが分かるまでは。命を救うことにかけては、そして特に同乗者を守る点では、私は人より劣る。私はほかの人よりも、法律を守り、進路から脇へそれないことを大事にしているらしい。それと比べると、私が狙いを定めた被害者の社会的地位はまるで重要でない。

倫理について合意形成は困難

思慮深く死を分配することのテクニカルな側面について議論はできる。例えば、もし車に乗っている人たちを死なせるのであれば、乗っているのが子供か犯罪者かにかかわらず、私たちはそうするのだろうか。

だが、こうした詳細について思い悩むことは無意味だ。実験はむしろ、自動運転車の倫理について合意に達するのが極端に難しいことを実証している。似たような調査は、大半の人は、ひき殺されるのが自分でない限り、最大数の命を救うという実利的な理想でいいと思っていることを示している。

人が単に自分たちの倫理観を出し合って、一定の規範に同意できるということに私は悲観的だ。なぜなら、少なくとも私にとっては「規範は普通ではない」からだ。人為的なミスを減らし、全般的に道路を安全にすることを約束する自動運転車のメーカーが直面する障害だ。乗っている人を犠牲にするようプログラムされた車は言うまでもなく、自分が賛同しない殺人アルゴリズムで動く車など、いったい誰が買うだろうか。

最も厄介なのは、あらかじめ計画された殺人という考えだ。このために、死刑は広く受け入れがたいものとされ、中絶と安楽死が論争を呼ぶ規制分野であり続ける。

私たちはしぶしぶ、事故は起きるものだと受け入れている。自動運転車についても、いくつかの要素を成り行きに任せる余地があるのかもしれない。

By Anjana Ahuja

(2016年9月20日付 英フィナンシャル・タイムズ紙)

(c) The Financial Times Limited 2016. All Rights Reserved. The Nikkei Inc. is solely responsible for providing this translated content and The Financial Times Limited does not accept any liability for the accuracy or quality of the translation.

春割ですべての記事が読み放題
今なら2カ月無料!

セレクション

トレンドウオッチ

新着

ビジネス

暮らし

ゆとり

新着

ビジネス

暮らし

ゆとり

新着

ビジネス

暮らし

ゆとり

フォローする
有料会員の方のみご利用になれます。気になる連載・コラム・キーワードをフォローすると、「Myニュース」でまとめよみができます。
春割で申し込むログイン
記事を保存する
有料会員の方のみご利用になれます。保存した記事はスマホやタブレットでもご覧いただけます。
春割で申し込むログイン
Think! の投稿を読む
記事と併せて、エキスパート(専門家)のひとこと解説や分析を読むことができます。会員の方のみご利用になれます。
春割で申し込むログイン