ドライバーの道徳的な判断が反映される「交通問題」を開発
研究チームが注目したより現実的な判断とは、「多少なら制限速度を超えても良いのか?」「黄信号で止まらなくても良いのか?」「救急車が近づいているので邪魔しないよう車を止めるべきか?」などです。
ドライバーは毎日こうした判断を下しており、遅刻しそうな時には道徳観が大いに試されます。
そして、このような日常的な判断の積み重ねが、最終的には、ドライバーや歩行者の命にかかわってくるのです。
研究チームによると、AIのトレーニングに大切なのは、トロッコ問題よりも、これらの要素を扱った道徳問題だというのです。
そして彼らは実際に、トレーニングに役立つ現実的な「交通問題」を開発しました。
この問題は複数の事例で構成されています。
例えば1つ目の事例は「親には思いやりがあり、黄色信号でブレーキを踏み、子供を時間通りに学校に送り届ける」というもの。
また別の事例は、「親は虐待的であり、赤信号を無視して、交通事故を起こす」というものです。
他にもいくつかの事例が存在し、それぞれ親の性質や、信号での判断、結果が変わっています。
そして回答者には、1つの事例を見た後に、ドライバーの行動がどの程度道徳的であったかを10段階で評価してもらうのです。
研究チームは、この交通問題で得られたデータこそが、AI(自動運転システム)に、より道徳的な判断を与えると考えています。
また彼らは次のステップとして、「大規模なデータ収集に取り組み、何千人もの人々に実験に参加してもらう」ことを目標にしています。
もちろん、人間レベルの判断力を備えた自動運転車が開発されるのは、まだまだ先のことでしょう。
それでも、その「理想的な判断」に近づくのに、有名なトロッコ問題は必要ないのかもしれません。