ITスペシャリストが語る芸術

「トロッコ問題」という、倫理的な命題がある。
現代的に言えば、こんな感じになると思う。

走っている自動車が歩行者を撥ねるのを回避出来ない状況の時、運転者はハンドルを切れば歩行者は救えるが、自動車は崖から転落する。
そんな時、どうするか？

これは、実用化が近い、AI（人工知能）による自動車の運転を実現するには、避けて通れない問題だ。
「いざという時」、AIがどんなふるまいをするかは、自動車購入者はもちろん、全ての人々にちゃんと説明しておかなくてはならない。
普通に考えると、AIが、合理的に、多数者を救うために少数者を、「当然のこととして」、「冷たく」犠牲にすることを認めるしかなくなるが、そんな車、誰も買いたいとは思わないだろう。

多くの人を救うために、１人（あるいは少数者）を犠牲にするのは善いことか？
アニメの『美少女戦士セーラームーン』では、「愛と正義のセーラー服美少女戦士」セーラームーンは、徹底して、「誰も犠牲にしない」というポリシーを貫いた。
一方、アニメ『まほろまてぃっく』では、「究極の戦闘用アンドロイド」まほろは、「善くはありませんが、それが悲しい現実です」と、なんだか美しい表現をした。

結論はこうなのだ。
もし、人間が運転者なら、その刹那の運転者の判断に任せるしかない。
それは、じっくり考えた判断ではないだろうから、運転者の人間性が現れるのかもしれない。
もしかしたら、運転者が自分でも信じられないといった行動をするかもしれない。
実際には、運転者が歩行者を犠牲にすれば、罪の検証が行われるのだが、それはそれとして、運転者がどんな行動をしたとしても、それが一番良かったのである。
そう思うしかない。
そして、それはAIについても同じだ。
ただし、AIも、人間のように、最後にどんな判断をするかは曖昧にしておくしかない。
「倫理的にどうか」という判断ではなく、人間のように、あらゆることを含めた判断をするようにすれば、AIがどう結論するか分からないし、後で、「なぜ、AIはそう判断したのか？」が、はっきりしないこともある。
現代のAIというのは、十分に、そんなことが出来るのである。
AIの出す結論というのは、AIの学習の成果なのであるから、AIにどんな学習をさせるかが大切だろう。

つまり、ものごとは、理屈で判断がつくほど単純なことばかりではないということだ。
そんな時、これまでは、多くの・・・おそらく、社会の上位層の人々が嫌って、認めようとしなかった、「直感に従う」ことの重要性を考えるしかなくなる。
しかし、それほど多くの人々に、そんなことが出来るのかどうかは分からない。
だが、新しい人間は、直感を磨き、それを信用することを覚えるのである。

↓応援していただける方はいずれか（できれば両方）クリックで投票をお願い致します。