ITスペシャリストが語る芸術

-The Kay Notes-
SE、プログラマー、AI開発者、教育研究家、潜在意識活用研究者、引きこもり支援講師Kayのブログ。

トロッコ問題

当ブログは、第一期ライブドア奨学生ブログです。
◇お知らせ
[2019/12/28]AI&教育問題専用ブログ、メディアの風を公開しました。
[2017/03/01]「通りすがり」「名無し」「読者」「A」等のハンドル名のコメントは原則削除します。

尊重と妥協のバランス

ロシアのプーチン大統領は2023年10月17日のインタビューの中で、アメリカのバイデン大統領に対して言ったのだとされているが、
「他人を尊重し、妥協することを学ぶべきだ」
と言ったようだ。
これほど賢い言葉を言った人物は、私が記憶する限りは他にいない。
私がそう思うだけかもしれないが、これに比べれば、マザー・テレサが言ったことは複雑で役に立たないことのように思える。

尊重ということに関しては、金持ち、権力者、利権を持つ者は無制限に尊重され、そうでない人は全く尊重されないという現実がある。
一部では、賢い人、正しい人、心の美しい人が尊重されることがあり、それは良いことかもしれないが、そのことが、そうでない人が全く尊重されないという現実も生んでいる。
愚か者も尊重されるべきではある。しかし、同時に無制限に尊重することが出来るはずがないことも知らねばならない。
ところが、人々が馬鹿になってきている日本やアメリカでは、無制限に尊重するか全く尊重しないかの極端なやり方しか出来なくなっている。

尊重ということの中にも妥協は必要である。
現実問題として、「この人はここまでは尊重しよう。しかし、それ以上は無理」という妥協も必要なのだ。
しかし、現実には、「この人は無制限に尊重する」「この人は全く尊重しない」に近いことが行われている。

おそらく、尊重と妥協は関係が強く、それだけになおさら両方が重要なのかもしれない。
例えば、日本は新型コロナウイルスのワクチンを、アメリカの製薬会社から、他国と比べ、破格の高い値段で買い、100兆円も使ったと言われている。国民の税金で買いながら政府は製薬会社との契約書を公開していない。政府は、契約書を公開しないことも契約の中に入っているという子供の言い訳みたいなことを言っているようだが・・・。
確かに、日本は実際はアメリカの属国で、アメリカ政府に従わなければならない部分は現実としてあるだろう。
しかし、日本政府は限度を超えて従っている。
一方で、アメリカの不適切な要求は一切拒否せよとでも言いたい人達もいるが、それもまた現実的ではない。
そこで、本当は、アメリカと日本で、お互いを尊重し、妥協点を見出さなければならないのだ。
しかし、頭の悪い日本とアメリカの権力者は、アメリカのみを尊重し、適切な妥協点を見出そうとしていないのだ。
その結果、日本のみが、人間での治験を全く行っていない(少数のマウスでしか治験を行っていないらしい)新しいワクチンによる7回目の接種を、世界で唯一行おうとしている。政府に口止めされているマスコミは、こんなことを一切言わないが、調べるまでもなく、分かることである。ただ、テレビ、新聞ばかり見ている人には分からないのである。

『美少女戦士セーラームーン』という有名なアニメの中で、1つの大きなテーマがあった。
セーラームーンこと月野うさぎの信念は「誰も犠牲にしない」で、これは最後まで貫かれる。
一方、セーラームーンの仲間でもあるセーラーウラヌス、セーラーネプチューン、セーラープルートらは「全体のためには少数の犠牲はやむなし」で、これは、セーラームーンの影響で多少は和らいだ感はあったが、結局、このポリシーは最後まで残っていたように思う。
これは、解決が難しい問題で、私も悩んでいた。
その後のアニメ『まほろまてぃっく』で、主人公の「完璧な心を持つ」まほろは、こんな自問自答をする。
「全体のために誰かが犠牲になる。これは正しいことでしょうか?」
「善くはありませんが、それが悲しい現実です」
これを聞いて、私は、一応、上のセーラームーン問題の一応の解決を見たと思ったが、実際は何も解決されていない。

だが、プーチンが解決してくれたのだ。
分かってしまえば、実に簡単なことで、こんなことが分からなかったことがむしろ可笑しい。
答は「尊重ある妥協」だ。
「誰も犠牲にしない」を無制限に貫くことは現実的に出来ない。
しかし、安易に誰かを犠牲にしてもならない。
なんとかして妥協点を見出すしかない。

我々は妥協なきことを美徳と考える傾向が強い。
一方で、きちんとやるべきことを、どこまでも怠惰で放埓(勝手気まま)にやってしまうことが多い。

真にIQが高い者とは、高い妥協点を見いだせる者で、IQテストの成績が高い者ではない。
実際、普通に周りを見ても、IQが高い者は適切な妥協をし、IQが低い者はどこまでも妥協しない。

陽光
AIアート480
「陽光」
Kay


有名なトロッコ問題というものがある。
放っておいたら5人が死ぬが、ある人がある操作をすれば、関係のない1人が死に、その5人は助かる。
そのある人はその操作をするべきか?
答は出ていないとされる。
まず、そんな事態が起こらないようにすることが第一だ。
次に、そんなことが起こった場合のルールを決めておくことが必要だ。
だが、この2つで解決しない場合は、その操作者が何をしても尊重するしかない。
ところが、現実では、その操作者を徹底して肯定・擁護するか、徹底して非難するかになる場合が多い。
多くの場合、肯定も非難も必要だが、妥協点を見出す他、どうしようもない。








人類が存続出来るかの鍵はこれか?

AI(人工知能)による完全自動運転の自動車については、むしろ、数年前には大きな話題になったが、今はそれほどは注目されていないのはなぜだろう?
テスラ社(自動車会社としては時価総額世界一の企業)のCEO、イーロン・マスクは、2017年の7月だったか何月だったかは忘れたが、TEDでの対話形式の講演で、「完全自動運転の自動車は、今年(2017年)中に買えるようになる」と断言したが、今もそうなっていないのはなぜだろう?

その理由は、自動運転の自動車は、万に1つどころか、憶に1つ、兆に1つの危険があったら認可されないからで、そこまで安全だという証明は不可能だからだ。
人間が運転する自動車が数多く事故を起こし、沢山の人が亡くなっているが、それが、自動車の販売や使用に影響することはない。
しかし、完全自動運転のAI自動車の場合は、1つでもそれがあるなら、1台の販売も使用も出来ないのである。
アメリカでそうであるというのは、不思議なことと感じる。
アメリカなら、「そりゃあ、沢山のAI運転の車が走れば、多少の事故があるのは仕方がない」と考えるのが、むしろ、アメリカ的合理主義精神で、しかも、AI運転の方が人間が運転するより事故が少ないことはおそらく明白なのに、なぜか、そのアメリカ的合理主義が引っ込んでしまっているのである。

「トロッコ問題」をご存じの方は多いと思う。
トロッコが走る先に、5人の人間がいて、そのままでは5人が死ぬ。
しかし、あなたが、線路切り替え装置のスイッチを入れ、線路を切り替えればトロッコは、1人の人間がいる方向に進路を変え、1人を殺すだけで済む(5人は助かる)。
そんな時、あなたはスイッチを入れるかどうかという問題である。
理屈で考えれば、当然、スイッチを入れる。
だが、この問題も、数十年、膨大な人々が考えたが、結論は出ていない。
実際のところ、実際にその場になれば、誰もスイッチを押せない・・・少なくとも、恐ろしく葛藤する。
この問題に答えが出ない限り、完全自動運転車は販売出来ないのである。
そして、この問題に答えが出る見込みはない。人類が終わってもね。

ここで、こんな懐かしい言葉を思い出す。
「1人の人間の命は地球より重い」
この言葉を笑う人が時間の経過と共に増え、今、こんなことを言えば、愚か者扱いである。
「社会不適合者」ですらあると見なされるかもしれない。
しかし、上の「トロッコ問題」に答が出ず、完全自動運転の自動車が認可されないのは、この「1人の人間の命は地球より重い」が、少なくとも「真理であるかもしれない」と思われているからである。

日本の厚労省が、新型コロナウイルスワクチン接種者が死亡した際、これがワクチンのためであるという因果関係を決して認めないのは、最も大きな理由は、その判断はワクチン製造会社が行うという契約のためであるのだろうが、これも「1人の人間の命は地球より重い」を完全否定出来ないからなのである。
つまり、因果関係を認めてしまえば、「トロッコ問題」で、「線路切り替えスイッチを押すのが正しい」と、認めたことになってしまうのである。
つまり、ワクチンのこととして、やや極端な言い方をすれば、「因果関係がある事例があるのにワクチンをガンガン打て」と言っていることになってしまい、これは、「線路切り替えスイッチをバンバン押せ」と言うに等しいのである。

昔の怪獣映画で、こんなお話があった(ガメラシリーズだったと思う)。
悪の宇宙人が、人間の子供2人を人質にし、「地球人よ、降服しなければ子供を殺す」と言う。
すると、人類は降服を選ぶのである。
まさに、1人の命は(ここでは2人だが)地球より重かったのである。
これを見て、今の人なら(当時の人もかもしれないが)、多くは「馬鹿馬鹿しい」と思うのではないかと思う。
だが、おそらく、当時、その映画のその件が、それほど批判されることはなかった。
この映画は、今でも、Amazon Primeビデオや、DVD、blu-rayで見ることが出来るが、やはり、批判はない。
だが、批判がないのは、単に、無視しているだけである。
むしろ、さっきも述べた通り、否定的に思う(2人の子供のために人類が降服するのは馬鹿げていると思う)人が増え続けていると思う。

実は、この問題には、人類の存亡がかかっていると思う。
ひょっとしたら、宇宙連合みたいなところが、人類が、この問題についてどう考えるかを見ていて、状況次第で「地球人アウト」として、地球人類を滅ぼすかもしれない。
神だって、人類の選択次第で、人類を滅ぼすことはないにしろ、何らかの大きなことを起こすかもしれない(もう起こしている?)。
そして、あなたが神の力を使えるか、あるいは、神と一体になれるかは、「人間1人の命は地球より重いか?」に、どんな答を持っているかで決まるかもしれない。
いや、実際にそうなのであると私は思う。
世界に対する自然な支配力を持つ者は、一般の人とは異なる答を持っているから、神の力と共にあるように思えるのである。








正義の時代

アメリカの大統領選挙の様子を見ると、ついに正義の時代が来るのだと思う。
個人的には、トランプが正しく、1月には、2期目のトランプ政権が始まると確信しているが、いずれにせよ、今回は、神は正しい方を勝たせるように思う。
もし、自分が悪の立場に立っているなら、早く態度を変えなければならないことを知らせているように感じるのだ。

こう言うと、「正義の定義とは何か?」と言う者がいるだろう。
そう問う意味は、「正義は定義出来ない。だから、正義とは何かは分からない」と言うことだろう。
本当は正義なんてものは存在しないということの根拠として挙げられるものに、「トロッコ問題」がある。
今の時代、トロッコが何か分からないかもしれないが、まあ、無人電車とでも思えば良い。
暴走するトロッコの先には、5人の人間がいて、そのままでは、5人はひき殺されるとする。
だが、自分の目の前に、線路切り替え機があり、それを操作すれば、トロッコは進路を変え、5人は助かる。
しかし、トロッコが進路を変えた先には、1人の人間がいて、今度は、その1人が死ぬことになる。
尚、線路切り替え機を操作して、その1人を殺しても罪には問われないとする。
また、そのまま放置して5人が死んでも同様(罪に問われない)とする。

正義はどちらも選べない。
「1人を殺して5人を救うべき」というのは、正義ではなく、理屈である。
よって、理屈は役に立つが、正義は役に立たないと言われる。

だが、そうではない。
そんな状況は滅多に起こらない。
だから、そんなことを考える必要がない。
我々は、そんな特殊な事態を基準にせず、当たり前の正義を行えば良い。
もし、判断不能に陥るような特殊な状況が起こったら、判断しないことだ。
そうすれば、神が判断してくれるかもしれない。
例えば、こんなことがあった。
私が乗っているタクシーが走っている先にカラスが着地したことがある。
そのままひいても、タクシーは損傷を受けなかったと思うが、運転手は急ブレーキをかけ、カラスはギリギリ飛び去った。
もし、仮に、そのために私が怪我をしても、私はどうでも良い。

『8マン・インフィニティ』という、2004年から2007年まで連載された漫画作品がある。
これは、1960年代前半の漫画作品『8マン』の正統な続編だ。
8マンは、知性を持ったスーパーロボットで、アンドロイドとかサイボーグと言っても良いだろう。
悪のサイボーグ集団が、8マンとは何者かを議論する。
「どこかの国のサイボーグ工作員か?」
「いいや、そいつはどこにも属していなかった。あえて言うならヤツが属するのは”正義”。たった一人の子供のために一国を敵に回せる男。それが8マンだ」
理屈は分からないが、私は、この正義が良いと思う。

『美少女戦士セーラームーンS(スーパー)』で、セーラウラヌスこと、天王はるかが言った。
「自らの正義を貫け・・・これは理事長の言葉ですよ」
つまり、はるかはこの言葉に従っているのだ。
つまるところ、正義とは個人的なものだ。
それは、主に、成長期に生活をする中で、修正されていく。
つまり、特に子供が、立派な個人的正義が構築されるような生活が出来る世の中を作ることが、最大の正義なのである。
そして、ある程度の年齢になれば、より良い正義が構築されるような冒険をしなければならない。
正義は、感情が教えてくれる。
正義は、感情のコンパスなのである。
それを大切にするしかない。








トロッコ問題の正解

トロッコをご存知だろうか?
乗ったことはないと思うが(私もない)。
トロッコとは、普通、鉄道用の線路の上を走る手押し車のことを指すと思う。トラックがなまってトロッコになったという話がある。
『インディ・ジョーンズ/魔宮の伝説』の、トロッコの走行シーンが有名らしいし、『天空の城ラピュタ』では、トロッコに乗り移ったパズーとシータがかなり無茶をしていたと思う。

で、「トロッコ問題」という、有名なもの(思考実験とか言うらしい)がある。
フィリッパ・フット(1920-2010)という哲学者が提起したと言われる。
簡単に言うと、こんなものだ。
暴走したトロッコが向かう先の線路上に5人がいて、5人に逃げ場はなく、そのままでは5人はトロッコに激突して死ぬ(とする)。
トロッコが走る線路を切り替える分岐器を動かし、トロッコの方向を変えれば、5人は助かるが、新たな走行先にいる1人が死ぬ。
分岐器を動かすべきかどうか?

答は出ていないが、多くの人々の意見は、5人を救うために、1人を犠牲にするのはやむをえないというものだ。
これまでは、「私はこう思う」という無責任な主張が花を咲かせたが、AIによる自動車の自動運転が現実になってくると、そうはいかない。
たとえば、子供達の中にAIが運転する自動車が突っ込もうとしている時、AIは車の向きを変えて崖から転落すれば、運転者は死ぬが子供達は助かる。
運転者が1人の場合、あるいは、子供達より数が少ない場合には、それが妥当な判断と思えるかもしれない。
しかし、そんな車、誰が買うかい!(笑)

トロッコ問題の答を言おう。
断っておくが、これは、どこかの偉い先生が言って、学会が承認したようなものでも何でもない。
だが、正しいのだ。
答は、分岐器は使わない。つまり、線路を切り替えず、5人を見捨てるのが正しい。
なぜかと言うと、特に、人の命が関わるようなことで、自然の流れに手を出してはならないからだ。
このトロッコ問題のような1つの出来事だけなら、確かに、1人が死んで5人が助かることの方が正しいように思えるかもしれない。
しかし、いつもそんな、自然に逆らう、作為的なことをしていれば、必ず世界のバランスが崩れ、悲惨な状況になる。
まして、今後のAIが管理する社会で、AIが完璧にそんなことを続ければ、人類は滅亡する。

ただし、例えば、こんな場合は話が違う。
原爆を積んだ飛行機が飛行中、搭載した原爆が誤作動してスイッチが入ってしまったとする。
そのままでは、原爆はある都市の上で核爆発を起こすが、パイロットはそのことに気付いておらず、無線も壊れている。
しかし、原爆を遠隔監視している者には、原爆のスイッチが入ったことが分かる。
原爆を爆撃した場合、核爆発は起こらないとする。
この場合は、原爆を積んだ飛行機を爆撃するのが正しい。
なぜなら、原爆を積んだ飛行機が都市の上を飛んだりすること、さらには、原爆自体が、少しも自然なものではないからだ。

自然であること・・・これが大切だ。
蜘蛛の巣に綺麗な蝶がかかったら、蝶を助けたくなるかもしれないが、それは自然に反する。
小鹿がハンターの罠にかかっていたら、やっぱり助けたくなるが、ハンターが生活のためにやっていることなら、当然、そんなことをしてはならない。
ただし、密猟者の罠にかかった動物、あるいは、間違って、罠に人間がかかってしまった場合は、助けるのが自然で正しい。

オルフェウスが、死んだ妻を黄泉の国から連れ戻そうとしたが、失敗したのは、それが不自然なことなので、神の摂理が働いたのだと考えると良いだろう。
同じく、死んだイザナミを連れ戻そうとして、イザナギが散々な目に遭ったのも、イザナギが不自然なことを考え、実行したからである。









↓応援していただける方はいずれか(できれば両方)クリックで投票をお願い致します。
人気blogランキングへ にほんブログ村 哲学・思想ブログ 人生・成功哲学へ

トロッコ問題

「トロッコ問題」という、倫理的な命題がある。
現代的に言えば、こんな感じになると思う。

走っている自動車が歩行者を撥ねるのを回避出来ない状況の時、運転者はハンドルを切れば歩行者は救えるが、自動車は崖から転落する。
そんな時、どうするか?

これは、実用化が近い、AI(人工知能)による自動車の運転を実現するには、避けて通れない問題だ。
「いざという時」、AIがどんなふるまいをするかは、自動車購入者はもちろん、全ての人々にちゃんと説明しておかなくてはならない。
普通に考えると、AIが、合理的に、多数者を救うために少数者を、「当然のこととして」、「冷たく」犠牲にすることを認めるしかなくなるが、そんな車、誰も買いたいとは思わないだろう。

多くの人を救うために、1人(あるいは少数者)を犠牲にするのは善いことか?
アニメの『美少女戦士セーラームーン』では、「愛と正義のセーラー服美少女戦士」セーラームーンは、徹底して、「誰も犠牲にしない」というポリシーを貫いた。
一方、アニメ『まほろまてぃっく』では、「究極の戦闘用アンドロイド」まほろは、「善くはありませんが、それが悲しい現実です」と、なんだか美しい表現をした。

結論はこうなのだ。
もし、人間が運転者なら、その刹那の運転者の判断に任せるしかない。
それは、じっくり考えた判断ではないだろうから、運転者の人間性が現れるのかもしれない。
もしかしたら、運転者が自分でも信じられないといった行動をするかもしれない。
実際には、運転者が歩行者を犠牲にすれば、罪の検証が行われるのだが、それはそれとして、運転者がどんな行動をしたとしても、それが一番良かったのである。
そう思うしかない。
そして、それはAIについても同じだ。
ただし、AIも、人間のように、最後にどんな判断をするかは曖昧にしておくしかない。
「倫理的にどうか」という判断ではなく、人間のように、あらゆることを含めた判断をするようにすれば、AIがどう結論するか分からないし、後で、「なぜ、AIはそう判断したのか?」が、はっきりしないこともある。
現代のAIというのは、十分に、そんなことが出来るのである。
AIの出す結論というのは、AIの学習の成果なのであるから、AIにどんな学習をさせるかが大切だろう。

つまり、ものごとは、理屈で判断がつくほど単純なことばかりではないということだ。
そんな時、これまでは、多くの・・・おそらく、社会の上位層の人々が嫌って、認めようとしなかった、「直感に従う」ことの重要性を考えるしかなくなる。
しかし、それほど多くの人々に、そんなことが出来るのかどうかは分からない。
だが、新しい人間は、直感を磨き、それを信用することを覚えるのである。









↓応援していただける方はいずれか(できれば両方)クリックで投票をお願い致します。
人気blogランキングへ にほんブログ村 哲学・思想ブログ 人生・成功哲学へ
プロフィール
名前:Kay(ケイ)
・SE、プログラマー
・初音ミクさんのファン
◆AI&教育blog:メディアの風
◆著書『楽しいAI体験から始める機械学習』(技術評論社)


当ブログは第1期ライブドア奨学生ブログです。
Kay Twitter Home

執筆のご依頼




最新コメント


月別アーカイブ
記事検索
ブログバナー&Mail


メールはこちらへ

PV since 2010/09/08
  • 今日:
  • 昨日:
  • 累計:

人気ランキング参加中
にほんブログ村 哲学・思想ブログ 人生・成功哲学へ
にほんブログ村 メンタルヘルスブログ ひきこもりへ


タグクラウド
QRコード
QRコード