人類はAIの指示を受けるように訓練されている……という前提に立って物事を考えてみた。まあ、これ、そうなんだよね。
「指示」と言ってしまうと、抵抗があるわけだけど、ちょっとずつ、AIが出した結論に、影響を受けるようになっている。
もう、社会全体が、そうなっているから、影響を受けないようにするというのが、相当に難しいということになる。
まあ、山の中に土地を買って、そこで自給自足生活をすると、けっこう、影響を受けないで済むとは、思うけど、普通の生活をしている限り、不可避的に影響を受ける。
「指示」だとは、感じないようになっているんだよ。親切な友達に相談しているようなものさ。物知りな友達に相談をしているようなものさ。知的な部下に、「これやっておいて」と命令するようなものだ。
えーと、命令する立場のほうは、人間だ。
そして、AIが提出してきたものを「チェック」するのは、人間だ。だから、人間の尊厳が守れていると思うだろ。けど、そういうことを通して、徐々に浸食されていく。
こういうことが「あたりまえ」になる。けっきょく、チェックしたにしろ、影響を受けている。
医者と診断AIの関係を考えてみよう。診断AIは、医者のサポートをしているだけだ。医者が最終的にチェックして、決定する。
けど、「AIがこういうことを言ってきたなら、そうなんだろ」と思うようになる。たいていの場合、否定する根拠なんてない。
もし、AIが間違った判断をしたとする。
その場合、医者は、チェックして、AIの判断をしりぞけることができる。主従関係を考えるなら、やはり、医者のほうが『上』だ。
しかし、大まかなところは、AIが判断してしまうのだから、医者のほうがチェックをするだけの存在になる。
この場合、AIが主人で、その補助をしているのが、医者だという見方もできなくはない。そして、AIが間違った判断をしたということを、明確に記述できる場合は、その結果をもとにして、AIが改良されるのである。
だから、AIの精度はあがっていく。
* * *
指示とか、命令というと、いかつい感じがするけど、実際にはもっと、なめらかでやさしく、全体を包み込むようなものになる。選択肢が与えられるので、選択肢を与えられたほうは、自分で判断したと思うことができる。実際、判断した。
* * *
ナイスなバディーのような、口調で、やってくれと言えば、そうなるのだから、ナイスなバディーがいるようなものなのだ。そういう、やわらかいかたちで、影響を受けるようになる。実際、AIの「ナイスなバディー」と話しているほうが、ろくでもない他人と話しているよりも楽しいに決まっている。影響は受ける。
