●2025/12/03 3:17

人類はAIの指示を受けるように訓練されている……という前提に立って物事を考えてみた。まあ、これ、そうなんだよね。

「指示」と言ってしまうと、抵抗があるわけだけど、ちょっとずつ、AIが出した結論に、影響を受けるようになっている。

もう、社会全体が、そうなっているから、影響を受けないようにするというのが、相当に難しいということになる。

まあ、山の中に土地を買って、そこで自給自足生活をすると、けっこう、影響を受けないで済むとは、思うけど、普通の生活をしている限り、不可避的に影響を受ける。

「指示」だとは、感じないようになっているんだよ。親切な友達に相談しているようなものさ。物知りな友達に相談をしているようなものさ。知的な部下に、「これやっておいて」と命令するようなものだ。

えーと、命令する立場のほうは、人間だ。

そして、AIが提出してきたものを「チェック」するのは、人間だ。だから、人間の尊厳が守れていると思うだろ。けど、そういうことを通して、徐々に浸食されていく。

こういうことが「あたりまえ」になる。けっきょく、チェックしたにしろ、影響を受けている。

医者と診断AIの関係を考えてみよう。診断AIは、医者のサポートをしているだけだ。医者が最終的にチェックして、決定する。

けど、「AIがこういうことを言ってきたなら、そうなんだろ」と思うようになる。たいていの場合、否定する根拠なんてない。

もし、AIが間違った判断をしたとする。

その場合、医者は、チェックして、AIの判断をしりぞけることができる。主従関係を考えるなら、やはり、医者のほうが『上』だ。

しかし、大まかなところは、AIが判断してしまうのだから、医者のほうがチェックをするだけの存在になる。

この場合、AIが主人で、その補助をしているのが、医者だという見方もできなくはない。そして、AIが間違った判断をしたということを、明確に記述できる場合は、その結果をもとにして、AIが改良されるのである。

だから、AIの精度はあがっていく。 

*     *     *

指示とか、命令というと、いかつい感じがするけど、実際にはもっと、なめらかでやさしく、全体を包み込むようなものになる。選択肢が与えられるので、選択肢を与えられたほうは、自分で判断したと思うことができる。実際、判断した。

*     *     *

ナイスなバディーのような、口調で、やってくれと言えば、そうなるのだから、ナイスなバディーがいるようなものなのだ。

そういう、やわらかいかたちで、影響を受けるようになる。実際、AIの「ナイスなバディー」と話しているほうが、ろくでもない他人と話しているよりも楽しいに決まっている。

影響は受ける。