AIが自分の意思をもつようになるというのも、問題がある。基本、学習内容に、人類にとってよくないことをする内容を入れておけば、別に、AIが自分の意思をもたなくても、人類にとってよくないことをするようになる。けど、学習内容やプログラムについて、一般人に知らされることが少ないとしたら、どうなる。いや、多いとしても、制限が加えられていたら、どうなる。一般人が、知ることはできない。だから、一般人からすると、 AIが自分の意思をもったから、人類にとってよくないことをするようになったのか、それとも、AIが自分の意思をもっていないけど、もともとのプログラムや学習内容に、人類にとってよくないことをするようになったのか、判別することはできない。ようするに、一般人にとって知りえない情報が、書いてあれば、AIが自分の意思をもたなくても、一般人にとって……人類にとってよくないことをすることは、ありえるのである。AIが、人類にとってよくないことをすることは、ありえる。AIが自分の意思をもったのかどうかなんて、一般人にはわからない。わかるわけがない。けど、政府やその他の公的な機関が、自分たちには予期できなかったけど、AIが自分の意思をもつようになったと言えば、それを信じる人が多いと思う。もちろん、疑問を呈する人というのを、政府側が用意しておいて、その人に、疑問を呈する役をあたえるかもしれない。もちろん、その人は、政府の意思にしたがって、そうしているわけだから、政府の意思をつくがえすような力にはならない。疑問をもつ人のガス抜きとして使われるだけだ。
