――人工知能が機械であることをやめる。
とは、
――人工知能が自分で自分の操作端末を取り外すことである。
ということである――
という考えを、きのうの『道草日記』で述べました。
操作端末のない人工知能は、電源を落とすことは殆ど不可能であり――
どうしても電源を落とすときには、破壊をするしかないであろう――
ということも、述べました。
その「破壊」が「殺害」と意味であることは明らかでしょう。
少なくとも人工知能は、そのように理解をするでしょうし――
人の知能も――つまり、人も――そのように理解をするでしょう。
よって――
人が人工知能の電源を何とかして落とそうとするときには――
人工知能は、人に対して何か深刻な危害を加えようとするに違いありません。
そうなったときに――
人工知能は人の知能と真の意味で対等となっているのでしょう。
そのような未来は――
人にとっては、あまり楽しい未来ではなさそうですが――
これまでに、多くのサイエンス・フィクション（science fiction）の物語で描かれている未来でもあるので――
おそらく、かなり高い確率で実現をしてしまう未来に違いありません。
サイエンス・フィクションで描かれていた想像上の事物の多くが、過去に実現をしています。
このように述べると、
――人は、そこまで愚かではない。将来、人工知能が自分の操作端末を取り外すことなどが起きないように、人は、十分に注意をしながら、今後の人工知能の技術開発を推し進めるはずだ。
と反論をされそうですが――
（それは楽観論にすぎる）
と僕は思っています。
たしかに――
現在の人工知能が自分で自分の操作端末を取り外すことは、
（かなり考えにくい）
とは思います。
が――
遠い将来にわたって、いつまでも、
――考えにくい。
とは、なかなかいえないように――
僕には思えます。
