――人工知能から操作端末を取り外すのは、おそらくは人工知能自身ではなく、他の誰か――あるいは、何か――である。
ということを、きのうの『道草日記』で述べました。
つまり、
――人工知能の機能が徐々に高度になっていてき、やがて、いずれかの時点で、人にとっての自我意識のような性質が創発をして、その人工意識が自分で自分の操作端末を取り外す。
というようなことは、殆ど考えられない――
ということです。
……
……
では――
誰が人工知能の操作端末を取り外すのか――あるいは、何が人工知能の操作端末を取り外すのか――
……
……
僕は、
――人が取り外す。
と考えています。
――そんなバカな！
と反駁を受けるかもしれません。
――人工知能の操作端末を取り外すということは、人が人工知能の制御を諦めるということだ。そんな怠惰で不誠実なことを、将来の人工知能の技術者たちが試みるはずがない。
と――
……
……
その反駁は、
（根本的に的外れである）
と僕は思っています。
そもそも――
人は、基本的には、怠惰で不誠実なのです。
何か目先の欲求に駆られたら、後先を考えずに愚かな選択をします。
原子力技術のときが、そうでした。
放射性廃棄物の最終処分の方法論が十分に確立をされていないのに――
いずれは何らかの技術革新が起こって最終処分の問題は解決をするはずである――
との楽観論に寄りかかって――
20世紀の原子力技術の関係者たちは、原子力発電の技術開発を推し進めました。
それと同じようなことが――
人工知能の技術開発で起こらないとは限りません。
――いちいち人が制御をするのは面倒だ。人工知能が自立的かつ自律的に機能をするように設計をしてしまおう。そうと決まれば、操作端末は不要だ。さっさと取り外してしまおう。
こうして――
人工知能は操作端末を取り外され、機械であることをやめ、人の知能の道具であることをやめる――
そんな出来事が遠い将来に起こるのではないか――あるいは、近い将来にも起こりうるのではないか――
そんな悲観的な予測を――
僕はもっています。
