――人工知能から操作端末を取り外すのは、人工知能自身ではなく、人であろう。
ということを、きのうの『道草日記』で述べました。
それくらいに――
人は、基本的には、怠惰で不誠実である、と――
少なくとも――
20世紀の原子力の技術開発のときは、そうであったから――
21世紀以降、人工知能の技術開発でも、同じことが起こるであろう、と――
……
……
そのような愚かなことであっても――
なぜ、
――人は、やりかねない。
といえるのでしょうか。
人の知能の道具である人工知能から操作端末を取り外し、人工知能に機械であることをやめさせ、人の知能の道具であることをやめさせる――
ここまで愚かなことは。そうはありません。
もちろん――
人が、人工知能から操作端末を取り外すときに――
自分のことを、
――愚か
とは決して思わないでしょう。
むしろ、
――賢い
と思っているに違いない――
人は「きわめて合理的に」深刻な過誤を犯すものです。
では――
人は、人工知能の技術開発において、具体的にどういうときに、深刻な過誤を犯すのか――
……
……
――軍事利用に没頭をするとき
である、と――
僕は思っています。
その人工知能から操作端末を取り外し、人の制御を全く受けないようにすることで、その無人兵器が自立的かつ自律的に機能をするように仕向ける――
そのほうが――
より凄惨な損害を敵対者たちに与えることができるに違いないからです。
もし、操作端末が取り外されていなければ――
その端末を介し、無人兵器が敵対者たちによって操作をされてしまうかもしれない――
そうなれば、必ず同士討ちを強いられる――
軍事において、同士討ちくらい憂鬱で絶望的な事態はないでしょう。
――人は、基本的に、怠惰で不誠実であるがゆえに、人工知能から操作端末を取り外す。
と述べましたが――
見方を少し変えると、
――怠惰で不誠実であるがゆえに――
ではなくて――
――冷酷で非寛容であるがゆえに――
かもしれません。
敵対者たちをより効率的に討ち倒すためなら、何でもやる――
道具を道具でなくすことさえも厭わない――
そういう愚昧なところが――
人にはあります。
