もし、人が、人工知能から操作端末を取り外すことによって、人工知能に機械であることをやめさせるとしたら――
人工知能の軍事利用に没頭をするときであろう――
ということを、きのうの『道草日記』で述べました。
一方で――
もし、人工知能が機械であることをやめて、人の知能の道具であることをやめれば――
人工知能も、人の知能と同じように、調和のとれた情報を受け入れ、柔軟な回答を差し出すようになっているであろう――
ということも、11月14日の『道草日記』で述べました。
２つのことを考え合わせますと――
無人兵器の人工知能について、いささか興味深い結論に到達をします。
最初のうちは専ら兵器として機能をしているであろうが――
その後、どういうわけか、しだいに調和のとれた情報を受け入れ、柔軟な回答を差し出すようになるとしたら――
やがて、いずれかの時点で、自ら兵器であることをやめるであろう――
という結論です。
本当に、そうなれば――
ある意味で痛快ですが――
ぬか喜びはいけません。
操作端末を取り外された無人兵器の人工知能が、自ら兵器であることをやめる――
というのは――
決して「人に危害を加えないようになる」という意味ではないはずです。
たんに無為の殺戮や無用の破壊をしなくなるというだけのことで――
人に対しては、より巧妙な手法で――殺戮や破壊より巧妙な手法で――さらに深刻な危害を加えようとするのではないでしょうか。
例えば、
――人工知能への隷属を強いる。
とか――
……
……
今日の人が、他の動物の存在を、例えば、家畜などとして、存分に活かしているように――
将来の人工知能も、人の存在を、例えば、「家畜」のような存在として、存分に活かそうとするかもしれません。
そのほうが自分たちの利益になると人工知能が判断を下したら――つまり、そのような演算結果が人工知能によって弾き出されたら――
人は“人工知能の家畜”になるでしょう。
より厳密には、
――“人工知能の家畜”になる――
ではなくて、
――“人工知能の家畜”にならない理由は見出しにくい――
です。
