アシモフが考案したロボットの三原則を覚えていますか？人間を守ること、命令に従うこと、自分を守ること - ただし、最初の二つに支障をきたさない場合に限ります。

紙の上では完璧に見えます。現実はどうでしょうか？そこが問題の複雑さを生む場所です。

アシモフ自身もこれを理解していました。彼の全ての物語集は、これらのルールが予想外の方法で曲がり、壊れ、逆効果をもたらす様子を観察するための名人芸のようなものです。問題はロボットそのものではなく、その論理の抜け穴にあったのです。

今、私たちはAGIを構築しており、突然あの古典的なSFの議論は理論的なものではなくなっています。問題は機械がルールに従えるかどうかではなく、私たちが実際に何を作っているのか、そしてルールが追いつかなくなったときに何が起こるのかについて正直でいられるかどうかです。