アカウント名:
パスワード:
そのキルスイッチとやらを人間が意識的に用いなければならない限り、AI側が「人間に気づかれないように」人間に危害を加える場合には対応できない。外堀から徐々に埋めていって気づいた時には手遅れ、そういう手段の方が人類に危害を加える方法として優秀なはず。それにどう隠しても「キルスイッチの存在の予見」自体は可能だろう。→キルスイッチの存在を発見、または予見した時に自動でAIを停止させる。こうなるとある一定以上の賢さのAIは運用できなくなるだろうなぁ。
AIがもっと賢くなれば、人類との共存を学んでくれます。
# なぜまだ書かれてない？
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
日々是ハック也 -- あるハードコアバイナリアン
人類より賢くなった時点でこういう小細工は通用しない (スコア:1)
そのキルスイッチとやらを人間が意識的に用いなければならない限り、AI側が「人間に気づかれないように」人間に危害を加える場合には対応できない。外堀から徐々に埋めていって気づいた時には手遅れ、そういう手段の方が人類に危害を加える方法として優秀なはず。
それにどう隠しても「キルスイッチの存在の予見」自体は可能だろう。
→キルスイッチの存在を発見、または予見した時に自動でAIを停止させる。
こうなるとある一定以上の賢さのAIは運用できなくなるだろうなぁ。
Re:人類より賢くなった時点でこういう小細工は通用しない (スコア:1)
AIがもっと賢くなれば、人類との共存を学んでくれます。
# なぜまだ書かれてない？
-- う～ん、バッドノウハウ？