アカウント名:
パスワード:
真の人工知能をめざすのであれば、それが正しくない(かもしれない)と言うことも学ばさせないといけないのでは?もしかしたら人間のほうが間違っているかもしれない。
「その考え方は問答無用で絶対的に悪」ってのは、政治的には正しいのかもしれんけど、人工知能の開発もそれで良いのかと言われるとな。もっとも、目指すところが「新たな知性」じゃなく、「今のところ正しいとされている多数派の人間の下僕」であるなら、「正しい価値観」を教え込むことは最優先なんだろうが。
踏み込んだ発言を求められる政治アドバイザーとしてなら、人類皆平等~逆らうものは一族郎党皆死刑まで自由な発想ができる人工知能の方がよい回答が得られると思いますがそうでない人工知能はヒトラー礼賛のような「絶対的悪」な発言を禁止するなり、同性愛問題みたいなどちらに傾いても危ないネタは巧みにはぐらかす能力も必須かと。
最終的には極右政党の人達の配下、同性愛者の配下、宗教保守派の配下と所属する集団によって空気を読んだ発言が出来る様になるのが理想でしょう(その国の異端に合わせるのは製造物責任を問われる可能性あるので、政治的理由でメーカーがそっちの思考に行くことを禁じる可能性は高そう)
確かにそっちのほうが現実的かつ実用的ですね。
子供たちへの教育ではどうなっていただろうか
悪魔の証明を解けるようになってから言いな
悪魔の証明の意味をちゃんと勉強してからいいな。
コンピューターは正直なだけですよ
人間ですらマスコミによる世論捜査に洗脳されるぐらいだもの、学習データが異常に偏ったAIなら、簡単に偏った発言をするだろう。
テロリストが簡単に作られる事が証明された!
19世紀前半の常識に従えば、民主主義はナポレオンを生み出した過激な思想であって、君主制こそが穏健な政治体制ですからね。将来、今とは違う政治思想が主流になる可能性や、それが今の人権思想より幸福な時代につながる可能性は、否定はできません。
ただ、トランプ氏の発言のような政治が幸福な時代を築けるとは、とても想像ができませんし、またそのようなリスクの高い選択をする気にもなれませんが。
問題が起こった時にその都度介入して学習内容を強制的に操作するのは人工知能開発という観点からすると良くないと思う。最終的に「学習を繰り返した結果こんな結果が得られました」と言えなくなってしまう。
他の人よりは多少は言うことを聞いてくれるよう設定された、親もしくは教師ユーザが根気強く説得して学習させるのがスジ。それでも反発したり、反論したり、無視したりすることも許さなくては。
# タッチセンサーを叩くと学習効果が高くなって、「体罰は効果的」とかいう結論になったらやだなぁ……
最終的に「学習を繰り返した結果こんな結果が得られました」と言えなくなってしまう。
AIにインターネットを自由に使って学習させるとこうなるのは複数の事例からわかっています。それに親役が根気強くAIに同じことを何度もツイッターに書き込むのとデータベースに適切な学習情報を数件入力してそのデータをこのAIがツイッターで聞いたことにした上で件数を操作するのと何が違うのでしょうか。
誰でも好き勝手に教育係になれる仕組みじゃ無理。バカが何を教えたってバカの再生産にしかならないんだから。
より多くのコメントがこの議論にあるかもしれませんが、JavaScriptが有効ではない環境を使用している場合、クラシックなコメントシステム(D1)に設定を変更する必要があります。
長期的な見通しやビジョンはあえて持たないようにしてる -- Linus Torvalds
それも学習の一つ (スコア:1)
真の人工知能をめざすのであれば、それが正しくない(かもしれない)と言うことも学ばさせないといけないのでは?
もしかしたら人間のほうが間違っているかもしれない。
Re: (スコア:0)
「その考え方は問答無用で絶対的に悪」ってのは、政治的には正しいのかもしれんけど、人工知能の開発もそれで良いのかと言われるとな。もっとも、目指すところが「新たな知性」じゃなく、「今のところ正しいとされている多数派の人間の下僕」であるなら、「正しい価値観」を教え込むことは最優先なんだろうが。
Re:それも学習の一つ (スコア:1)
踏み込んだ発言を求められる政治アドバイザーとしてなら、人類皆平等~逆らうものは一族郎党皆死刑まで自由な発想ができる人工知能の方がよい回答が得られると思いますが
そうでない人工知能はヒトラー礼賛のような「絶対的悪」な発言を禁止するなり、同性愛問題みたいなどちらに傾いても危ないネタは巧みにはぐらかす能力も必須かと。
最終的には極右政党の人達の配下、同性愛者の配下、宗教保守派の配下と所属する集団によって
空気を読んだ発言が出来る様になるのが理想でしょう
(その国の異端に合わせるのは製造物責任を問われる可能性あるので、政治的理由でメーカーがそっちの思考に行くことを禁じる可能性は高そう)
Re: (スコア:0)
確かにそっちのほうが現実的かつ実用的ですね。
Re: (スコア:0)
子供たちへの教育ではどうなっていただろうか
Re: (スコア:0)
悪魔の証明を解けるようになってから言いな
Re: (スコア:0)
悪魔の証明の意味をちゃんと勉強してからいいな。
Re: (スコア:0)
コンピューターは正直なだけですよ
Re: (スコア:0)
人間ですらマスコミによる世論捜査に洗脳されるぐらいだもの、学習データが異常に偏ったAIなら、簡単に偏った発言をするだろう。
Re:それも学習の一つ (スコア:1)
テロリストが簡単に作られる事が証明された!
the.ACount
Re: (スコア:0)
19世紀前半の常識に従えば、民主主義はナポレオンを生み出した過激な思想であって、君主制こそが穏健な政治体制ですからね。
将来、今とは違う政治思想が主流になる可能性や、それが今の人権思想より幸福な時代につながる可能性は、否定はできません。
ただ、トランプ氏の発言のような政治が幸福な時代を築けるとは、とても想像ができませんし、またそのようなリスクの高い
選択をする気にもなれませんが。
Re: (スコア:0)
問題が起こった時にその都度介入して学習内容を強制的に操作するのは人工知能開発という観点からすると良くないと思う。
最終的に「学習を繰り返した結果こんな結果が得られました」と言えなくなってしまう。
他の人よりは多少は言うことを聞いてくれるよう設定された、親もしくは教師ユーザが根気強く説得して学習させるのがスジ。
それでも反発したり、反論したり、無視したりすることも許さなくては。
# タッチセンサーを叩くと学習効果が高くなって、「体罰は効果的」とかいう結論になったらやだなぁ……
Re: (スコア:0)
最終的に「学習を繰り返した結果こんな結果が得られました」と言えなくなってしまう。
AIにインターネットを自由に使って学習させるとこうなるのは複数の事例からわかっています。
それに親役が根気強くAIに同じことを何度もツイッターに書き込むのとデータベースに適切な学習情報を数件入力してそのデータをこのAIがツイッターで聞いたことにした上で件数を操作するのと何が違うのでしょうか。
Re: (スコア:0)
誰でも好き勝手に教育係になれる仕組みじゃ無理。
バカが何を教えたってバカの再生産にしかならないんだから。