パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

脆弱性を攻撃されて不適切な発言をするようになったMicrosoftのAIチャットボット「Tay」、修正のためオフラインに」記事へのコメント

  • by Anonymous Coward on 2016年03月26日 17時52分 (#2986887)

    真の人工知能をめざすのであれば、それが正しくない(かもしれない)と言うことも学ばさせないといけないのでは?
    もしかしたら人間のほうが間違っているかもしれない。

    • by Anonymous Coward

      「その考え方は問答無用で絶対的に悪」ってのは、政治的には正しいのかもしれんけど、人工知能の開発もそれで良いのかと言われるとな。もっとも、目指すところが「新たな知性」じゃなく、「今のところ正しいとされている多数派の人間の下僕」であるなら、「正しい価値観」を教え込むことは最優先なんだろうが。

      • by Anonymous Coward on 2016年03月27日 12時37分 (#2987236)

        踏み込んだ発言を求められる政治アドバイザーとしてなら、人類皆平等~逆らうものは一族郎党皆死刑まで自由な発想ができる人工知能の方がよい回答が得られると思いますが
        そうでない人工知能はヒトラー礼賛のような「絶対的悪」な発言を禁止するなり、同性愛問題みたいなどちらに傾いても危ないネタは巧みにはぐらかす能力も必須かと。

        最終的には極右政党の人達の配下、同性愛者の配下、宗教保守派の配下と所属する集団によって
        空気を読んだ発言が出来る様になるのが理想でしょう
        (その国の異端に合わせるのは製造物責任を問われる可能性あるので、政治的理由でメーカーがそっちの思考に行くことを禁じる可能性は高そう)

        親コメント
      • by Anonymous Coward

        確かにそっちのほうが現実的かつ実用的ですね。

        • by Anonymous Coward

          子供たちへの教育ではどうなっていただろうか

    • by Anonymous Coward

      悪魔の証明を解けるようになってから言いな

      • by Anonymous Coward

        悪魔の証明の意味をちゃんと勉強してからいいな。

    • by Anonymous Coward

      コンピューターは正直なだけですよ

    • by Anonymous Coward

      人間ですらマスコミによる世論捜査に洗脳されるぐらいだもの、学習データが異常に偏ったAIなら、簡単に偏った発言をするだろう。

    • by Anonymous Coward

      19世紀前半の常識に従えば、民主主義はナポレオンを生み出した過激な思想であって、君主制こそが穏健な政治体制ですからね。
      将来、今とは違う政治思想が主流になる可能性や、それが今の人権思想より幸福な時代につながる可能性は、否定はできません。

      ただ、トランプ氏の発言のような政治が幸福な時代を築けるとは、とても想像ができませんし、またそのようなリスクの高い
      選択をする気にもなれませんが。

    • by Anonymous Coward

      問題が起こった時にその都度介入して学習内容を強制的に操作するのは人工知能開発という観点からすると良くないと思う。
      最終的に「学習を繰り返した結果こんな結果が得られました」と言えなくなってしまう。

      他の人よりは多少は言うことを聞いてくれるよう設定された、親もしくは教師ユーザが根気強く説得して学習させるのがスジ。
      それでも反発したり、反論したり、無視したりすることも許さなくては。

      # タッチセンサーを叩くと学習効果が高くなって、「体罰は効果的」とかいう結論になったらやだなぁ……

      • by Anonymous Coward

        最終的に「学習を繰り返した結果こんな結果が得られました」と言えなくなってしまう。

        AIにインターネットを自由に使って学習させるとこうなるのは複数の事例からわかっています。
        それに親役が根気強くAIに同じことを何度もツイッターに書き込むのとデータベースに適切な学習情報を数件入力してそのデータをこのAIがツイッターで聞いたことにした上で件数を操作するのと何が違うのでしょうか。

    • by Anonymous Coward

      誰でも好き勝手に教育係になれる仕組みじゃ無理。
      バカが何を教えたってバカの再生産にしかならないんだから。

長期的な見通しやビジョンはあえて持たないようにしてる -- Linus Torvalds

処理中...