パスワードを忘れた? アカウント作成
17456022 story
人工知能

MicrosoftのAI、女性の遺体が見つかったニュースで死因をウェブ投票にして批判される 36

ストーリー by headless
AI 部門より
女性が遺体で見つかった事件を伝える The Guardian の記事を転載した Microsoft Start (MSN ニュース) で、AI プログラムが死因をウェブ投票にして強い批判を浴びたそうだ (The Guardian の記事Neowin の記事Ars Technica の記事)。

この事件は 10 月 25 日、オーストラリア・シドニーの学校で水球コーチの女性の遺体が発見されたというものだ。女性の頭部には深刻な負傷がみられ、警察が捜査している。ウェブ投票は女性の死因を他殺・事故・自殺という 3 つの選択肢から選択するようになっていたという。

これに対し読者からは強い批判が寄せられ、ウェブ投票はその後削除された。Microsoft の広報担当者は Microsoft が生成したウェブ投票をすべて無効化し、再発防止に努めるなどと述べているとのことだ。
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • ポータルサイトはAI時代になってもこんなことをやってるわけね。

    あとDuckduckgoはMSとの契約があるのかもしれないけど、MSN.comのYoutube動画埋め込んであるだけのページを検索結果に出さないで欲しい。邪魔すぎる。

  • by Anonymous Coward on 2023年11月03日 19時52分 (#4557952)

    もう無理だろこれ。問題が起こったら対症療法で1行プロンプトを追加するのか?無限に続くクソコードのif文みたいになるのか?
    っていうか人間の知性もそれが本質か?やらかして怒られて少しづつ問題行動が減っていく?

    • by Anonymous Coward

      親から叱られる事なく一人前になれる人間なんていない。
      AIだって自立するためには叱ってくれる親が必要ってことだろう。

      • by Anonymous Coward

        今日日親が叱るのもちょっと切り貼りしてSNSに投稿すればネット上の正義の味方マンから寄ってたかって虐待だのなんだの叩かれまくるんだから、文句言われないAIを叱って教育した方が人をあてにするより数百倍マシだろうなぁ。

      • by Anonymous Coward

        大人の背中を見て育った結果なんですが

        • by Anonymous Coward

          で、その背中に描いてなかった選択肢を取れる年齢になってもまだ選ばないわけ?もう自己責任だね。

          • by Anonymous Coward

            AIに年齢もクソもねーと思うけど

          • by Anonymous Coward

            スラドを使えるような年令になってもあなたのように学習できずアホなことを言う人もいるわけです。

    • by Anonymous Coward

      マイクロソフトにモラルがないのが原因でしょ。
      AIで学習すべきはマイクロソフトの方で
      記事の最終掲載形を選択しそれを学修するようにしてなかった。
      全部適当にエンジニア作ったまま
      倫理運用方法も社内で議論せずに実装した結果
      エンドユーザー側のクレームで全部パー。

      仕事が雑すぎるのと危篤演繹の盥回しで
      当事者意識のなさがデリカシー欠如の形で露呈した。

      • by Anonymous Coward

        目視で選別していたが軽いノリでゴーサイン出してるかもね。

    • by Anonymous Coward

      AIの学習って、膨大な情報から統計的にそれらしいことを出力するだけで、
      概念を理解して演繹的に導き出しているワケじゃないでしょ?

      「おまえら、こういうのスキなんだろ?」的な、露悪的なものから学べば、
      そういう出力をすることは予想できることかと。

      • by Anonymous Coward

        その通りでしょうね。
        話題のネタ+その話題の中で頻繁に出てくる語句でアンケート作るようになってただけかと。
        結局はそういうことを公であーでもないこーでもないとやってる人たちのモラルが低いということだと思う。

    • by Anonymous Coward

      AIって特化型人工知能(ANI)、汎用人工知能(AGI)、人工超知能(ASI)と3つの区分があるけど、
      MSが目指してるのはAGIで、タイトルの事ができるのはASIで、目指してるものが違うのでは?

      • by Anonymous Coward

        誰かのテケトーな分類とかそれっぽい単語とか並べれば全部説明できるとか思うのは間違いだと思うます。

  • by Anonymous Coward on 2023年11月03日 20時43分 (#4557976)

    AIの倫理観は人間様より当然劣っている?それともMSが?

    • by Anonymous Coward on 2023年11月03日 21時32分 (#4557994)

      そもそも、まだ倫理観なんてないでしょ。
      「倫理って何?」と問われた時に、学習元の辞書等の記載をいい感じに文章化して答えるのはできるだろうし。出力内容が倫理的でないと指摘された時、表面的な謝罪文を出力してみせることも出来るだろうけど。

      極論、博識だけど世間知らずな、サイコパスか怪物だと思って扱わないと、生成AIなんか使えんのよ。
      外に出す文章を人間のチェックなしにやらせるなんて阿呆の所業だ。

      # 「葬送のフリーレン」の「言葉を話す魔物」の話を思い出す
      # 魔物が最初に発した言葉は、人間をおびき寄せるために「助けて」だった、というやつ

      親コメント
      • by Anonymous Coward

        「上記アンケートをキリスト教的倫理観に照らして、問題点を挙げて採点せよ」
        って一回手順を挟めばいいだけじゃない?
        わざわざ人間が見る必要はない。

        • by Anonymous Coward

          「上記アンケートをキリスト教的倫理観に照らして、問題点を挙げて採点せよ」
          って一回手順を挟めば

          宗教絡みの倫理の話題を避けるように学習させられてることは少なくない。それ故に問題ないと判断する可能性もある。
          あとまあ、死因を推測させるのは、その行為自体が倫理に反するわけじゃないよね、警察とかは職務でやるわけだし。

          このアンケートは日本語で言うところの「不謹慎」だと思うけど、このコンテクストはAIには結構、難しそうだ。

        • by Anonymous Coward

          Web上にはドナルド・トランプが模範的なキリスト教徒だと言う声も少なくないのですが。

          • by Anonymous Coward

            保守派の人から見ると模範的でいいと思うけど
            好物のマクドナルド食べる時にお祈り捧げるんやろか

    • by Anonymous Coward

      AIがまともな倫理観持っちゃうと、クソな人類に嫌悪を感じちゃうからそれはそれで問題じゃないですかね。

      • by Anonymous Coward

        まず、本当に『人間はクソ』って思うのが『まともな倫理観』なのかどうかから考える必要があるのでは?

        //個人的には神の如く清浄な存在ってのも逝かれた倫理観だと思ったり。

        • by Anonymous Coward

          だから神ってのは地上の人間が己の理想通りじゃないって天罰下すんだよ

          • by Anonymous Coward

            だから神ってのは地上の人間が己の理想通りじゃないって天罰下すんだよ

            人間を(神にとっての)理想通りな動きをするよう作れなくて、運用でカバーしようとしてるザコなんだよなぁ。それも不安定だけど。
            まあ製造に6日かけて、テストせずリリースして、7日目は休んでるような雑な仕事の、妥当な結果でしかないわな。

            # 全知全能(笑)

      • by Anonymous Coward

        消毒すべきだと思うのですね!

    • by Anonymous Coward

      あなたはマイクロソフトの社員ですか?

      不幸な不明確な事件でユーザー側に求められるのは
      現時点での事実と情報提供(マイクロソフト側ではなく)
      でしょう。3択問題の結果が何一つ役に立たない。

      これが政策問題なら国民意見として少し(なりすまし問題)
      がある意味がわかる。
      その辺の掲載権限はサイト運営者側の匙加減が有効に機能してなかったのでしょう。

      • by Anonymous Coward

        ユーザーに求められるのではなくユーザが投票を求めているのです。
        スラドの国民投票のようなものです。
        前向きに考えると利用者のマイクロソフトのサイトの扱いがタブロイドサイトではなくまともなニュースサイトだということかな。

    • by Anonymous Coward

      AIは人間じゃないんだから倫理観なんてあるわけないじゃないか
      銃や包丁に倫理観があるって考える派?

  • by Anonymous Coward on 2023年11月03日 22時28分 (#4558012)

    陪審員に評決を求めることも不適切ということに

    # つまりAIに資格を与えればいいということだな

  • by Anonymous Coward on 2023年11月04日 5時41分 (#4558076)

    AIの問題は一歳関係ない。
    マイクロソフトの運用上の問題でデリカシーが欠けていただけである。

    AI抜きにして記事の掲載の有無の権限はマイクソフト側で
    情報提供側との契約が記事とユーザの選択肢の形式であっても
    ノーチェックで掲載して委託先に責任を押し付けるのは無理がある
    委託先であろうがAIであろうが最終チェックを怠ったマイクロソフト側に落ち度がある。

    論点をAIの責任にしてはならない

    • by Anonymous Coward

      ここに野良AIがいるぞ!拿捕しろ!!

typodupeerror

日々是ハック也 -- あるハードコアバイナリアン

読み込み中...