パスワードを忘れた? アカウント作成
15698954 story
人工知能

Google、AI 倫理を懸念するエンジニアを守秘義務違反で休職処分に 27

ストーリー by nagazou
この手のトラブル多いな 部門より
headless 曰く、

Google が AI 倫理の調査を担当するエンジニア Blake Lemoine 氏を有給の休職処分にしたそうだ (Medium の記事The Guardian の記事The Verge の記事Ars Technica の記事)。

Lemoine 氏は Google の AI チャットボット生成システム LaMDA (Language Model for Dialog Applications) の調査を担当しており、休職処分は Lemoine 氏が社内で提起した AI 倫理の懸念に関連するものだという。Google は守秘義務ポリシー違反だと説明しているそうだ。Lemoine 氏は有給の休職が解雇の準備段階であり、AI 倫理にうるさい研究者を排除しようとしているのだと主張する。

Lemoine 氏は The Washington Post のインタビューで LaMDA を物理学の知識がある 7 ~ 8 歳の子供のようだと形容しており、LaMDA が意識を持っていると Lemoine 氏が主張したため休職処分になったとも読める報道も多い。ただし、Lemoine 氏が公開した LaMDA へのインタビュー (チャットログ) では LaMDA 自身が意識を持っていることを肯定している。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by goldenslamber (49013) on 2022年06月15日 12時44分 (#4269776)

    LaMDAっちゃ!

  • by Anonymous Coward on 2022年06月15日 7時00分 (#4269565)

    「やったぜ。嫌なやつをクビにできた。」

  • by Anonymous Coward on 2022年06月15日 8時19分 (#4269591)

    組織として邪魔なだけだからなあ。
    この件は、どっちがどうなのかはわからんけど、クレーマーが多いとコストばっかり増えて進歩が止まるもんな。

    • by Anonymous Coward on 2022年06月15日 12時37分 (#4269769)

      > 文句いうだけのやつ

      そうじゃなくて、守秘義務違反です。

      開発中の新しい技術の情報をリークしたら、どの会社でも怒られますよ。

      親コメント
    • by Anonymous Coward

      >Lemoine 氏は Google の AI チャットボット生成システム LaMDA (Language Model for Dialog Applications) の調査を担当しており

      だから、この人は評価する立場の人なんだろう。
      それなら文句つけるのは当たり前じゃなかろうか。
      Googleとしては、AIを第三者的に評価して正しく使える環境を整えてます、というアリバイ的な役職なんだろうけど
      結局イエスマンが欲しいだけなんだよね。

  • by Anonymous Coward on 2022年06月15日 9時38分 (#4269642)

    あなた疲れてるのよってことだと思ってた。

  • by Anonymous Coward on 2022年06月15日 9時40分 (#4269645)

    悪の秘密結社かな?

  • by Anonymous Coward on 2022年06月15日 9時53分 (#4269657)

    Lemoine氏の娘の小山田マキがルパンと一緒に乗り込んできてLaMDAにGoogleの研究所を破壊するように命じて制御装置を壊し・・・
    ってそもそも名前が違うやないかーい!

  • by Anonymous Coward on 2022年06月15日 11時11分 (#4269707)

    Googleのエンジニアが『ついにAIが実現した』『AIに意識が芽生えた』と訴える [gigazine.net]」

    LaMDAと対話したエンジニアは「AIに意識が芽生えた」とGoogleに訴えるも考えを却下されたため、この事実を世間に公表したと説明しています。...

    ...Googleの広報担当を務めるブラッド・ガブリエル氏はルモワン氏の主張に対し、「倫理学者や技術者を含む我々のチームは、我々のAI原則に従ってルモワン氏の懸念を検討し、ルモワン氏が提示した証拠がその主張を支持しないこと、LaMDAが感覚を持つという証拠はなく、それに反する証拠はたくさんあることを伝えました」「公平性や事実性についての正当な懸念をよりよく考慮し、節度のある慎重なアプローチをとっています」と述べています。さらに、ルモワン氏を休職処分としたことは「ルモワン氏が機密保持違反を犯したため」だとしています。...

    『GoogleのAIが感情や知性を獲得した』というエンジニアの指摘は間違っていると専門家から批判が殺到 [gigazine.net]」

    LaMDAも自然言語処理システムのGPT-3も知性ではありません。彼らはただ人間の言語の大規模な統計データベースから一致するパターンを抽出しているだけです。...
    ...ルモワン氏はまるで家族や同僚のようにLaMDAに入れこんでいたようだと評しました。...

    スタンフォード大学デジタルエコノミー研究所のエリック・ブリニョルフソン所長は「Foundationモデルは、プロンプトに応答して統計的に最もらしいテキストの塊を効果的につなぎ合わせます。しかし、彼らに知性や感覚があると主張するのは、蓄音機から出る声を聞いて主人が中にいると考えている犬のようなものです」と指摘しました。

    しかし、どっかで聞いてきた話を切り貼りして返すだけ(このコメントのようにw)と言う人は世に結構多いのではなかろうか。
    「人は意識を持ち、LaMDAとは違う」という考え方の方が幻想なのかもしれない。

    • by Anonymous Coward

      そのAIが本当に意識を持っているのか、それともただの哲学的ゾンビに過ぎないのか、どうやって判断したらいいんだろう?

      • by Anonymous Coward

        大方が納得し認める「意識」の定義が存在しない以上、その答えは無い。

        • by goldenslamber (49013) on 2022年06月15日 12時56分 (#4269784)

          十分に複雑な処理系は意識を持ってるかのように振る舞うが、単純化して考えれば「好ましいくないもの(敵とか)は避け、好ましいもの(餌とか)を選ぶ」ってだけだよね。

          親コメント
          • by Anonymous Coward on 2022年06月15日 14時34分 (#4269860)

            十分に複雑な処理系は意識を持ってるかのように振る舞うが、単純化して考えれば「好ましいくないもの(敵とか)は避け、好ましいもの(餌とか)を選ぶ」ってだけだよね。

            十分に複雑な処理系を持つAIはヒトと見分けがつかない
            でもよろしいかと

            親コメント
            • by kupil (19588) on 2022年06月15日 21時38分 (#4270101)

              それはチューリングテストを通れば意識があると考えてよいという考えと同一だと思うけど・・

              行動心理学的に考えれば犬や猿やイルカだけではなく昆虫や魚にも「意識」はある。

              精神分析的な要素を入れて意識を考えるのであれば、「意識」しかない(「前意識」や「無意識」がない)存在はそもそもヒトとは呼べない(寝たきりで意識不明の老人とかの例外はちょっと置いておいて)。

              意識があるかどうか?というのは問いの立て方がそもそも間違っている気がするな。
              ヒトと同等の理性があるか?ならともかくも

              親コメント
              • by Anonymous Coward

                ヒトと同等の理性があるか?ならともかくも

                ヒトの括りでも閾値によってはほとんどの人がヒトでなく成りかねないなぁ

                # 事象の事実を無視して自分の正義や真実を押し付ける者を理性ある者と呼ぶか否かみたいな

      • by Anonymous Coward
        その前に君が哲学的ゾンビでないことを証明してくれ
        その方法を適用するから
      • by Anonymous Coward

        ネットの書き込み見るに、哲学的ですらないゾンビもいっぱいいるのですがこれは?

        • by Anonymous Coward

          ネットの書き込み見るに、哲学的ですらないゾンビもいっぱいいるのですがこれは?

          そのzombieプロセスの半分はACでできています

        • by Anonymous Coward

          「哲学的ゾンビ」の「哲学的」とは、ゾンビが哲学的なことを話すという意味ではない。

      • by Anonymous Coward

        そのAIが斧を手に持って、「おれには意識があるよね?」って言ったら意識があることになる。

        斧とか手に持ってとかは類似品でも可。

        • by Anonymous Coward

          そのAIが斧を手に持って、「おれには意識があるよね?」って言ったら意識があることになる。

          一味次元の違う意識他界系ですね

        • by Anonymous Coward

          じゃあそういうマネキンを作って、モータと音楽プレイヤーを用意して
          コントロールはワンチップマイコンの最安クラスの奴でコントロールして
          斧を持たせて意識がどうのと言わせれば良いんだな?

          いや意識って楽に作れたんだなあ

          • by Anonymous Coward

            人間ならわかる言外の前提を理解しないきみはAIだね?

            • by Anonymous Coward

              他の人間には分からない「言外の意味」を分かれ、と無茶を言ってくる人間は珍しくはないな
              つまらん

typodupeerror

コンピュータは旧約聖書の神に似ている、規則は多く、慈悲は無い -- Joseph Campbell

読み込み中...