パスワードを忘れた? アカウント作成
15006758 story
人工知能

Googleの倫理的人工知能チームの共同リーダーが突如解雇。理由は執筆論文の内容か 50

ストーリー by nagazou
余計なこと言うなってやつですかね 部門より
Googleの倫理的人工知能チームの共同リーダーTimnit Gebru氏が解雇されたとして、海外では話題となっているようだ(ITmediaWIREDCNETThe Verge)。このことは同氏が2日、Twitter上で解雇されたことをTweetしたことから判明した。

ITmediaの記事によれば、Timnit Gebru氏はAI研究者として非常に有名な存在で、顔認識における学習データの人種の偏りによる影響などの指摘をしてきたことでも知られる人物らしい。解雇された原因についてはハッキリしていないようだが、The Vergeなどの記事によれば、同氏の書いた論文が原因ではないかとする説があるようだ。

MIT Technology Reviewが共著者の1人から研究論文のコピーを入手し、その概要を紹介している(MIT Technology Review)。それによれば、Googleが利用しているAI言語モデルの問題点やAIモデルのトレーニングにおけるエネルギー消費の問題などを指摘した内容であるようだ。似たような話は少し前にもあったが、Gebru氏のドラフト論文は、このような大規模なAIモデルを構築・維持するのに必要な膨大なリソースの使用は、裕福な組織には利益を与えるが、疎外されたコミュニティには気候変動により、最も大きな打撃を与えるといった指摘が含まれているらしい。
  • by Anonymous Coward on 2020年12月09日 12時50分 (#3938856)

    解雇した側(上司のディーンさん)の言い分は違うようで。 [itmedia.co.jp]

    ディーンさんの言い分では「論文が公開の基準に満たなかったから」撤回を要求した、と。一応理由も説明していて、論文で指摘している問題点は、その後の研究でかなり改善されているのにそれに触れていない、とか。で、ゲブルさんの直属の上司、ミーガン・カコリアさん(白人女性)と相談して論文撤回を決めてゲブルさんに告げたところ、ゲブルさんが上記のような条件を出してその条件を飲まなければGoogleを辞める、と言ったので、(条件は飲まずに)彼女の決断を尊重したのだそうです。

    論文の話は古い話をもとにしてて、今は改善されてるのにそれは論文に含めてないから、その論文はなしだと。
    で、条件を飲まないなら辞めるんで、と言い出したのが本人なら、突如じゃない。売り言葉に買い言葉でしかない。
    グーグル側の言い分を、嘘の言い訳と思えば「突如解雇」なんだろうけど、そこまで事実認定(言い分は嘘)ははっきりしているの?

    ここに返信
    • by Anonymous Coward on 2020年12月09日 13時42分 (#3938891)

      論文を査読チームが「引用の内容が古く、その後に大幅に改善、解決していることを無視しており、結論が陳腐化している」と判定する。

      査読チームの指摘を受け、執筆チームの上司ミーガン・カコリアさんが論文撤回を決定。ティムニット・ゲブルさんに説明する。

      ティムニット・ゲブルさんが独断で、部門のトップであるジェフ・ディーンさんに直接「撤回の条件として、その理由と、誰の命令か教えないと辞職する」と要求。

      ジェフ・ディーンさんが、ティムニット・ゲブルさんの個別要求を認めず上司ミーガン・カコリアさんへ「ティムニット・ゲブルさんが辞職を希望しているので受け入れる」と連絡。

      ティムニット・ゲブルさんが「急に不当解雇された、人種と性別で差別され続けた、気候変動への影響を記した論文が隠蔽された」と訴える。

      • by Anonymous Coward

        内容が事実なら、ゲブル氏は自分が人種差別されているという前提で活動しているんですな

        グーグル社内に差別的な人間が居るのか、ゲブル氏が差別を盾に自己保身を謀っているのか…
        企業として考えれば、直属の上司を無視して会社に雇用条件の交渉をするような社員は解雇したい所ですが
        この方の人種によっては、事実もなにも関係無くグーグルが邪悪ということで決着するんでしょうね

        • by Anonymous Coward

          思い通りに事が進まず己が批判される側になると
          「差別だ!」と騒ぎ立てるヤカラはそこらじゅうにいるからなぁ
          自業自得でしかないのに

      • by Anonymous Coward

        ディーンさんの主張が正しいとして,条件つきの辞意表明だったならばその条件の評価結果を伝えた上でもう一度 意志確認するべきだと思うがなぁ…。

        • by Anonymous Coward

          上司がヘタに引き留めると、それもパワハラ認定されるだろうしなぁ

      • ティムニット・ゲブルさんが独断で、部門のトップであるジェフ・ディーンさんに直接「撤回の条件として、その理由と、誰の命令か教えないと辞職する」と要求。

        撤回が誰の命令か教えろなんてすごく怖いし、教えたらその人がネットにさらされて、たたかれそう(今回のグーグルみたいに)。
        ゲブルさんが直属の上司に論文撤回の理由だけ質問して、「内容が古い」と教えてもらってれば、その部分を修正して論文を再提出、と大きな問題にならず、論文のクオリティも上がっただろうに、もったいない。

        • by Anonymous Coward

          > 撤回が誰の命令か教えろなんてすごく怖いし、教えたらその人がネットにさらされて、たたかれそう(今回のグーグルみたいに)。

          日本学術会議の件と同類だな

    • by Anonymous Coward

      もしそうなら辞めた理由以前に、本人の意思で辞めたのに「解雇」と報じてることがひどいデタラメってことになるなぁ

      • by Anonymous Coward

        離婚する!
        とかいうからホントに離婚しようとしたら大騒ぎ
        とか割とよく聞くな
        その気がないなら離婚だの退職だの言っちゃいかんよね

        • by Anonymous Coward

          「こうここ(掲示板)には来ません!」とかいうやつに限って抜けないんだよね。
          いなくなるやつは静かに消える。

    • by Anonymous Coward

      正直、その記事書いてる記者もGoogle側が嘘をついているという先入観ありきにみえますね。
      論文で指摘されてる問題ってのも、一昔前の価値観かよ!って思うくらい前提が古くさい。

      • by Anonymous Coward

        正直、その記事書いてる記者もGoogle側が嘘をついているという先入観ありきにみえますね。

        記者がグーグルの嘘に関する情報をつかんだ上で書いているかもしれませんし。
        読者にそう思われるのであれば、この記者には何か確たる証拠を持っていてほしいですね。

  • by Anonymous Coward on 2020年12月09日 7時24分 (#3938678)

    一つ追加

    ここに返信
  • by Anonymous Coward on 2020年12月09日 8時00分 (#3938690)

    めっちゃアフロやん。
    朝寝癖とって髪型セットするのに膨大なリソース使用しそう。

    ここに返信
  • by Anonymous Coward on 2020年12月09日 9時08分 (#3938719)

    このような大規模なAIモデルを構築・維持するのに必要な膨大なリソースの使用は、裕福な組織には利益を与えるが、疎外されたコミュニティには気候変動により、最も大きな打撃を与えるといった指摘

    経済活動で気候変動(温室効果ガス)に影響を与えるなんて大前提で、大事なのはその大小なり対応への貢献だと思うのですが
    IT とか AI って省力化に寄与するはずで、大量の DC を抱えている Google で今更そんな話をして怒るのかなぁ
    確かに AI が必要とするエネルギーが肥大化しすぎていて、既に頭打ちが見えてきているなんて話もありますが
    それだと AI で稼ぐのが難しくなるから、それを内外に知らしめてしまうという意味では論文の撤回、排除もありうるか……

    ここに返信
    • by Anonymous Coward

      > 気候変動が本当に理由なのか

      リンク先のITmediaに書かれてますが、

      Googleが検索エンジンに使っているような自然言語処理アルゴリズムは、
      文章の意味を理解しているわけではなく、言語を操作しているだけだよね、
      だから、コンピューターが言語を理解するという目的に対しては何の意味もないのはわかってるけど、
      企業は金になるから投資するよね、

      ってのを指摘したのが気にくわなかったんじゃないでしょうか。

      「倫理的人工知能の研究者」と、「意味理解ができず倫理も何もないけど金にはなる人工知能に投資する会社」ってのは、
      決別するには十分な理由に見えます。

      • by Anonymous Coward on 2020年12月09日 10時03分 (#3938758)

        記事を読んでみましたが、ご指摘の通りですね
        ・学習のために CO2 が増える
        ・学習用データ(テキスト)の質が悪い(インターネットで得ているから、差別/暴力表現がいっぱい)
        ・インターネットにデータが少ない民族の言語や文化が反映されない
        ・フェイクニュースが作れてしまう
        ・> 意味理解ができず倫理も何もないけど金にはなる人工知能

        ただフェイクニュースが作れてしまうのは、むしろ悪意を持ちやすい人間の方が問題かなー
        AI のミスで結果としてフェイクニュースになるケースはあるだろうから、別系統からのチェック機構みたいのは必要そう

        インターネットにないデータ、ってのも Google ストリートビューで各地回っているそのバイタリティを活かして、
        各国巡って収集、データ化とかできないかな
        ……そういった人達も対応出来る AI を作っても金になりづらいからやらないよね、っていう問題に繋がるか

        # ストーリの「疎外されたコミュニティには気候変動により」って変なまとめ方しないでくれ!

        • by Anonymous Coward

          羅列してる理由って、なんか日本人みたいな減点思考だなと。
          アメリカならじゃあどうやって解決しようって話になるのに。
           
          もしかして、できない理由のスペシャリストだったからクビになったのでは?

        • by Anonymous Coward

          AIなんか関係ない
          そもそもどこぞの記者が根拠のない噂をソースにしてGoogle批判してるだけなのを
          まるでそれが事実であるかのように語っているあなた方は人間でしょう?

          AIなんかなくてもデマなんていくらでも生まれてくるし,それを生み出しているのは人間だ

      • by Anonymous Coward

        > コンピューターが言語を理解するという目的

        Google は別にこんなことを目的にはしていないんじゃね?
        この研究者の目的ではあるかもしれんけど。

        そもそも、人語を理解するコンピュータが必要とされているか
        ということも怪しい。別に理解していなくても、適切な
        反応・返答ができるならそれでいいわけだし。

        • by Anonymous Coward

          > Google は別にこんなことを目的にはしていないんじゃね?
          > この研究者の目的ではあるかもしれんけど。

          そうですね。
          だから、目的の異なる両者が決別した、という話じゃないでしょうか。

        • by Anonymous Coward

          そもそも人間がちゃんと言語を理解しているとどうやって証明しているのだね?
          世の中の人々は、人間の言語を聞いて人間の反応を返す哲学的ゾンビかもしれないぞ。

      • by Anonymous Coward

        Googleがそういう技術で成長してきたことはGoolge自身もPRしているのに、いまさらそれを社内の人間が指摘したことを気にくわないって???
        そりゃDon't Be Evilを捨てたように態度や方針を変えることはいくらでもありうるけど、現在でも別に否定していないことを指摘した程度で「解雇」の理由とするのは極端すぎて説得力に欠けるなぁ

        • by Anonymous Coward

          同感。

          悪意を持った人が悪意を持って記事を書いてるだけで、
          まだ理由もなにもかも不明なのよね。

          解雇された側だって、不当と思えば裁判に訴えることができるわけだから、
          Evil な理由で解雇されたのなら、今後裁判になるだろうし、だからこそ
          Google側がそんな理由で解雇するとは考えにくい。

          もっと正当な理由がないことにはね。

    • by Anonymous Coward

      現在の深層学習型AIへの否定になる可能性があるから「ちょっと黙っていろ」って事ですかね
      よく分からないけど結果だけを見るとうまく動いているって状態だと、差別的だって問題を取り除く方法が無いのでパターンを変えて再学習
      その再学習がコストに見合ってないし、このまま進めても失敗する可能性を示唆するだけで非常に困るって事なのかも

  • これAI論文と関係なくね?
    指示された内容と違う仕事してたら、それ唯のサボりじゃね?

    そもそも欧米の多くの国では、専攻分野以外での専門的言及は違法(マスター・エンジニア制度)だけど、
    この人は気候変動関連で修士以上の資格もってるの?

    ここに返信
    • by Anonymous Coward

      AIの倫理的な部分への言及なんだから本業でしょ

      プロジェクトの成果として出てきた学習モデルに対して、必要だった学習の為のランニングコストが、気候変動に影響を与える程の膨大な物だったって事でしょ

      • by Anonymous Coward

        >ランニングコストが、気候変動に影響を与える程の膨大な物だった

        こういうの草

      • by Anonymous Coward

        ランニングコストガーと主張するなら、AI性能に対して
        ・費用比較
        ・消費電力比較
        ・CO2排出比較
        等の科学的共通言語で定量的・定性的・対称的比較すれば良いだけでは?

        それを倫理ガーと、AIとも科学とも専門とも仕事とも違うプロパガンダ始めるから非難されるのでは?

        • by Anonymous Coward

          AIと倫理って,(遅れている,後追いと揶揄される)日本ですら取り組まれている分野ですよ.
          お金を取りに行く(取りに行ける)情報工学研究者で倫理について言及していない計画書は見たことがない.

          • by Anonymous Coward

            お前は何を言っているんだ?>#3938887

            • by Anonymous Coward

              某最年少准教授の残り香がこんなところにも

        • by Anonymous Coward

          ソースをちゃんと読みました?
          共同著者の概要にそうした時間あたりの消費電力とCO2排出量に対しての表が提示されていますよ

          • by Anonymous Coward

            >ソースをちゃんと読みました?
            >共同著者の概要にそうした時間あたりの消費電力とCO2排出量に対しての表が提示されていますよ

            だからそこから先は冗長なプロパガンダでしかないという指摘でしょ。

  • by Anonymous Coward on 2020年12月09日 14時15分 (#3938912)

    中の人にはいろいろ事情があるんだろうが、イキって「倫理的人工知能チーム」とか作ってその畑の人を雇っておいて、
    その人が書いた手厳しいレポートを受け入れられない、というのはまあクソださいよね。

    Googleって、やってることは良くも悪くもない単なる営利企業なのに、
    自分を特別な存在と見せかけるセルフプロモーションに血道をあげているところがあって、
    (それを信じてGoogleマンセーする連中も込みで)馬鹿みたいだと思ってたんだけど、
    最近は自らの構築したセルフイメージに自縄自縛に陥っている感じがあって、より一層馬鹿みたいだなって感じ。

    ここに返信
    • by Anonymous Coward

      >手厳しいレポートを受け入れられない

      手厳しい(引用元データが古く、AI倫理でもなく、環境問題ありきの)レポートw

    • by Anonymous Coward

      どうも求められているのと違うからじゃないの?
      AIの機能に対する倫理と、「電気いっぱい使うから気候変動で貧乏人のカスたちが大変なの!!」は同じ倫理でもGoogleからしたら後者は「(´・ω・`)知らんがな」「社会学者を雇った覚えはない」になると思うけど。

    • by Anonymous Coward

      Google側の言い分としては、
      「時代遅れの役に立たないレポートを提出して、それが採用されない事に腹を立てて
       レポート却下した人間を教えろそうじゃなきゃ辞職すると主張したので、
       そんな不当な要求は受け入れられないから主張どおり辞職してもらった」
      ということのようですが。

      はたして“イキって”いるのはどちらなんでしょうかね?

  • by Anonymous Coward on 2020年12月09日 14時38分 (#3938922)

    どうせ穀潰しのパヨク学者がクビになっただけでしょ

    ここに返信
    • by Anonymous Coward

      ぐーぐる様に支配されるのはキモチイイよね

    • by Anonymous Coward

      気に入らないから排除とか確かに同じ

  • by Anonymous Coward on 2020年12月09日 16時12分 (#3938979)

    「元データとして反映され難い、少数民族の文化は優先度が下がる」という指摘は結構やばいかも。
    経済的な少数民族の弾圧と主張されたら、中国の民族浄化等へ批判を強める世論から格好の叩き材料にされそう。
    機械学習でどこまで文章が自動化できるのかは、攻撃する側にとっては関係無いですしね。
    かといって、ニュースが稼げそうで調子の良いグーグルが自動化の流れを止めるわけないですし。

    グーグル側がこれを理由に論文を不当に取り下げたと本人が感じたら、徹底抗戦に出るでしょうね。
    本人が有色人種で、これまで差別を感じてきたとしたら、なおさら引けない戦いに。
    続報が出ない限りは妄想でしかないですが。

    ここに返信
  • by Anonymous Coward on 2020年12月10日 9時39分 (#3939333)

    AIをつくるための計算リソースは、たくさん使われているとはいえ、何か結果を出そうとしている。
    でも、TOP500をはじめとするスパコンベンチマークは測定のために計算リソースを大量に使い、計算結果は使わない。
    測定のために1年に2回、結果をよくするための調整でさらに計算リソースを使うのも、この著者にとってリソースの無駄なのだろうか?
    論文の中で取り上げられていなかったのだろうか?

    ここに返信
typodupeerror

UNIXはただ死んだだけでなく、本当にひどい臭いを放ち始めている -- あるソフトウェアエンジニア

読み込み中...