パスワードを忘れた? アカウント作成
15033092 story
検閲

テクノロジーの負の側面を強調しすぎないよう、Googleが研究者に要求しているとの報道 33

ストーリー by nagazou
検閲的なものが増えてきた気が 部門より
headless 曰く、

Googleが社内の論文レビュープロセスに「注意を要するトピック (sensitive topics)」の項目を追加し、テクノロジーの負の側面が強調されないよう研究者に促しているとReutersが報じている(Reutersの記事The Guardianの記事The Vergeの記事SlashGearの記事)。

Reutersによれば、Googleの内部向けWebページにはテクノロジーの進歩や外部環境の複雑化により一見問題がなさそうなプロジェクトが問題を引き起こすこともあるなどと記載されており、顔と感情の分析や人種・性別・所属政党の分類といったトピックを扱う場合は事前に法務・ポリシー・PRチームに相談するよう求めているそうだ。注意を要するトピックとしては、石油産業・中国・イラン・イスラエル・COVID-19・ホームセキュリティ・保険・位置情報・宗教・自動運転車・通信のほか、Webコンテンツをおすすめしたりパーソナライズしたりするシステムなどが挙げられている。

プロジェクトによっては、Googleの担当者が論文の内容に介入することもあるという。今夏公開された「おすすめコンテンツ」に関する論文では、ポジティブな感じにするよう論文執筆者に求める一方、解決すべき問題点を隠す必要はないなどという指示があったそうだ。最終的に公開された論文では草稿にあったYouTubeへの言及が削除され、誤った情報を助長する懸念があるという記述から、正しい情報を促進できるといった記述に置き換えられたとのこと。

このような例は他にも挙げられており、一部の研究者からは検閲につながるとの懸念も出ている。Googleと研究者の間での緊張の高まりは今月初め、AI倫理専門家のTimnit Gebru氏が解雇されたと発表したことで注目を浴びた。Gebru氏の論文が注意を要するトピックのレビューを受けたかどうかは不明だが、Gebru氏はAIの負の側面を取り上げた論文を公開しないことに疑問を呈した結果解雇されたと述べている。

Gebru氏の論文についてGoogleのシニアバイスプレジデントJeff Dean氏は、(AIが)害を及ぼす可能性を長々と述べるのみで、解決のために進められている努力に言及していなかったと説明しているそうだ。Dean氏によれば、Googleではレビュープロセスが煩雑になりすぎないよう改善を進めているとのことだ。

  • 開発者・研究者「何で、社内だけじゃなくて、社外にも品証みたいな奴らが居て、アレコレ言ってくるんだよッ???!!!」

    ここに返信
    • by Anonymous Coward

      さすがに会社に雇われる身で会社の業務で書いたものを会社の論文チェック受けたくないってのは通らないんじゃない
      私人として会社と関係ないように分けて公開するなら会社の業務外になるけど、どうせ業務時間に書いた論文も私人として書いた論文もどっちも同じ本名書いてるんでしょ
      ちゃんと分けるなら筋は通るのでいいんじゃない

      • by Anonymous Coward

        別に論文チェックするのはいいけど
        商業文書じゃなくて学術文書なのに、内容が会社の方針と食い違うからダメってのはナシでしょう。
        間違ってるからダメとか、機密内容が書いてあるからダメってのならいいけど。

        • by Anonymous Coward

          > 商業文書じゃなくて学術文書なのに、内容が会社の方針と食い違うからダメってのはナシでしょう。

          ナシなわけないでしょう。
          会社はそういう条件で研究者を雇ってるんだから。

          嫌なら、そういう会社(会社の方針に沿わない発表を許さない会社)を辞めて、
          どんな内容の発表でも許してくれて、お金もくれる会社を探して雇ってもらえばいい。
          あるか知らんけど。

          • by Anonymous Coward

            > 会社はそういう条件で研究者を雇ってるんだから。

            一般化したような書きっぷりだが、日本の研究所つき企業の一例では、そんな雇用条件は見たこともない。
            Googleは米国企業だから分厚い雇用契約書のどこかに書いてあるだろうか?

            • by Anonymous Coward

              業務命令には従うと就業規則に書いてありませんか?
              入社するときに就業規則を守るとサインしてませんか?

              業務時間外にすべて自腹でやって、
              会社の名前を出さずにやればいいんですよ。

              • by Anonymous Coward on 2020年12月28日 15時26分 (#3950138)

                > 入社するときに就業規則を守るとサインしてませんか?

                就業規則に「会社の方針に合わない学術研究は禁止」と書いてない限り、
                それは理由になりません。
                そしてそんな就業規則のあるところの学術ポストにまともな人材は就職しません。

                > 業務命令には従うと就業規則に書いてありませんか?

                学術的に正しい内容の発表を業務命令で差し止めるのって有効な業務命令でしょうか?
                たとえ営利企業であっても、裁判に持ち込めば無効判断されても不思議はないのでは?

              • by Anonymous Coward

                学術研究をする/しないではなく文書上の表現の仕方の話では?
                学術研究では会社の体面を無視して、どんな表現
                (それこそ差別的ととられる表現)をしても許されるのですかね?

              • by Anonymous Coward

                正しかろうが正しく無かろうが、業務中の成果は全て会社の知的財産です。
                当たり前でしょ。
                会社の知的財産である以上会社が許可しない限り公表することはできません。
                会社ってものをなんだと思ってるの?

              • by Anonymous Coward

                屁理屈をいうねえ

                それは研究者としての評価に関わることであって
                企業がどうこう言う事じゃない

              • by Anonymous Coward

                そんな就業規則は逆に明記されていない会社の方が少ないよ。
                研究として禁止ではなく一般的な話として必ず規定されてる。会社に損害与えたり風紀乱したりするのは最悪懲戒の対象にもなる。

              • by Anonymous Coward

                社外秘情報の情報管理をされていたり、会社の名前を自由に
                使わせてくれない会社には就職できないと言っていますね。
                そんな人ばかりではないと思いますよ。
                うちの会社の研究所にはたくさん人がいます。

                ちなみに社外発表時には知財部門の許可を取るフローになっています。
                これを有効な業務命令ではないとは思いません。
                裁判に持ち込んだ人も見たことがないですね。
                だから裁判所がどう判断するかはわかりませんね。
                ぜひやってください。

              • by Anonymous Coward

                言っていることは正しいけど、これはコンテキストが違いすぎる。昨今の企業研究者、とりわけソフトウェア会社の研究者は、(一部の)研究成果を公開することが前提で雇われている。今回の話も公開することが前提なの。

              • by Anonymous Coward

                雇われた研究者と企業を完全に分離して扱うという決まりはあるのかな?
                どこかの国には御用学者などという言葉があるけども、
                現実の扱いとして、全ての人が従業員の言動は、企業とは独立しているという認識があるのかな?

                それとも、研究者の評価が会社に飛び火した場合、あなたが会社(とその従業員)を擁護するのかな?

        • by Anonymous Coward

          政策に影響及ぼすような大企業に所属している時点で世間からは色眼鏡で見られるから
          会社の方針に真っ向から反対するような、或いは過激に推進するような論文書いたら他の人からどう思われたり、メディアがどう報じるかわかったものではないから会社から縛られるのも仕方ないと思うよ。

          例えば自動車メーカーの社員が電気自動車推進のために火力発電を減らして原発を沢山作るべきだとか、脱炭素社会実現のため電動車への買い替え促進するために政府はガソリン税を徐々に引き上げていくべきだとかいう論文発表したら一般人からどう思われるか。

        • by Anonymous Coward
          1. 執筆者として:論文の内容に過度に介入(検閲)されると執筆者の名誉や雇用に関わる(ストーリーの主旨はたぶんこっち)
          2. 学会として:論文の内容が私企業の都合の良い形に変えられると社会全体の損失になる

          という2つの論点に分けた方がいいと思う。

          (1)に関しては業務上著作物である以上、ある程度の介入は許容されると思う。
          (2)に関しても企業がスポンサーの論文なんて大なり小なりそういうものなので、世間も色眼鏡で読むものだと思ってる。

          自由な社風のGoogleでもこういうことがあるとわかって残念というお気持ち。
          ダメじゃない、ナシでもない、でも良くもない、加点取り消し。そんなカンジ。

    • by Anonymous Coward

      逆じゃね? 「何で、社外だけじゃなくて、社内にも品証みたいな奴らが居て、アレコレ言ってくるんだよッ???!!!」って話でしょコレ。
      査読やら何やらで社外から品質を評価されるのは今までも当然のことなので。

    • by Anonymous Coward

      利益を生まない部門で雇われてる人は、利益出てる部門の意見に文句言えないし、肩身が狭いだけでは?
      気付いたやつからグーグル卒業して起業してるわけで。

  • by Anonymous Coward on 2020年12月28日 14時00分 (#3950072)

    > テクノロジーの負の側面が強調されないよう研究者に促している

    Googleに都合の悪い論文はGoogle Scholarで後の方に表示される(ひょっとすると表示しない)ようにしてるんだろうな

    ここに返信
    • by Anonymous Coward

      もしかしたらGoogleの負の側面を強調するのはOKなのでは?

  • by Anonymous Coward on 2020年12月28日 16時01分 (#3950166)

    権力は腐敗する。それは大企業に於いても言えることだ。
    Googleは既に腐敗の段階に入ってきている。

    ここに返信
    • by hakikuma (47737) on 2020年12月28日 20時51分 (#3950361)

      権力は腐敗の「傾向がある」が正解ですね。
      権力が必ず腐敗するとはアクトンさえも言っていません。

      • by Anonymous Coward

        『ことわざ・名言事典』(1978,創元社)
        「権力は腐敗しやすく、絶対的権力は絶対的に腐敗する。偉人は殆ど常に悪人である。」

        原典は知らん

        • by hakikuma (47737) on 2020年12月29日 12時27分 (#3950687)

          そしたら原文を示すよ。

          >「Power tends to corrupt, and absolute power corrupts absolutely.」

          「tends」は中学で習うから日本語に訳せますよね。「傾向がある」で正解でしょ?
          「腐敗しやすく」は間違いじゃないが、読む人が分かりやすいようにちょっと意訳入ってる。

    • by Anonymous Coward

      最初からマトモでは無かったと思うけどね。
      始まりから他社(この場合MS)を叩くのに邁進してたし。

  • by Anonymous Coward on 2020年12月28日 16時12分 (#3950176)

    主人公の科学者の発言をマスコミのねーちゃんが「科学者特有の楽観的な発言……」とディスって
    後でそのマスコミねーちゃんに科学者が「我々が楽観的なら君らマスコミは悲観的で感傷的だ!」って
    やりこめていたんだけどなー。

    ここに返信
    • by Anonymous Coward

      「科学者は100%安全だと保証できないものは動かしてはならない」、科学者「えっ」、プログラマ「えっ」

      • by Anonymous Coward

        信頼性工学の専門家「寝言は寝て言え」

      • by Anonymous Coward

        でも、マスクしろってお前らいうやん?

        • by Anonymous Coward

          でも、ゴジラのくしゃみでボロクソ叩くやん?

  • by gb3399 (36108) on 2020年12月29日 1時00分 (#3950489)
    表現の自由があっても企業から依頼されたら 音楽家でもデザイナーでもネガティブは面は出さないよ。 ただそれだけの事。 それで文句言う奴もいないしね。
    ここに返信
  • by Anonymous Coward on 2020年12月30日 12時18分 (#3951184)

    検索エンジンで情報流通を制御し、マップ&ストリートビューで全世界の地理を把握し、androidスマホで全人類の行動を把握し、「Don't be evil」をこっそり外し、ついにテクノロジー発展の方向性を制御しはじめた。いずれ政治の分野にも進出し、国家や民族を超越して人類を指導する存在になっていくのだろう。

    その先はユートピア?ディストピア?

    ここに返信
    • by Anonymous Coward

      寝言は中国のネットを支配してから言ってくれ

typodupeerror

開いた括弧は必ず閉じる -- あるプログラマー

読み込み中...