テクノロジーの負の側面を強調しすぎないよう、Googleが研究者に要求しているとの報道 33
検閲的なものが増えてきた気が 部門より
Googleが社内の論文レビュープロセスに「注意を要するトピック (sensitive topics)」の項目を追加し、テクノロジーの負の側面が強調されないよう研究者に促しているとReutersが報じている(Reutersの記事、 The Guardianの記事、 The Vergeの記事、 SlashGearの記事)。
Reutersによれば、Googleの内部向けWebページにはテクノロジーの進歩や外部環境の複雑化により一見問題がなさそうなプロジェクトが問題を引き起こすこともあるなどと記載されており、顔と感情の分析や人種・性別・所属政党の分類といったトピックを扱う場合は事前に法務・ポリシー・PRチームに相談するよう求めているそうだ。注意を要するトピックとしては、石油産業・中国・イラン・イスラエル・COVID-19・ホームセキュリティ・保険・位置情報・宗教・自動運転車・通信のほか、Webコンテンツをおすすめしたりパーソナライズしたりするシステムなどが挙げられている。
プロジェクトによっては、Googleの担当者が論文の内容に介入することもあるという。今夏公開された「おすすめコンテンツ」に関する論文では、ポジティブな感じにするよう論文執筆者に求める一方、解決すべき問題点を隠す必要はないなどという指示があったそうだ。最終的に公開された論文では草稿にあったYouTubeへの言及が削除され、誤った情報を助長する懸念があるという記述から、正しい情報を促進できるといった記述に置き換えられたとのこと。
このような例は他にも挙げられており、一部の研究者からは検閲につながるとの懸念も出ている。Googleと研究者の間での緊張の高まりは今月初め、AI倫理専門家のTimnit Gebru氏が解雇されたと発表したことで注目を浴びた。Gebru氏の論文が注意を要するトピックのレビューを受けたかどうかは不明だが、Gebru氏はAIの負の側面を取り上げた論文を公開しないことに疑問を呈した結果解雇されたと述べている。
Gebru氏の論文についてGoogleのシニアバイスプレジデントJeff Dean氏は、(AIが)害を及ぼす可能性を長々と述べるのみで、解決のために進められている努力に言及していなかったと説明しているそうだ。Dean氏によれば、Googleではレビュープロセスが煩雑になりすぎないよう改善を進めているとのことだ。
要はこう云う事？ (スコア:2)
開発者・研究者「何で、社内だけじゃなくて、社外にも品証みたいな奴らが居て、アレコレ言ってくるんだよッ???!!!」
Re: (スコア:0)
さすがに会社に雇われる身で会社の業務で書いたものを会社の論文チェック受けたくないってのは通らないんじゃない
私人として会社と関係ないように分けて公開するなら会社の業務外になるけど、どうせ業務時間に書いた論文も私人として書いた論文もどっちも同じ本名書いてるんでしょ
ちゃんと分けるなら筋は通るのでいいんじゃない
Re: (スコア:0)
別に論文チェックするのはいいけど
商業文書じゃなくて学術文書なのに、内容が会社の方針と食い違うからダメってのはナシでしょう。
間違ってるからダメとか、機密内容が書いてあるからダメってのならいいけど。
Re: (スコア:0)
> 商業文書じゃなくて学術文書なのに、内容が会社の方針と食い違うからダメってのはナシでしょう。
ナシなわけないでしょう。
会社はそういう条件で研究者を雇ってるんだから。
嫌なら、そういう会社（会社の方針に沿わない発表を許さない会社）を辞めて、
どんな内容の発表でも許してくれて、お金もくれる会社を探して雇ってもらえばいい。
あるか知らんけど。
Re: (スコア:0)
> 会社はそういう条件で研究者を雇ってるんだから。
一般化したような書きっぷりだが、日本の研究所つき企業の一例では、そんな雇用条件は見たこともない。
Googleは米国企業だから分厚い雇用契約書のどこかに書いてあるだろうか？
Re: (スコア:0)
業務命令には従うと就業規則に書いてありませんか？
入社するときに就業規則を守るとサインしてませんか？
業務時間外にすべて自腹でやって、
会社の名前を出さずにやればいいんですよ。
Re:要はこう云う事？ (スコア:1)
> 入社するときに就業規則を守るとサインしてませんか？
就業規則に「会社の方針に合わない学術研究は禁止」と書いてない限り、
それは理由になりません。
そしてそんな就業規則のあるところの学術ポストにまともな人材は就職しません。
> 業務命令には従うと就業規則に書いてありませんか？
学術的に正しい内容の発表を業務命令で差し止めるのって有効な業務命令でしょうか？
たとえ営利企業であっても、裁判に持ち込めば無効判断されても不思議はないのでは？
Re: (スコア:0)
学術研究をする/しないではなく文書上の表現の仕方の話では？
学術研究では会社の体面を無視して、どんな表現
(それこそ差別的ととられる表現)をしても許されるのですかね？
Re: (スコア:0)
正しかろうが正しく無かろうが、業務中の成果は全て会社の知的財産です。
当たり前でしょ。
会社の知的財産である以上会社が許可しない限り公表することはできません。
会社ってものをなんだと思ってるの？
Re: (スコア:0)
屁理屈をいうねえ
それは研究者としての評価に関わることであって
企業がどうこう言う事じゃない
Re: (スコア:0)
そんな就業規則は逆に明記されていない会社の方が少ないよ。
研究として禁止ではなく一般的な話として必ず規定されてる。会社に損害与えたり風紀乱したりするのは最悪懲戒の対象にもなる。
Re: (スコア:0)
社外秘情報の情報管理をされていたり、会社の名前を自由に
使わせてくれない会社には就職できないと言っていますね。
そんな人ばかりではないと思いますよ。
うちの会社の研究所にはたくさん人がいます。
ちなみに社外発表時には知財部門の許可を取るフローになっています。
これを有効な業務命令ではないとは思いません。
裁判に持ち込んだ人も見たことがないですね。
だから裁判所がどう判断するかはわかりませんね。
ぜひやってください。
Re: (スコア:0)
言っていることは正しいけど、これはコンテキストが違いすぎる。昨今の企業研究者、とりわけソフトウェア会社の研究者は、（一部の）研究成果を公開することが前提で雇われている。今回の話も公開することが前提なの。
Re: (スコア:0)
雇われた研究者と企業を完全に分離して扱うという決まりはあるのかな？
どこかの国には御用学者などという言葉があるけども、
現実の扱いとして、全ての人が従業員の言動は、企業とは独立しているという認識があるのかな？
それとも、研究者の評価が会社に飛び火した場合、あなたが会社(とその従業員)を擁護するのかな？
Re: (スコア:0)
政策に影響及ぼすような大企業に所属している時点で世間からは色眼鏡で見られるから
会社の方針に真っ向から反対するような、或いは過激に推進するような論文書いたら他の人からどう思われたり、メディアがどう報じるかわかったものではないから会社から縛られるのも仕方ないと思うよ。
例えば自動車メーカーの社員が電気自動車推進のために火力発電を減らして原発を沢山作るべきだとか、脱炭素社会実現のため電動車への買い替え促進するために政府はガソリン税を徐々に引き上げていくべきだとかいう論文発表したら一般人からどう思われるか。
Re: (スコア:0)
という2つの論点に分けた方がいいと思う。
(1)に関しては業務上著作物である以上、ある程度の介入は許容されると思う。
(2)に関しても企業がスポンサーの論文なんて大なり小なりそういうものなので、世間も色眼鏡で読むものだと思ってる。
自由な社風のGoogleでもこういうことがあるとわかって残念というお気持ち。
ダメじゃない、ナシでもない、でも良くもない、加点取り消し。そんなカンジ。
Re: (スコア:0)
逆じゃね？ 「何で、社外だけじゃなくて、社内にも品証みたいな奴らが居て、アレコレ言ってくるんだよッ???!!!」って話でしょコレ。
査読やら何やらで社外から品質を評価されるのは今までも当然のことなので。
Re: (スコア:0)
利益を生まない部門で雇われてる人は、利益出てる部門の意見に文句言えないし、肩身が狭いだけでは？
気付いたやつからグーグル卒業して起業してるわけで。
これだからGoogleは (スコア:0)
> テクノロジーの負の側面が強調されないよう研究者に促している
Googleに都合の悪い論文はGoogle Scholarで後の方に表示される（ひょっとすると表示しない）ようにしてるんだろうな
Re: (スコア:0)
もしかしたらGoogleの負の側面を強調するのはOKなのでは？
権力 (スコア:0)
権力は腐敗する。それは大企業に於いても言えることだ。
Googleは既に腐敗の段階に入ってきている。
Re:権力 (スコア:2)
権力は腐敗の「傾向がある」が正解ですね。
権力が必ず腐敗するとはアクトンさえも言っていません。
Re: (スコア:0)
『ことわざ・名言事典』（1978，創元社）
「権力は腐敗しやすく、絶対的権力は絶対的に腐敗する。偉人は殆ど常に悪人である。」
原典は知らん
Re:権力 (スコア:2)
そしたら原文を示すよ。
>「Power tends to corrupt, and absolute power corrupts absolutely.」
「tends」は中学で習うから日本語に訳せますよね。「傾向がある」で正解でしょ？
「腐敗しやすく」は間違いじゃないが、読む人が分かりやすいようにちょっと意訳入ってる。
Re: (スコア:0)
最初からマトモでは無かったと思うけどね。
始まりから他社（この場合MS）を叩くのに邁進してたし。
ゴジラVSデストロイア（1995年）では (スコア:0)
主人公の科学者の発言をマスコミのねーちゃんが「科学者特有の楽観的な発言……」とディスって
後でそのマスコミねーちゃんに科学者が「我々が楽観的なら君らマスコミは悲観的で感傷的だ！」って
やりこめていたんだけどなー。
Re: (スコア:0)
「科学者は100%安全だと保証できないものは動かしてはならない」、科学者「えっ」、プログラマ「えっ」
Re: (スコア:0)
信頼性工学の専門家「寝言は寝て言え」
Re: (スコア:0)
でも、マスクしろってお前らいうやん？
Re: (スコア:0)
でも、ゴジラのくしゃみでボロクソ叩くやん？
表現の自由 (スコア:0)
企業のネットが星を被い… (スコア:0)
検索エンジンで情報流通を制御し、マップ＆ストリートビューで全世界の地理を把握し、androidスマホで全人類の行動を把握し、「Don't be evil」をこっそり外し、ついにテクノロジー発展の方向性を制御しはじめた。いずれ政治の分野にも進出し、国家や民族を超越して人類を指導する存在になっていくのだろう。
その先はユートピア？ディストピア？
Re: (スコア:0)
寝言は中国のネットを支配してから言ってくれ