エンジニアは倫理的責任を負うべきか 159
ストーリー by hylom
エンジニアだけの問題ではない 部門より
エンジニアだけの問題ではない 部門より
あるAnonymous Coward 曰く、
米国家安全保障局（NSA）によるネット監視が米国ではたびたび話題となっているが、それを開発したエンジニアに対し倫理的責任を問う記事がThe Guardianに掲載された（本家/.）。
この記事ではNSAの情報収集活動を例に挙げ、「使われるデータ収集アルゴリズムは人の手によって作られたはずだが、開発者らはこれがどのように使われるか知っていたのだろうか」、「この件に関し開発者らにも責任の一旦があると言えるのだろうか」など、開発者らに対する責任について考察している。
医師や司法、また弁護士などの職に就く人は（実際にそのように行動するかは別として）社会的利益を守る役割を期待される。エンジニアについても同じことが当てはまるのだろうか、というのがその主旨だ。
エンジニアは「このシステムがどのように使われるのか」や「そもそも作られるべきなのか」といった問題まで考えるべきなのであろうか？
医師や司法、弁護士と同じ (スコア:4, すばらしい洞察)
医師や司法、また弁護士などの職に就く人は（実際にそのように行動するかは別として）社会的利益を守る役割を期待される。エンジニアについても同じことが当てはまるのだろうか、というのがその主旨だ。
それでいいんじゃない? 「実際にそのように行動するかは別として」という部分も含めて。
あと、賃金と期待は比例してほしいものだね。
学校の先生とか見てるとかわいそうだよね。
Re:医師や司法、弁護士と同じ (スコア:3)
賃金もですが、社会的な保護もでしょうね。
違法や、違法でないにせよ世の中に悪影響を与えるシステムを開発するよう指示された時に、それを断ったり、その依頼を受けたことを公表したエンジニアが居たとして。
たとえば依頼主から守秘義務違反の責任を問われた時にどうなるのか、と考えると、「実際そのように行動できるか」にかなり制限がかかると思います。
たとえ世間一般からは賞賛されたとしても、損害賠償を請求されて多大な負担を受けることになったり、あるいは守秘義務違反で仕事を失ったり。
その上、ＩＴ業界の中では「守秘義務違反をやったエンジニア」というレッテルを貼り続けられるようなことがあるなら、倫理に期待するのが間違い、というより倫理を優先した行動を取るよう求めるのは「自殺しろ」に等しいことになりますから。
結局は「守秘義務や依頼された仕事を完遂するという職業意識」と「社会に害悪を与えないようにする倫理観」のどちらを優先するべきか、ということですが。
日本だと前者のウェイトのほうが大きいように思えます。それが正しいのかどうかは判りませんが。
Re:医師や司法、弁護士と同じ (スコア:1)
そうですな。社会的な保護や賃金に加えて、医師や弁護士並みの社会的地位、権限もあればね。
少なくともIT土方だの偽装請負だのがある現状では、エンジニアの倫理感や倫理的責任なんて、土方や派遣社員並みで十分でしょう。
知らなかった (スコア:2)
独断や命令違反等ではなく
ただの一般兵が上官の命令で行った行為に対して戦争犯罪で訴追される場合があるの？
Re:医師や司法、弁護士と同じ (スコア:1)
弁護士と同じでいいんじゃね？
・たとえ連続殺人犯だろうとなんだろうと、弁護の以来をされたら、（依頼自体が違法でない限り）依頼人を弁護する。
・依頼人の秘密は守る。
技術者だと、「気に入らない仕事は引き受けない」「面白くない物は作らない」という
選択肢については、弁護士よりも多めでいいかも。
Re:医師や司法、弁護士と同じ (スコア:2)
原文は
Health is an unambiguously positive social good that gives the medical profession a strong moral purpose. The same can be said of justice for practitioners of the law. Lawyers and doctors are expected to act in a particular way and, sometimes, to become the custodians of the social good their respective professions embody. Whether they do or not is a different matter.
なので、要約すると、
「医師や司法、また弁護士などの職に就く人は（実際にそのように行動するかは別として）社会的利益を守る役割を期待される。」
というより、
「医師および弁護士は、それぞれ健康および正義が社会的利益であることから、（実際にそのように行動するかは別として）一定の行動が求められ、時としてそれぞれの社会的利益を守る役割を期待される。」
ですね。
Re:医師や司法、弁護士と同じ (スコア:1)
医師には「ヒポクラテスの誓い」があるわけですが、ジュリストにはそれに比する古い誓いだか守るべき教えってなんでしたっけ?
エンジニアはその二つに比べたらまるきり若い職業だから現状いろいろ立ち遅れているせいで低く見られているという側面があるのは否めない。
Re:医師や司法、弁護士と同じ (スコア:1)
弁護士の場合、弁護士倫理とか法曹倫理といったものはありますが、国によって制度が違うせいか、万国共通のこれだ！っていうものは聞いたことないですね。とはいえ、依頼人の正当な利益を擁護することとか、依頼人の秘密を守ることなどは、概ね共通しているのではないか、と思いますが。
Re: (スコア:0)
>開発者らはこれがどのように使われるか知っていたのだろうか
>この件に関し開発者らにも責任の一旦があると言えるのだろうか
>医師や司法、また弁護士などの職に就く人は社会的利益を守る役割を期待される
さて、極悪な開発者がいたとしましょう。
彼はネット監視を行うソフトを開発し社会的利益を守るべきだったと責任を問われました。
彼を裁いた司法は、期待通りに社会的利益を守る役割を果たしました。
彼の弁護士も、期待通りに社会的利益を守る役割を果たしました。
そして、獄中で彼が倒れた時、彼の主治医は、期待通りに社会的利益を守る役割を果たしました。
なんと素晴らしい世の中なのでしょう。
エンジニアは手段に関わっているだけ (スコア:2)
Re:エンジニアは手段に関わっているだけ (スコア:1)
普通は言われたことを言われた通りにやらない方が問題あるよな。
言われたことが間違ってるならまずそっちを正して、正したのを基にすべき。
#理想論だがね
ファインマンにあったな (スコア:2)
車、包丁、原発、何でも良いけど
ほとんどの技術は良い面と悪い面を両方持ち合わせている
ファインマンが僧侶にから聞いた
「この鍵は天国への扉を開くのに必要だが、同時に地獄の扉も空けられる、
しかも鍵をどのように使えば良いかは誰も教えてくれない」
というエピソードが一番しっくり来ると、私は思います
ある意味、倫理的か否か？を判断する人（この場合は、開発者らに対する責任について考察している人）の
倫理も問われている訳で、命令者と開発者だけに責任を負わせるだけでは無く、
全員が等しく責任を負うべき事項では無いでしょうか？
人間としてのカルマと言い換えたら、大げさかな？
見方を変えると、開発者らに対する責任について考察している人は
自分自身に対する責任を放棄・無視しているとも受取れます
情報技術者の社会的責任 (スコア:1)
とだけ書いて逃げるのでAC
Re:情報技術者の社会的責任 (スコア:1)
おいこら。
Hiroki (REO) Kashiwazaki
Re:情報技術者の社会的責任 (スコア:1)
リンクくらい貼っていけ。 [slideshare.net]
Re:情報技術者の社会的責任 (スコア:1)
なにこれ、すごくおもしろいんですけど（すっとぼけ）。
Hiroki (REO) Kashiwazaki
言葉尻を取ってみる (スコア:1)
>エンジニアは「このシステムがどのように使われるのか」や「そもそも作られるべきなのか」といった問題まで考えるべきなのであろうか？
まあ、考えたほうがいいですね。出た結論を元に何をするかは別として、考えないと人生つまらんでしょ。
結論次第では欝になるのだが。
#存在自体がホラー
そんなこと言ったら (スコア:0)
兵隊が敵を殺せなくなる。あり得んよ。
Re:そんなこと言ったら (スコア:1)
いや、これは「兵隊が容易に違法と判断できる命令を受けた。それを拒否するべきか」って話。
通常の戦闘行動での敵兵の殺害は合法であり、それを拒否するのとは違う状況。
このシステムは、国民をも対象とするという、違法行為に使われたから問題になっているわけで。
Re: (スコア:0)
倫理なんて個人の趣味にすぎない。
法律なんてそれよりさらにどうでもいいこと。
自分の趣味に応じて好きなことしたらいい。
Re: (スコア:0)
つまり、兵隊という職業（？）自体が「あり得ないもの」ということですね。
# 軍隊はブラック企業か（笑）。
Re:そんなこと言ったら (スコア:1)
憲法には「何をするための軍隊か」まで書いてあるんだよ
Re: (スコア:0)
兵隊が敵を殺すのは社会的利益を守る行為ですよ？
Re:そんなこと言ったら (スコア:1)
敵か確信がもてないけどあやしいからとりあえず無人機で攻撃しとけ
ってことでアフガニスタンでたくさんの民間人が巻き添えで殺されているのだが
Re:そんなこと言ったら (スコア:1)
自分が聞いたのは
「無人機の単なる移動や離着陸の操縦は民間会社に業務委託できるけど、攻撃時は戦闘行為であるから制服を着た正規の軍人が操作を担当している」
という話だったような。
Re:そんなこと言ったら (スコア:1)
×兵隊が敵を殺すのは社会的利益を守る行為ですよ？
○兵隊が敵を殺すのは兵を使役する集団の利益を守る行為です。
Re:そんなこと言ったら (スコア:1)
集団のトップの利益を守る
なのかな。
どこぞの大国の海軍が海賊討伐に行ったら逆に脅されてお金取られたとかワンピースモドキみたいな実話もあるそうな。
Re: (スコア:0)
「社会的利益を守る」と銘打てば、どんな監視行為も、盗聴行為も、国家情報の恣意的な隠蔽も、暗殺も、少数派民族の迫害も OK になりますよねっ。
反社会勢力のシステム (スコア:0)
受けた仕事がマルチ商法の顧客管理システムだったとかはあるな
お金もらう前にトンズラされたが・・・
日本ではそこはWinnyで通過済みだ。 (スコア:0)
心臓発作が起きるから気をつけよう。>みんな
Re: (スコア:0)
"site:slashdot.jp Winny 包丁"でぐぐったら約 3,910 件だった
釈然としないが、、 (スコア:0)
兵器や武器の開発に携わった科学者や技術者の倫理は問わないの?
「監視システムは米国人の自由を制限するから悪だが、兵器や武器は米国人の自由を守るためだから良い」という回答が当たり前のように返ってきそう。
これは米国人特有の考え方なのか、それとも欧米人一般にいえる事なのか?
はたまた日本人(左巻きの人を除く)でも同じ反応するものなのかなあ。
Re: (スコア:0)
正義は人の数だけあると言います。
日本にだって兵器を作ってる人はいるだろうし、
人によっては猟銃だってダメだろうし。
ただ、アメリカは銃が身近だからってのは少しはあるかもしれない？
Re: (スコア:0)
いじめのやり方を指南しているバラエティ番組の出演者、制作者の倫理は問わないの？
「真似するかどうかは見た人間の問題で、表現の自由があるのだからかまわない」という回答を当たり前のようにする広報担当はさすがにいないだろうけど、心の中では思っていそう。
Re: (スコア:0)
ノーベルとかオッペンハイマーとか良心の呵責にさい悩まれたから
倫理を問われることはあるんじゃないですかね？
簡単に答えが出せないから議論になるんだと思います。
日本だと大人の対応でこういう問題は突き詰めないけれど
欧米の人はとことん議論しちゃうんでしょうね。
Re: (スコア:0)
×大人の対応
○思考停止
社会的利益は積極的に守っていたのでは (スコア:0)
勿論、アメリカ政府にとっての社会的利益だけど。
国民も監視すべきであるという思想信条倫理に賛同したのであれば、倫理や道義を問うても意味がないとしか。
ベルリンの壁 (スコア:0)
東西ドイツが統合された後、壁を守っていた兵士が有罪になったよね。
あれと同じことだと思う。
筋として、実行者を裁くなら、まずは決定に関係した人間をすべて裁くのが先だろう？
決定権を持つ人間は必要だから、関係がどこまで及ぶかわからないから、とりあえず実行者を槍先にあげちゃえ！では、法も倫理もあったもんじゃない。
でもそんなこと言うと返ってくるのは「それはそれ、これはこれ」なんだよな・・・・
そして「それ」の責任が問われたことを俺は一度たりとも耳にしたことがない。
尻尾切り (スコア:0)
国家の首脳が是としてる行為の責任を、何故末端たるエンジニアに求めてるのやら。
弱者だからかね。強きに諂い弱きを挫くの真髄か、TheGurdian紙凄いですね。
Re:尻尾切り (スコア:1)
＞産婦人科医
母体保護法に基づく人工妊娠中絶に言及しているのでしたら違和感があります。
誤読でしょうか?
旧時代の産婆による出産後の間引きならまだしも…
Re:尻尾切り (スコア:1)
ご教示ありがとうございます。文面から (#2509823) のコメントとは別の方でしょうけど。
技術者倫理 (スコア:0)
技術士倫理綱領
http://www.engineer.or.jp/c_topics/000/000025.html [engineer.or.jp]
刑事、民事の責任は無いとしても、説明責任や倫理観を持って技術を行使する責任くらいはあると思いたい
Re:技術者倫理 (スコア:1)
海外にあるかもしれないサービス(例えばGMailとか)はどうなのか、
ちょっと気になる。
Re:研究者とエンジニアで違いがあるのかどうか (スコア:1)
そもそも、ネットワーク監視もデータ収集も、それ自体は自前のネットワーク持ってる企業ならあって当然の代物だからなぁ。
インフラをお国が握っている以上、普通のシステム組んで普通の運用してれば、普通にデータ取り放題だったと思うけど。
ぶっちゃけ、システムに関わった殆どの人間は自分の仕事がNSAに絡んでるなんて知らなかったろうし、知ってた人間はNSA側だろうし、
それで倫理的責任とか言われたら、地面に向かって｢ベルの馬鹿！｣と叫ぶ位しかすること無いだろうな。
Re:この国の自由と平等はどこに行った。 (スコア:1)
Re:エラー出したときに (スコア:2)
-- とある Windows XP より
Re:鍛冶屋のおやじに聞け (スコア:1)
おおよその使用目的が推察されても依頼通りに行動するかという。
Re:いかんともしがたい (スコア:1)
ウォーターゲート事件で盗聴器を仕掛けた人は使途については詮索しなかったのだろうか。
有能であることを求められているのに思考停止することを求められるのは矛盾しているでしょう。
結局は「詮索しないのが無難」な選択になってしまうのは同じですが。
Re:みんな騙されているな (スコア:1)
Re:ナイフや包丁を作る職人は (スコア:1)
ナイフや包丁を作ってます