パスワードを忘れた? アカウント作成
10356868 story
IT

エンジニアは倫理的責任を負うべきか 159

ストーリー by hylom
エンジニアだけの問題ではない 部門より
あるAnonymous Coward 曰く、

米国家安全保障局(NSA)によるネット監視が米国ではたびたび話題となっているが、それを開発したエンジニアに対し倫理的責任を問う記事がThe Guardianに掲載された(本家/.)。

この記事ではNSAの情報収集活動を例に挙げ、「使われるデータ収集アルゴリズムは人の手によって作られたはずだが、開発者らはこれがどのように使われるか知っていたのだろうか」、「この件に関し開発者らにも責任の一旦があると言えるのだろうか」など、開発者らに対する責任について考察している。

医師や司法、また弁護士などの職に就く人は(実際にそのように行動するかは別として)社会的利益を守る役割を期待される。エンジニアについても同じことが当てはまるのだろうか、というのがその主旨だ。

エンジニアは「このシステムがどのように使われるのか」や「そもそも作られるべきなのか」といった問題まで考えるべきなのであろうか?

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by Ryo.F (3896) on 2013年12月10日 18時47分 (#2509526) 日記

    医師や司法、また弁護士などの職に就く人は(実際にそのように行動するかは別として)社会的利益を守る役割を期待される。エンジニアについても同じことが当てはまるのだろうか、というのがその主旨だ。

    それでいいんじゃない? 「実際にそのように行動するかは別として」という部分も含めて。

    あと、賃金と期待は比例してほしいものだね。
    学校の先生とか見てるとかわいそうだよね。

    • 賃金もですが、社会的な保護もでしょうね。

      違法や、違法でないにせよ世の中に悪影響を与えるシステムを開発するよう指示された時に、それを断ったり、その依頼を受けたことを公表したエンジニアが居たとして。
      たとえば依頼主から守秘義務違反の責任を問われた時にどうなるのか、と考えると、「実際そのように行動できるか」にかなり制限がかかると思います。

      たとえ世間一般からは賞賛されたとしても、損害賠償を請求されて多大な負担を受けることになったり、あるいは守秘義務違反で仕事を失ったり。
      その上、IT業界の中では「守秘義務違反をやったエンジニア」というレッテルを貼り続けられるようなことがあるなら、倫理に期待するのが間違い、というより倫理を優先した行動を取るよう求めるのは「自殺しろ」に等しいことになりますから。

      結局は「守秘義務や依頼された仕事を完遂するという職業意識」と「社会に害悪を与えないようにする倫理観」のどちらを優先するべきか、ということですが。
      日本だと前者のウェイトのほうが大きいように思えます。それが正しいのかどうかは判りませんが。

      親コメント
      • by Anonymous Coward on 2013年12月10日 19時30分 (#2509561)

        そうですな。社会的な保護や賃金に加えて、医師や弁護士並みの社会的地位、権限もあればね。
        少なくともIT土方だの偽装請負だのがある現状では、エンジニアの倫理感や倫理的責任なんて、土方や派遣社員並みで十分でしょう。

        親コメント
      • 弁護士と同じでいいんじゃね?

        ・たとえ連続殺人犯だろうとなんだろうと、弁護の以来をされたら、(依頼自体が違法でない限り)依頼人を弁護する。
        ・依頼人の秘密は守る。

        技術者だと、「気に入らない仕事は引き受けない」「面白くない物は作らない」という
        選択肢については、弁護士よりも多めでいいかも。

        親コメント
    • 原文は

      Health is an unambiguously positive social good that gives the medical profession a strong moral purpose. The same can be said of justice for practitioners of the law. Lawyers and doctors are expected to act in a particular way and, sometimes, to become the custodians of the social good their respective professions embody. Whether they do or not is a different matter.

      なので、要約すると、
      「医師や司法、また弁護士などの職に就く人は(実際にそのように行動するかは別として)社会的利益を守る役割を期待される。」
      というより、
      「医師および弁護士は、それぞれ健康および正義が社会的利益であることから、(実際にそのように行動するかは別として)一定の行動が求められ、時としてそれぞれの社会的利益を守る役割を期待される。」
      ですね。

      親コメント
      • 医師には「ヒポクラテスの誓い」があるわけですが、ジュリストにはそれに比する古い誓いだか守るべき教えってなんでしたっけ?
        エンジニアはその二つに比べたらまるきり若い職業だから現状いろいろ立ち遅れているせいで低く見られているという側面があるのは否めない。

        親コメント
        • 弁護士の場合、弁護士倫理とか法曹倫理といったものはありますが、国によって制度が違うせいか、万国共通のこれだ!っていうものは聞いたことないですね。とはいえ、依頼人の正当な利益を擁護することとか、依頼人の秘密を守ることなどは、概ね共通しているのではないか、と思いますが。

          親コメント
    • by Anonymous Coward

      >開発者らはこれがどのように使われるか知っていたのだろうか
      >この件に関し開発者らにも責任の一旦があると言えるのだろうか
      >医師や司法、また弁護士などの職に就く人は社会的利益を守る役割を期待される

      さて、極悪な開発者がいたとしましょう。
      彼はネット監視を行うソフトを開発し社会的利益を守るべきだったと責任を問われました。

      彼を裁いた司法は、期待通りに社会的利益を守る役割を果たしました。
      彼の弁護士も、期待通りに社会的利益を守る役割を果たしました。
      そして、獄中で彼が倒れた時、彼の主治医は、期待通りに社会的利益を守る役割を果たしました。

      なんと素晴らしい世の中なのでしょう。

  • 目的に関わっていない人間に、目的に関する倫理観を持てというのは無理な要求。
  • 車、包丁、原発、何でも良いけど
    ほとんどの技術は良い面と悪い面を両方持ち合わせている

    ファインマンが僧侶にから聞いた
    「この鍵は天国への扉を開くのに必要だが、同時に地獄の扉も空けられる、
     しかも鍵をどのように使えば良いかは誰も教えてくれない」
    というエピソードが一番しっくり来ると、私は思います

    ある意味、倫理的か否か?を判断する人(この場合は、開発者らに対する責任について考察している人)の
    倫理も問われている訳で、命令者と開発者だけに責任を負わせるだけでは無く、
    全員が等しく責任を負うべき事項では無いでしょうか?
    人間としてのカルマと言い換えたら、大げさかな?

    見方を変えると、開発者らに対する責任について考察している人は
    自分自身に対する責任を放棄・無視しているとも受取れます

  • by Anonymous Coward on 2013年12月10日 20時07分 (#2509592)

    とだけ書いて逃げるのでAC

  • by matlay (32743) on 2013年12月10日 23時58分 (#2509703) 日記

    >エンジニアは「このシステムがどのように使われるのか」や「そもそも作られるべきなのか」といった問題まで考えるべきなのであろうか?

    まあ、考えたほうがいいですね。出た結論を元に何をするかは別として、考えないと人生つまらんでしょ。
    結論次第では欝になるのだが。

    --
    #存在自体がホラー
  • by Anonymous Coward on 2013年12月10日 19時05分 (#2509536)

    兵隊が敵を殺せなくなる。あり得んよ。

    • by Anonymous Coward on 2013年12月10日 19時16分 (#2509547)

      いや、これは「兵隊が容易に違法と判断できる命令を受けた。それを拒否するべきか」って話。
      通常の戦闘行動での敵兵の殺害は合法であり、それを拒否するのとは違う状況。

      このシステムは、国民をも対象とするという、違法行為に使われたから問題になっているわけで。

      親コメント
      • by Anonymous Coward

        倫理なんて個人の趣味にすぎない。
        法律なんてそれよりさらにどうでもいいこと。

        自分の趣味に応じて好きなことしたらいい。

    • by Anonymous Coward

      つまり、兵隊という職業(?)自体が「あり得ないもの」ということですね。

      # 軍隊はブラック企業か(笑)。

    • by Anonymous Coward

      兵隊が敵を殺すのは社会的利益を守る行為ですよ?

  • by Anonymous Coward on 2013年12月10日 19時07分 (#2509539)

    受けた仕事がマルチ商法の顧客管理システムだったとかはあるな
    お金もらう前にトンズラされたが・・・

  • by Anonymous Coward on 2013年12月10日 19時12分 (#2509543)

    心臓発作が起きるから気をつけよう。>みんな

    • by Anonymous Coward
      一個くらい関連ストーリーに挙げてもいいのにね
      "site:slashdot.jp Winny 包丁"でぐぐったら約 3,910 件だった
  • by Anonymous Coward on 2013年12月10日 19時13分 (#2509545)

    兵器や武器の開発に携わった科学者や技術者の倫理は問わないの?

    「監視システムは米国人の自由を制限するから悪だが、兵器や武器は米国人の自由を守るためだから良い」という回答が当たり前のように返ってきそう。
    これは米国人特有の考え方なのか、それとも欧米人一般にいえる事なのか?
    はたまた日本人(左巻きの人を除く)でも同じ反応するものなのかなあ。

    • by Anonymous Coward

      正義は人の数だけあると言います。
      日本にだって兵器を作ってる人はいるだろうし、
      人によっては猟銃だってダメだろうし。

      ただ、アメリカは銃が身近だからってのは少しはあるかもしれない?

    • by Anonymous Coward

      いじめのやり方を指南しているバラエティ番組の出演者、制作者の倫理は問わないの?

      「真似するかどうかは見た人間の問題で、表現の自由があるのだからかまわない」という回答を当たり前のようにする広報担当はさすがにいないだろうけど、心の中では思っていそう。

    • by Anonymous Coward

      ノーベルとかオッペンハイマーとか良心の呵責にさい悩まれたから
      倫理を問われることはあるんじゃないですかね?

      簡単に答えが出せないから議論になるんだと思います。

      日本だと大人の対応でこういう問題は突き詰めないけれど
      欧米の人はとことん議論しちゃうんでしょうね。

      • by Anonymous Coward

        ×大人の対応
        ○思考停止

  • by Anonymous Coward on 2013年12月10日 19時20分 (#2509550)

    勿論、アメリカ政府にとっての社会的利益だけど。
    国民も監視すべきであるという思想信条倫理に賛同したのであれば、倫理や道義を問うても意味がないとしか。

  • by Anonymous Coward on 2013年12月10日 19時30分 (#2509560)

    東西ドイツが統合された後、壁を守っていた兵士が有罪になったよね。
    あれと同じことだと思う。

    筋として、実行者を裁くなら、まずは決定に関係した人間をすべて裁くのが先だろう?
    決定権を持つ人間は必要だから、関係がどこまで及ぶかわからないから、とりあえず実行者を槍先にあげちゃえ!では、法も倫理もあったもんじゃない。

    でもそんなこと言うと返ってくるのは「それはそれ、これはこれ」なんだよな・・・・
    そして「それ」の責任が問われたことを俺は一度たりとも耳にしたことがない。

  • by Anonymous Coward on 2013年12月10日 19時35分 (#2509564)

    国家の首脳が是としてる行為の責任を、何故末端たるエンジニアに求めてるのやら。

    弱者だからかね。強きに諂い弱きを挫くの真髄か、TheGurdian紙凄いですね。

  • by Anonymous Coward on 2013年12月10日 19時41分 (#2509574)

    技術士倫理綱領
    http://www.engineer.or.jp/c_topics/000/000025.html [engineer.or.jp]

    刑事、民事の責任は無いとしても、説明責任や倫理観を持って技術を行使する責任くらいはあると思いたい

typodupeerror

普通のやつらの下を行け -- バッドノウハウ専門家

読み込み中...