パスワードを忘れた? アカウント作成
357617 story
ソフトウェア

アルゴリズムを野放しにするな 62

ストーリー by headless
アホリズム 部門より

eggy 曰く、

「アルゴリズムが世界を支配するとき」というBBC Newsの記事が本家で話題になっている(BBC Newsの記事本家/.)。

記事によるとアルゴリズムの専門家Kevin Slavin氏は、7月に開催されたTEDGlobalカンファレンスにおける講演で、アルゴリズムが生活全般に浸透していることについて警告したという。今年の4月、Amazonが新品書籍「The Making of a Fly」に2,360万ドルという価格を付けたことについて、人間の力を借りずに済むほど賢くなってしまったアルゴリズムによるちょっとした混乱だとSlavin氏は考えており、「大人が監視していなかったから、アルゴリズムがトラブルに巻き込まれた」と述べたとのこと。

2010年5月、ニューヨーク証券取引所のダウ工業株30種平均が5分間のうちに700ドルも下落した「フラッシュ・クラッシュ」もアルゴリズムが原因となっている。記事は「アルゴリズムがどれだけのことを知っているのか、我々にアルゴリズムを服従させるための時間が残されているのかを調べるべきときだ」と結んでいる。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • アルゴリズムは理屈や理論といったロジックを具体化したものなので、
    それが世界を支配するのは当たり前の事でしょう

    野放しにする、とか、服従させる、とか、
    およそアルゴリズムに対して言うには不適当な言葉っぽいですが・・・

    #他の人が言ってる通り、人工知能と混同しているのでしょうか
    • 同じく。何を言ってるのかいまいち理解できませんでしたが。

      自動的に何かを決定する類のプログラムが、社会的に大きな影響を与える場面で使われていること。
      その際、人間による出力結果の確認と承認が省かれることが非常に多いということ。
      プログラムにはしばしば癖や欠陥があって、人間なら導かない答えを導き出しうること。
      そのあたりを問題にしているような気がしました。

      けれど、その問題は、解決されないように思えます。
      比較的重要なものだけに限ったとしても、人間がコンピュータの出力が妥当かどうかを逐一確認するのは現実的ではないでしょう。
      特に、金融などスピードが要求される場面では、人間の承認を要求すること自体に無理があるでしょう。

      なので、
      > 「アルゴリズムがどれだけのことを知っているのか、我々にアルゴリズムを服従させるための時間が残されているのかを調べるべきときだ」

      どのようなソフトウェアも、書いたとおりにしか動かないのだから、「アルゴリズム」は設計者が設計当時に気がついたことだけを知っている。そして「アルゴリズム」を監視し、出した答えをひとつひとつ検証する時間はない。
      けれど「アルゴリズム」に付きっ切りのベビーシッターになるのではなく「アルゴリズム」がときに間違えるという現実を受け入れて、システムの混乱にいちいち惑わされないようになってこそ「アルゴリズムを服従」させたと言えるのではないか。それなら、まだいくらでも時間はある。

      --
      1を聞いて0を知れ!
      親コメント
    • 言いたいことは

      ソフトウェアにはバグ(=実装ミスor設計ミス)がつきもので,誤動作する場合が多々ある.
      この事実を忘れてしまうと,いつか痛い目に会うよ.気をつけようね.

      という工学的には当たり前の事かも.

      親コメント
    • もしかしたら「入力に対して機械的手順が得た結果を(責任のとれる)人間の判断を経ずに
      社会に出力するという状況」をもってアルゴリズムと称しているのではないでしょうか。

      この意味で、杓子定規なお役所仕事などは人工知能的ではないけれどアルゴリズム的といえそうな気がします。
      親コメント
    • by ken2 (27347) on 2011年08月28日 17時21分 (#2010548)

      たれこみで取り上げられてる問題は、人工知能というか、数式モデルの問題ですよね。
      数式モデルが妥当でなかったり、適応範囲を超えて使ったり、そういうことによって引き起こされてる問題のような。

      親コメント
    • by Anonymous Coward

        > 野放しにする、とか、服従させる、とか、
        > およそアルゴリズムに対して言うには不適当な言葉っぽい
      加えて

      肩書きが「アルゴリズムの専門家 (algorithm expert)」で、
      言っていることは、大人が監視していなければ・・・。
      具体的な、対案を挙げている訳でも無し、

      って辺りから見ると「近頃の若い者は・・・」の一種じゃないでしょうか。
  • 一方日本では (スコア:3, すばらしい洞察)

    by firewheel (31280) on 2011年08月28日 14時02分 (#2010480)

    「アルゴリズム、なにそれ美味しいの?」
    というコピペプログラマーが跳梁跋扈していた。

    合い言葉は「動けばいいじゃない」。

    野放しにしちゃいかんのは「アルゴリズム」ではなく、アルゴリズムも知らず
    プログラムを制御することもできない「素人プログラマー」の方だと思う。

    • by Anonymous Coward

      アルゴリズムの定義に「どんな入力を与えても必ず止まること」というのがあったはずだから
      動くだけではアルゴリズムとさえ言えないんだよね。

      • by Anonymous Coward
        チューリングの停止性問題は解けないことが証明されてるわけだが。
        • by Anonymous Coward

          チューリングのは、あらゆる入力に対しては停止性を決定できるものはない、じゃないの?

      • by Anonymous Coward
        そんな定義ない。
    • by Anonymous Coward

      世界的にトレンドは富豪プログラミングだっつーの。

      • by SteppingWind (2654) on 2011年08月28日 17時47分 (#2010561)

        アルゴリズムを知らないことと, 富豪的プログラミングは直交した概念です.

        適切なアルゴリズムを選択しなければ, 富豪的コンピュータ資源を有効に活用できません. また不適切なアルゴリズムを選択すれば, 数桁~数10桁程度の差のコンピュータ資源を簡単に消費し尽すことができます.

        親コメント
        • by Anonymous Coward on 2011年08月28日 18時51分 (#2010587)

          もともと「富豪的プログラミング」というのは、GUIのユーザビリティを向上させるために、開発工数とコンピューター資源を投入する(ユーザビリティを向上させる機能は、たとえ重たい処理であっても、実装する価値がある)という話だったのに、単なる手抜きのことを指すようになってしまったのですね...

          親コメント
          • by Anonymous Coward on 2011年08月29日 2時13分 (#2010697)

            手抜きと一括りにしちゃうと広すぎるかも。

            富豪的プログラミングの考えには、計算機資源節約のための変態的な工夫をするのをやめて一番シンプルなアルゴリズムで書いてメンテのコストやバグを減らそう、というのもあったはず。それを手抜きというのなら、富豪的プログラミングと言っていい。

            もちろん、まともなアルゴリズムを調べもせずに変な実装をする手抜きはダメだけどさ。

            親コメント
      • by khwarizmi (23623) on 2011年08月29日 22時39分 (#2011364)

        さすがに,富豪プログラミングでもO記法が同じ程度じゃないと許容されないと思うの.

        ソートで言えば,必死こいてクイックソートを最適化する暇があるなら,マージソートでいいんじゃね的な話であって,バブルソートは富豪でも許容されないと思うの.

        親コメント
    • by Anonymous Coward
      え、日本でアルゴリズムといえば体操でしょ?
      • by Anonymous Coward

        アルゴリズム体操を知ってて、多少なりとも意味を理解してりゃまだマシな希ガス

  • by darknight (14354) on 2011年08月28日 13時20分 (#2010462) 日記

    元々は必要最低限「だった」んだがなぁ。
    それがいつの間にか主流になってる。

  • で、その次は「世間一般ではアルゴリズムとは私の言ったことを指すのだっ」と叫び出すに違いない。
    NHKのように。

    --
    fjの教祖様
  • by Dobon (7495) on 2011年08月28日 13時34分 (#2010472) 日記
    アルゴリズムとは「固定化された手順」を指す言葉。
    手順厳守で運営される組織が馬鹿げた事を行うのは昔からあった話です。(例:御役所が1円の未納金の請求のために督促はがきを送付する。)

    全体で観た時に効率化されていれば、部分的には「馬鹿げた事」「無駄な事」が行われても構わないと思います。
    枝葉に拘って森を見ないのは……
    --
    notice : I ignore an anonymous contribution.
    • by Anonymous Coward on 2011年08月28日 14時08分 (#2010482)

      元記事あまり読めてないので、幾分か憶測ですが。
      おそらく、「アルゴリズム」という抽象的な表現からみて、伝えたい内容は、「手順」の内面にある論理が不明瞭な点ではないでしょうか。
      にも関わらず、根本的な論理の不明確な「手順」が現在の経済体制(特に金融とか)に大きな影響力を及ぼすようになっています。
      例えば近年の金融危機を見て、「アルゴリズムが暴走している」と考えるのは、決して「枝葉に拘った」発想ではないと思います。

      親コメント
    • by Anonymous Coward on 2011年08月28日 15時31分 (#2010508)
      たしか税金の場合は1000円以下は請求しないという
      決まりがあったはず
      #よくぎりぎりまで滞納していた
      親コメント
    • by Anonymous Coward
      <blockquote>例:御役所が1円の未納金の請求のために督促はがきを送付する</blockquote>

      金額的には馬鹿げてるけど
      義務の徹底としては間違ってないのでは?

      # そこまで考えてっやってる方たちとも思えんが結果オーライ
  • と言いたいだけだね。
    すなわち、「バカに刃物を持たせるな」と。
    太古の昔から言われていることだね。
  • ロボットが浸透した世界でロボットが暴走するというのはSFではありふれた話。今回はロボットがアルゴリズムに置き換わっただけです。アルゴリズムというのは要するにロボットからボディを取り払ったものなので、ロボットよりも実現が早かったというだけの話ですね。これに対する答えは簡単でして、「暴走したロボットを強制終了できるような仕掛けを作りましょう」というのが一般的な答えになるでしょう。

    しかしながら、株取引の話というのはアルゴリズムという純粋なテクノロジの問題というよりは、もっと大きな問題をはらんでいます。

    アルゴリズム取引というのが出てきた背景として、以下が考えられます。

    1.システムのIT化による手数料の低下
    2.取引市場が大量のマネーでも一瞬でやりとりできるようにネットワーク化されている
    3.取引用のAPIが公開されていてマッシュアップ可能
    4.世界中にマネーが余っている

    もともと1.2.はありまして、デイトレーディングが容易にできるようになったのはこの為です。このデイトレーディングの話の延長上に今回の話はあります。3.が加わって取引の自動化が可能になったということです。おまけに4.が加わることで社会への影響力が大きくなりました。

    4.は社会の問題です。ほかはテクノロジーの問題ですが、これらも結局マネーの移動を容易にしたいという社会の要求によって生じたものです。私はこのような要求の正当性に疑問を感じます。デイトレーディングって要するに市場を舞台にしたギャンブルです。参加した当人たちにとっては、ギャンブルに負けたとしても、まあ自己責任ということですが、それが社会に影響を及ぼしてしまうというのは、社会にとっては迷惑でしかありません。

    つまり、社会の発展に貢献しない、市場を賭博場化させるデイトレーディングなるものを野放ししているのが問題であり、これは社会の問題です。また、使い道のない余剰なマネーの存在も問題です。これも社会の問題です。

    はっきり言って、問題の本質は社会のあり方です。アルゴリズムというテクノロジの問題は引き金でしかなく、本質的ではありません。社会システムこそ問題にすべきでしょう。

  • 人工知能? (スコア:1, おもしろおかしい)

    by Anonymous Coward on 2011年08月28日 13時00分 (#2010455)
    昔、人工知能、今、アルゴリズム。
    そう言うのか。
    • by Anonymous Coward on 2011年08月28日 13時21分 (#2010465)
      株とかAmazonの価格とかって、人工知能みたいなことやってるんですか?
      人工知能はむしろ、できるだけアルゴリズムは簡素にして、
      データさえたくさん与えれば賢くなる(はずだ)ぜ、っていう話かと思っていました。
      今回のは、かなり剥き出しのアルゴリズムというか、
      別に「コンピュータまかせ」とか「機械まかせ」って言えばいいだけみたいに思います。
      親コメント
    • by Anonymous Coward
      そうだね、Web ページ全般をホームページというくらい違和感のある使い方。
  • 健全な精神は健全な肉体に宿る(因果ではなく壮観相関?)らしいので、体操でもさせておきましょう。

    # これが本当のアルゴ(ドカドカ

    --
    M-FalconSky (暑いか寒い)
  • HESPER system (スコア:1, 興味深い)

    by Anonymous Coward on 2011年08月28日 21時27分 (#2010618)

    コンピュータに土木工事を要求すると、もう中のアルゴリズムを把握できないほど複雑になったシステムは、そこを爆撃するよう決定するかもしれないぞ、と。

  • by Anonymous Coward on 2011年08月28日 13時21分 (#2010464)
    そのうち、アルゴリズムの方が標準的な人間より賢くなるんじゃない。
    数式処理のシステムなんかは、既にそこいらの学生より
    よっぽど優秀に微積分の問題をこなすという話を聞いたことがあります。
    • by nci (34333) on 2011年08月28日 13時43分 (#2010475)

      >そのうち、アルゴリズムの方が標準的な人間より賢くなるんじゃない。
      賢くって表現はどうかと思うが

      >よっぽど優秀に微積分の問題をこなすという話を聞いたことがあります。
      そりゃ当然じゃないの?定番のアルゴリズムなんて頭のいいひとが昔考えてから
      長い間使われるんだから、標準的な人間よりもある意味優秀と言えるでしょ?

      もっとも今回言われる”アルゴリズム”はノイマン型コンピュータに対してのアルゴリズムだから
      一概に人間と比較することもできない気がするけど。

      ##なんかアルゴリズムって使い方に違和感を感じる…
      ##Amazonの件にしても単純なアルゴリズムが複雑なシステム内で予想していなかった振る舞いをしたってだけで
      ##アルゴリズムの混乱?

      親コメント
      • Re:逆転 (スコア:2, 興味深い)

        by d16 (42817) on 2011年08月28日 16時09分 (#2010522) 日記

        >なんかアルゴリズムって使い方に違和感を感じる…

        うん、そう思う。
        たぶん、今話題になっているのは、「ある固定された問題についての論理」=数式=ロジックではないか?と思う。
        期待しているのは、「問題の可否/正否を含めて解く筋道」=「至高方式」=アルゴリズムなんだけど思う。
        そして、アルゴリズムの組み立てにて採用/不採用されるロジックという断片について、アルゴリズムだと考えてしまうことは、ありえるだろうし、ある局面(おおくは、当面とか現在という局面)にて正答を導きだしたロジックを、アルゴリズムと思い込んでいただけではないか?とも思う。

        親コメント
    • by Anonymous Coward

      複雑な手順を厳密に適用すればいいような場合には、ソフトウェアで実装した方がいい。
      想定外の事態にもその場で対処法を考えてそれなりに対応しないといけない場合には、人間がやった方がいい。

      数式処理は前者に相当するような場合なのでしょう。
      だからといって、どんな処理もソフトウェアでやったほうがいいということには、ならない。

  • by Anonymous Coward on 2011年08月28日 13時43分 (#2010476)

    まずは2種類

    10 一歩進んで偉いヒト
    20 ひっくり返ってぺこりんこ
    30 GOTO 10

    10 一歩も進まず横にならえ
    20 GOTO 10

  • Amazonのプログラマーは自分の作ったものにそこまで人格があると知ってびっくりしたでしょうね。
  • by Anonymous Coward on 2011年08月28日 14時31分 (#2010489)
    最近株で板見てると、完全にアルゴだなあ、と判る振る舞いがたくさんあるね。
    人の手じゃこんなにすばやく対応できない。
    株でも先物でもこういう相場物はどんどんアルゴが進出してくるんだろう。
    FXももうやってあるのかな?
    規制といっても、やってることは人手で出来ることをとてもすばやくとても効率的にとても長時間やってるだけだからなあ。速度規制するくらいしかないのかな。っつーか規制必要なのかもわからないけど。
    後アルゴってのはコトにどう対応するか、その方式・手順をどう取り決めるかってことだから、人工知能だの機械まかせってのより、アルゴってのが的確じゃないかな。同じ株に対するアルゴでも儲け方や動き方をどう考えるかでいろんなアルゴがあるわけで。
    • by Anonymous Coward
      完全にアルゴだなあと判る振る舞いって、例えばどんなんアルゴ?
  • by Anonymous Coward on 2011年08月28日 15時46分 (#2010512)

    最近の/.Jでも関連ストーリーがある

    金融取引システムにおいて支配的なポジションを得たLinux [srad.jp]
    「もっとも高給」といわれるHFTプログラマになるにはどうすればよい? [srad.jp]

    大手HFの金融工学を駆使して高速動作するシステムもあれば、個人レベルのFX自動取引も珍しくない

  • by Anonymous Coward on 2011年08月28日 15時53分 (#2010517)
    BBC Newsが記事を生成するアルゴリズムか、掲載する記事を決定するアルゴリズムか、記事を配信するアルゴリズムか、どこかのアルゴリズムに問題があるのではないだろうか。
    もしそうであるなら、これを野放しにするのは危険かもしれない。
  • by Anonymous Coward on 2011年08月28日 16時29分 (#2010534)

    自立型のロボットがそのへんを徘徊しているターミネーターの未来のような世界ならまだ分かるんですけど、
    いまのところ金融取引が自動化されて、そのコアにアルゴリズムがあるだけなんじゃあ。。
    それ以外の領域でアルゴリズムが人間の行動に多大な影響を及ぼすところまで至ってない、はず、と思う。

    ところで、最近のGoogleで「夫」(+スペース)って入力すると、候補一覧に「嫌い」「死ね」「死んでほしい」って出るんですね。

  • by Anonymous Coward on 2011年08月28日 18時32分 (#2010576)
    問題はアルゴリズム未満の人間もどきが多すぎることだろ。人間>アルゴリズム>もどき、みたいな身分制度を作らないとね。
typodupeerror

クラックを法規制強化で止められると思ってる奴は頭がおかしい -- あるアレゲ人

読み込み中...