アルゴリズムを野放しにするな 62
ストーリー by headless
アホリズム 部門より
アホリズム 部門より
eggy 曰く、
「アルゴリズムが世界を支配するとき」というBBC Newsの記事が本家で話題になっている(BBC Newsの記事、 本家/.)。
記事によるとアルゴリズムの専門家Kevin Slavin氏は、7月に開催されたTEDGlobalカンファレンスにおける講演で、アルゴリズムが生活全般に浸透していることについて警告したという。今年の4月、Amazonが新品書籍「The Making of a Fly」に2,360万ドルという価格を付けたことについて、人間の力を借りずに済むほど賢くなってしまったアルゴリズムによるちょっとした混乱だとSlavin氏は考えており、「大人が監視していなかったから、アルゴリズムがトラブルに巻き込まれた」と述べたとのこと。
2010年5月、ニューヨーク証券取引所のダウ工業株30種平均が5分間のうちに700ドルも下落した「フラッシュ・クラッシュ」もアルゴリズムが原因となっている。記事は「アルゴリズムがどれだけのことを知っているのか、我々にアルゴリズムを服従させるための時間が残されているのかを調べるべきときだ」と結んでいる。
何を言っているのかサッパリなんですが・・・ (スコア:3, すばらしい洞察)
それが世界を支配するのは当たり前の事でしょう
野放しにする、とか、服従させる、とか、
およそアルゴリズムに対して言うには不適当な言葉っぽいですが・・・
＃他の人が言ってる通り、人工知能と混同しているのでしょうか
Re:何を言っているのかサッパリなんですが・・・ (スコア:4, すばらしい洞察)
同じく。何を言ってるのかいまいち理解できませんでしたが。
自動的に何かを決定する類のプログラムが、社会的に大きな影響を与える場面で使われていること。
その際、人間による出力結果の確認と承認が省かれることが非常に多いということ。
プログラムにはしばしば癖や欠陥があって、人間なら導かない答えを導き出しうること。
そのあたりを問題にしているような気がしました。
けれど、その問題は、解決されないように思えます。
比較的重要なものだけに限ったとしても、人間がコンピュータの出力が妥当かどうかを逐一確認するのは現実的ではないでしょう。
特に、金融などスピードが要求される場面では、人間の承認を要求すること自体に無理があるでしょう。
なので、
> 「アルゴリズムがどれだけのことを知っているのか、我々にアルゴリズムを服従させるための時間が残されているのかを調べるべきときだ」
どのようなソフトウェアも、書いたとおりにしか動かないのだから、「アルゴリズム」は設計者が設計当時に気がついたことだけを知っている。そして「アルゴリズム」を監視し、出した答えをひとつひとつ検証する時間はない。
けれど「アルゴリズム」に付きっ切りのベビーシッターになるのではなく「アルゴリズム」がときに間違えるという現実を受け入れて、システムの混乱にいちいち惑わされないようになってこそ「アルゴリズムを服従」させたと言えるのではないか。それなら、まだいくらでも時間はある。
1を聞いて0を知れ!
Re:何を言っているのかサッパリなんですが・・・ (スコア:2)
言いたいことは
ソフトウェアにはバグ（＝実装ミスor設計ミス）がつきもので，誤動作する場合が多々ある．
この事実を忘れてしまうと，いつか痛い目に会うよ．気をつけようね．
という工学的には当たり前の事かも．
Re:何を言っているのかサッパリなんですが・・・ (スコア:1)
社会に出力するという状況」をもってアルゴリズムと称しているのではないでしょうか。
この意味で、杓子定規なお役所仕事などは人工知能的ではないけれどアルゴリズム的といえそうな気がします。
(数式)モデルのことかな？ (スコア:1)
たれこみで取り上げられてる問題は、人工知能というか、数式モデルの問題ですよね。
数式モデルが妥当でなかったり、適応範囲を超えて使ったり、そういうことによって引き起こされてる問題のような。
Re: (スコア:0)
＞ 野放しにする、とか、服従させる、とか、
＞ およそアルゴリズムに対して言うには不適当な言葉っぽい
加えて
肩書きが「アルゴリズムの専門家 (algorithm expert)」で、
言っていることは、大人が監視していなければ・・・。
具体的な、対案を挙げている訳でも無し、
って辺りから見ると「近頃の若い者は・・・」の一種じゃないでしょうか。
Re:何を言っているのかサッパリなんですが・・・ (スコア:1)
あらあら、おじいちゃん、さっきご飯食べたばっかりでしょお。
って奴ですね、わかります。
# 老害とアルツハイマーは紙一重
一方日本では (スコア:3, すばらしい洞察)
「アルゴリズム、なにそれ美味しいの？」
というコピペプログラマーが跳梁跋扈していた。
合い言葉は「動けばいいじゃない」。
野放しにしちゃいかんのは「アルゴリズム」ではなく、アルゴリズムも知らず
プログラムを制御することもできない「素人プログラマー」の方だと思う。
Re: (スコア:0)
アルゴリズムの定義に「どんな入力を与えても必ず止まること」というのがあったはずだから
動くだけではアルゴリズムとさえ言えないんだよね。
Re: (スコア:0)
Re: (スコア:0)
チューリングのは、あらゆる入力に対しては停止性を決定できるものはない、じゃないの?
Re: (スコア:0)
Re: (スコア:0)
世界的にトレンドは富豪プログラミングだっつーの。
アルゴリズム知らずの実例 (スコア:2, すばらしい洞察)
アルゴリズムを知らないことと, 富豪的プログラミングは直交した概念です.
適切なアルゴリズムを選択しなければ, 富豪的コンピュータ資源を有効に活用できません. また不適切なアルゴリズムを選択すれば, 数桁～数10桁程度の差のコンピュータ資源を簡単に消費し尽すことができます.
Re:アルゴリズム知らずの実例 (スコア:1, 興味深い)
もともと「富豪的プログラミング」というのは、GUIのユーザビリティを向上させるために、開発工数とコンピューター資源を投入する(ユーザビリティを向上させる機能は、たとえ重たい処理であっても、実装する価値がある）という話だったのに、単なる手抜きのことを指すようになってしまったのですね...
Re:アルゴリズム知らずの実例 (スコア:1, 興味深い)
手抜きと一括りにしちゃうと広すぎるかも。
富豪的プログラミングの考えには、計算機資源節約のための変態的な工夫をするのをやめて一番シンプルなアルゴリズムで書いてメンテのコストやバグを減らそう、というのもあったはず。それを手抜きというのなら、富豪的プログラミングと言っていい。
もちろん、まともなアルゴリズムを調べもせずに変な実装をする手抜きはダメだけどさ。
Re:一方日本では (スコア:2)
さすがに，富豪プログラミングでもO記法が同じ程度じゃないと許容されないと思うの．
ソートで言えば，必死こいてクイックソートを最適化する暇があるなら，マージソートでいいんじゃね的な話であって，バブルソートは富豪でも許容されないと思うの．
Re: (スコア:0)
Re: (スコア:0)
アルゴリズム体操を知ってて、多少なりとも意味を理解してりゃまだマシな希ガス
主客転倒 (スコア:2)
元々は必要最低限「だった」んだがなぁ。
それがいつの間にか主流になってる。
ようするに「アルゴリズム」が何か判ってないってことだな (スコア:2, すばらしい洞察)
で、その次は「世間一般ではアルゴリズムとは私の言ったことを指すのだっ」と叫び出すに違いない。
NHKのように。
fjの教祖様
Re:ようするに「アルゴリズム」が何か判ってないってことだな (スコア:1)
＞NHKのように。
てっきり体操を踊るのかと思いましたよ。
水を飲むと屁(CH4)をこきます
Re: (スコア:0)
行進するんじゃなくて？
Re:ここはサブジェクト (スコア:1)
このACには、サブジェクトとコメントの使い分けが「ちゃんとなされている」という前提に基づいて意味を考えなおして欲しいものである。
意味にズレを感じたら、その「ズレ」自体も意味のうちなのだよ。
fjの教祖様
御役所仕事と同じ事でしょ？ (スコア:2, すばらしい洞察)
手順厳守で運営される組織が馬鹿げた事を行うのは昔からあった話です。（例：御役所が１円の未納金の請求のために督促はがきを送付する。）
全体で観た時に効率化されていれば、部分的には「馬鹿げた事」「無駄な事」が行われても構わないと思います。
枝葉に拘って森を見ないのは……
notice : I ignore an anonymous contribution.
Re:御役所仕事と同じ事でしょ？ (スコア:1, 参考になる)
元記事あまり読めてないので、幾分か憶測ですが。
おそらく、「アルゴリズム」という抽象的な表現からみて、伝えたい内容は、「手順」の内面にある論理が不明瞭な点ではないでしょうか。
にも関わらず、根本的な論理の不明確な「手順」が現在の経済体制(特に金融とか)に大きな影響力を及ぼすようになっています。
例えば近年の金融危機を見て、「アルゴリズムが暴走している」と考えるのは、決して「枝葉に拘った」発想ではないと思います。
Re:御役所仕事と同じ事でしょ？ (スコア:1, 参考になる)
決まりがあったはず
#よくぎりぎりまで滞納していた
Re: (スコア:0)
金額的には馬鹿げてるけど
義務の徹底としては間違ってないのでは？
# そこまで考えてっやってる方たちとも思えんが結果オーライ
賢いアルゴリズムで動くものを野放しにするな (スコア:2)
すなわち、「バカに刃物を持たせるな」と。
太古の昔から言われていることだね。
問題の本質は社会システムにあり (スコア:2)
ロボットが浸透した世界でロボットが暴走するというのはSFではありふれた話。今回はロボットがアルゴリズムに置き換わっただけです。アルゴリズムというのは要するにロボットからボディを取り払ったものなので、ロボットよりも実現が早かったというだけの話ですね。これに対する答えは簡単でして、「暴走したロボットを強制終了できるような仕掛けを作りましょう」というのが一般的な答えになるでしょう。
しかしながら、株取引の話というのはアルゴリズムという純粋なテクノロジの問題というよりは、もっと大きな問題をはらんでいます。
アルゴリズム取引というのが出てきた背景として、以下が考えられます。
1.システムのIT化による手数料の低下
2.取引市場が大量のマネーでも一瞬でやりとりできるようにネットワーク化されている
3.取引用のAPIが公開されていてマッシュアップ可能
4.世界中にマネーが余っている
もともと1.2.はありまして、デイトレーディングが容易にできるようになったのはこの為です。このデイトレーディングの話の延長上に今回の話はあります。3.が加わって取引の自動化が可能になったということです。おまけに4.が加わることで社会への影響力が大きくなりました。
4.は社会の問題です。ほかはテクノロジーの問題ですが、これらも結局マネーの移動を容易にしたいという社会の要求によって生じたものです。私はこのような要求の正当性に疑問を感じます。デイトレーディングって要するに市場を舞台にしたギャンブルです。参加した当人たちにとっては、ギャンブルに負けたとしても、まあ自己責任ということですが、それが社会に影響を及ぼしてしまうというのは、社会にとっては迷惑でしかありません。
つまり、社会の発展に貢献しない、市場を賭博場化させるデイトレーディングなるものを野放ししているのが問題であり、これは社会の問題です。また、使い道のない余剰なマネーの存在も問題です。これも社会の問題です。
はっきり言って、問題の本質は社会のあり方です。アルゴリズムというテクノロジの問題は引き金でしかなく、本質的ではありません。社会システムこそ問題にすべきでしょう。
Re:問題の本質は社会システムにあり (スコア:1)
正体というのであれば
「俺がお前に千円貸すからお前は俺に千円貸してくれ。そうすれば何も無いところから”使える金”が二千円生まれたぜ！」
という資本主義の根幹が正体だ！
だからまず徳政令と共産化を(ry
人工知能？ (スコア:1, おもしろおかしい)
そう言うのか。
Re:人工知能？ (スコア:1, 興味深い)
人工知能はむしろ、できるだけアルゴリズムは簡素にして、
データさえたくさん与えれば賢くなる(はずだ)ぜ、っていう話かと思っていました。
今回のは、かなり剥き出しのアルゴリズムというか、
別に「コンピュータまかせ」とか「機械まかせ」って言えばいいだけみたいに思います。
Re: (スコア:0)
とりあえず (スコア:1)
健全な精神は健全な肉体に宿る(因果ではなく
壮観相関?)らしいので、体操でもさせておきましょう。# これが本当のアルゴ(ドカドカ
M-FalconSky (暑いか寒い)
HESPER system (スコア:1, 興味深い)
コンピュータに土木工事を要求すると、もう中のアルゴリズムを把握できないほど複雑になったシステムは、そこを爆撃するよう決定するかもしれないぞ、と。
Re:HESPER system (スコア:1)
ホーガンですか．懐かしい．
逆転 (スコア:0)
数式処理のシステムなんかは、既にそこいらの学生より
よっぽど優秀に微積分の問題をこなすという話を聞いたことがあります。
Re:逆転 (スコア:2)
>そのうち、アルゴリズムの方が標準的な人間より賢くなるんじゃない。
賢くって表現はどうかと思うが
>よっぽど優秀に微積分の問題をこなすという話を聞いたことがあります。
そりゃ当然じゃないの？定番のアルゴリズムなんて頭のいいひとが昔考えてから
長い間使われるんだから、標準的な人間よりもある意味優秀と言えるでしょ？
もっとも今回言われる”アルゴリズム”はノイマン型コンピュータに対してのアルゴリズムだから
一概に人間と比較することもできない気がするけど。
##なんかアルゴリズムって使い方に違和感を感じる…
##Amazonの件にしても単純なアルゴリズムが複雑なシステム内で予想していなかった振る舞いをしたってだけで
##アルゴリズムの混乱？
Re:逆転 (スコア:2, 興味深い)
>なんかアルゴリズムって使い方に違和感を感じる…
うん、そう思う。
たぶん、今話題になっているのは、「ある固定された問題についての論理」＝数式＝ロジックではないか？と思う。
期待しているのは、「問題の可否／正否を含めて解く筋道」＝「至高方式」＝アルゴリズムなんだけど思う。
そして、アルゴリズムの組み立てにて採用／不採用されるロジックという断片について、アルゴリズムだと考えてしまうことは、ありえるだろうし、ある局面(おおくは、当面とか現在という局面)にて正答を導きだしたロジックを、アルゴリズムと思い込んでいただけではないか？とも思う。
Re: (スコア:0)
複雑な手順を厳密に適用すればいいような場合には、ソフトウェアで実装した方がいい。
想定外の事態にもその場で対処法を考えてそれなりに対応しないといけない場合には、人間がやった方がいい。
数式処理は前者に相当するような場合なのでしょう。
だからといって、どんな処理もソフトウェアでやったほうがいいということには、ならない。
ニンゲンのアルゴリズム (スコア:0)
まずは2種類
10 一歩進んで偉いヒト
20 ひっくり返ってぺこりんこ
30 GOTO 10
10 一歩も進まず横にならえ
20 GOTO 10
大人が監視していなかったから、アルゴリズムがトラブルに巻き込まれた (スコア:0)
Re:大人が監視していなかったから、アルゴリズムがトラブルに巻き込まれた (スコア:3, 興味深い)
人生は七転び八起き、一日は早寝早起き
株やってると (スコア:0)
人の手じゃこんなにすばやく対応できない｡
株でも先物でもこういう相場物はどんどんｱﾙｺﾞが進出してくるんだろう｡
FXももうやってあるのかな?
規制といっても､やってることは人手で出来ることをとてもすばやくとても効率的にとても長時間やってるだけだからなあ｡速度規制するくらいしかないのかな｡っつーか規制必要なのかもわからないけど｡
後ｱﾙｺﾞってのはｺﾄにどう対応するか､その方式･手順をどう取り決めるかってことだから､人工知能だの機械まかせってのより､ｱﾙｺﾞってのが的確じゃないかな｡同じ株に対するｱﾙｺﾞでも儲け方や動き方をどう考えるかでいろんなｱﾙｺﾞがあるわけで｡
Re: (スコア:0)
よくある話だと思うけど (スコア:0)
最近の/.Jでも関連ストーリーがある
金融取引システムにおいて支配的なポジションを得たLinux [srad.jp]
「もっとも高給」といわれるHFTプログラマになるにはどうすればよい？ [srad.jp]
大手HFの金融工学を駆使して高速動作するシステムもあれば、個人レベルのFX自動取引も珍しくない
この記事が何を言っているのかよくわからないが、 (スコア:0)
もしそうであるなら、これを野放しにするのは危険かもしれない。
金融だけじゃないですか？ (スコア:0)
自立型のロボットがそのへんを徘徊しているターミネーターの未来のような世界ならまだ分かるんですけど、
いまのところ金融取引が自動化されて、そのコアにアルゴリズムがあるだけなんじゃあ。。
それ以外の領域でアルゴリズムが人間の行動に多大な影響を及ぼすところまで至ってない、はず、と思う。
ところで、最近のGoogleで「夫」（+スペース）って入力すると、候補一覧に「嫌い」「死ね」「死んでほしい」って出るんですね。
問題の本質がわかってないやつばかり (スコア:0)