パスワードを忘れた? アカウント作成
この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。

死亡事故が発生したUberの自動運転システム、識別された物体の種類が変わるたびに履歴が破棄されて歩行者の進行方向が予測できなかった」記事へのコメント

  • by Anonymous Coward on 2019年11月09日 12時09分 (#3713423)

    履歴が破棄されるうんぬんはそこまで大きな問題じゃない

    「横断歩道以外の場所で横断する歩行者の存在が考慮されていなかった」
    という設計上の大欠陥に比べれば些事よ

    • by Anonymous Coward on 2019年11月09日 12時17分 (#3713433)

      べつに歩行者でもバイクでも(或いはロボットでも象でも)、横断する物体を検知できるんなら問題ない。

      「歩行者」の部分よりは「横断する物体が検出できない」というのが問題でしょう。

      親コメント
      • by Anonymous Coward on 2019年11月09日 12時51分 (#3713457)

        やっぱり「まず種別判定から入る」って設計が根本原因のような…
        LIDAR積んでる意味がない

        親コメント
        • 流石に種別判定から入ってて、変わったら履歴破棄ってのはありえん気がしてきた
          単に移動体追跡に失敗したために何度か見失って再認識をしたときに違う種類に認識をしてた、と言う話が
          記者とかを経るうちにこんな表現になっちゃったんじゃないかな…

          親コメント
          • by Anonymous Coward

            いや、普通にそんな話なんじゃないの?
            現実には人が車になったり自転車になったりはしないので、「人を見失って新たに車を認識した」って処理しちゃったんだろうと。
            だいたい、追跡って直前の近傍にある同様に見える物体を同一の物体として扱うって事だろうから、人と車を「同様の物体」とはしなかったんだろうなと。
            ただ、誤認する可能性を入れなかった、または低く見積もったのが間違いなんだろうけど、これ、あんまり低くすると、こんどは別の物体を同一の物体と誤認しやすくなって行動履歴の誤差が増える→予測を誤るって事にもつながりかね

        • by Anonymous Coward on 2019年11月10日 12時24分 (#3713867)

          LIDARって、あなたが思うほど精度のいいものじゃないんですよ。
          少なくとも、この事故が起きた時点のLIDARは精度が良くない。
          LIDAR単体ではそれが本当に障害物なのか、アーティファクトなのか判断できない。
          だから画像認識と絡めて総合的に障害物を特定する必要があり、「まず種別判定から入る」なんて処理になる。

          LIDARは距離精度は1cm単位で正確に測れるけど、縦横方向の空間分解能が低い。
          自動運転の開発車によく搭載されてる、Velodyneの円筒形の最高精度の奴で0.1度の角度分解能。
          それでも100m先で20cm弱でしかないから、これ以下のサイズの物は認識できない。
          だから縦横方向の空間分解能が高い普通のイメージセンサーと組み合わせて、お互いの欠点を補ってます。

          もちろん日進月歩で進化してるから、これから出てくるLIDARはもっと精度高くなるでしょう。
          でも、現時点ではこんな精度だというのは知っておいたほうが良いと思う。

          親コメント
    • by Anonymous Coward on 2019年11月09日 13時18分 (#3713474)

      前に
      ・毎日、決められた時間は歩行者専用道路
      ・(歩行者天国の時間帯は)バイク・自転車は走行禁止
      ・それ以外の時間帯は一方通行(2輪は除く、ではない)
      という場所で、歩行者天国の時間帯に一方通行を逆走してきたUber Eatsのバイクに腕をぶつけられて怪我をしたんだけど、Uberに通報したら「交通ルールの違反の報告と、事故の報告はわけてくれ(個別に別の担当が処理する)」と言われて呆れたことが。

      この記事見てるとさもありなんだなあ、とは思う。

      親コメント
    • by Anonymous Coward on 2019年11月09日 12時40分 (#3713449)

      その二つは欠陥としてはほぼ同じもの

      「その場所に障害物が存在するか」「その物体はどの個体であるか」という認知が「その物体が何に見えるか」から発しているのが問題
      最初に「不明な物体」を捉えた瞬間から、物体が最後に確認された位置が全てのセンサー範囲を出るまで、再識別や行動予測はさておいて
      例えば「物体1234番、おそらく自転車」などと同じ物体としてセンサーやシステムの間で追尾を引き継ぐようになっていなければならなかった

      歩行者を横断歩道外で認知する機能が付いていたとしても、「一瞬前まで自転車があった場所に歩行者が生まれたが、どちらに動くか分からない」
      などという判断をしていては意味がなく、「物体2345番の認識が歩行者に変わった。過去の移動履歴を歩行者として計算すると、進路はこう予測される。衝突の恐れがある」と
      時間的な一貫性や履歴を勘案した判断ができなければだめ

      親コメント
      • これやろなぁ
        相手が何だろうがまずぶつかったらやばいわけで、
        なにか分からなけりゃ避けるしかないんだから
        種類が変わったら履歴破棄はあかんすぎるやろう
        むしろこれで結構行けたのなら分別機が優秀なんだろうか

        親コメント
        • by Anonymous Coward

          いちいち飛んで来た木の葉とかビニール袋に反応して急ブレーキ掛けられたらたまらんけど。

          • 木の葉とかビニール袋みたいな軽くてあたっても大丈夫、と「分かれば」もちろんそのままぶつかればいいよね
            分からなかったときの話なんで
            サイズがいくら以下、とかである程度判断してもいいかもね

            親コメント
            • by Anonymous Coward

              サイズがいくら以下、とかである程度判断してもいいかもね

              飛んでくるロケット弾は小さな物体ぽいから特攻しますね!
              みたいなことになりかねない

              • by Anonymous Coward

                ロケット弾警戒しながら走ってんのか大変やな
                隕石とかも警戒したほうが良いで

              • by Anonymous Coward

                飛んでくるロケット弾は小さな物体ぽいから特攻しますね!
                みたいなことになりかねない

                飛んでくるロケット弾はどうせ避けることなんかできないから反応しなくていい。
                # そういう話じゃない?

              • by Anonymous Coward

                飛んでくる車 [sankei.com]は避けられるんだろうか

                #違う、そうじゃない

              • むしろ人間よりコンピュータのほうがまだ回避できそうですね

                親コメント
        • by Anonymous Coward

          どうだろうな。
          例えば相手が動物なら基本的には轢くことが正解であることが多いし。
          ただ、AIの操舵だと適切な運転ができそうな気もするけど、周辺環境の状況によるか

          • >相手が動物なら基本的には轢くことが正解であることが多いし。
            それはないw

            日本であってもカモシカやイノシシなんか相手に減速せずぶつかったら最悪廃車レベル。
            アメリカならもっとでかいヘラジカやバイソンもいるしクマも道路まで出てくるしで一層危険。

            --

            ψアレゲな事を真面目にやることこそアレゲだと思う。
            親コメント
          • う~ん。
            小動物と人間の子供(二足歩行とは限らない)を区別できるだろうか。

            親コメント
          • by Anonymous Coward

            「動物だから、轢くことが正しい」って判断がアリだとして
            「目の前にあるのは間違いない、動物に間違いない」って判断が前提に来るだろ
            よく分からんけど動物だったので結果オーライでは済まされない

          • by Anonymous Coward

            事件直後のストーリーで
            「ダンボールがあったら踏みつぶす」
            なんて馬鹿なこと言ってた人もいましたねー
            同類ですか?

        • by Anonymous Coward

          履歴を「破棄」っつーより「種類を起点に認識してる」って方が近いんではないかなと
          そして「物体がある→なんだろう」ではなく「人間が見える→物体がある」じゃ構文的に逆だよね

    • by Anonymous Coward

      そこはオペレータが対応することに期待してとかなんですかね
      まあオペレータがHulu見ているかもという考慮に比べれば想定してしかるべきケースですよね

      • by Anonymous Coward

        huluは論外だが
        自動運転中にも集中してろってのはある意味拷問

        • by Anonymous Coward on 2019年11月10日 0時02分 (#3713752)

          テストドライバーなのにそれができないなら引き受けるなってことですよ
          職務怠慢でしかない

          親コメント
          • by Anonymous Coward

            Uberはわざとそういうドライバーを採用してた疑いもあるけどな
            こういう事故の時に欠陥隠しに便利だから

    • by Anonymous Coward

      > 設計上の大欠陥
       
      人間側の大欠陥なのではないでしょうか?
       
      AI:ルールを守らない人間は排除

    • by Anonymous Coward

      大欠陥ではあるんだけど、なんとなく事情も分からないではない。
      LIDARの精度が悪い場合、何かがあるように見えてもそれが本当に障害物なのか、障害物のように見えてただの誤検出なのか分からない。
      だから画像認識とかAIを併用して、誤検出かどうか判定するのは普通の事。
      障害物検出のために、その前に画像認識が必要で、そこで「横断歩道以外の場所で横断する歩行者の存在が考慮されていなかった」というのは分かる。

      ただその後、判定不能に陥った後に、停止しなかったのは問題だと思う。
      普通はホワイトリスト方式で、判定不能を警告した後に安全側の処理をするのではないかな。
      ホワイトリスト方式だとまともに走行できないから、ブラックリスト方式にしたとかだと笑えない。

      • by Anonymous Coward

        物体認識するニューラルネットワークは二値の「判定不能」という出力は出さない
        「視野内(200, 200) から(300, 250)の範囲に物体あり」「自転車34%路駐33%その他20%の可能性、なお自信15%」のように出してくる
        それを「その他75%以上なら判定不能とする」「自信75%未満は異常とする」と後段で処理することは可能だが
        それをいくら云々しても「システムが視野内に物体なしと判断した」という風にやりくりすることは難しい

        今回のような事故事例があれば「視野内に障害物あり、なしの2クラス分類をするプログラム」を追加したり
        あるいは「視野内の運転可能エリアを塗りつぶして返すプログラム」を追加したりといった方法で対処することはできる

        • by Anonymous Coward

          >それを「その他75%以上なら判定不能とする」「自信75%未満は異常とする」と後段で処理することは可能だが

          いやいや、ほとんどすべてのDNNのシステムでそういう設計でしょう?
          80%とかある程度の確度をもって判定できなかった場合は判定不能と処理するよ。
          DNN単体で完結しているような実用システムは存在しないでしょう。

    • by Anonymous Coward

      いや大問題だと思うよ……
      ノイズで一瞬識別が乱れる度にイチから状況再認識とか馬鹿じゃねーのか。
      センシング環境をガチガチに整えてるファクトリオートメーション用の画像認識でだってノイズくらい想定するだろと。
      そこいらの野外で多種多様な認識を行うのに履歴破棄とか正気とは思えない。

      正常系以外を著しく軽視してるって意味では同根なんだろうが、にしても無茶苦茶。
      Uberクオリティとはいえここまで突き抜けてるとは………

    • by Anonymous Coward

      その前に、物体があると判定しているのに、避ける・停止するという動作をしなかったのか、というのが最大の問題じゃない?

      • by Anonymous Coward

        結局NTSBの調査が入るってのはそういうことで
        一つずつなら軽いトラブルで済んでたかもしれない欠陥が複数同時に存在、かつ発動して事故になってる
        単にとんでもない大穴が一個だけ開いていたなら彼らは動かない

一つのことを行い、またそれをうまくやるプログラムを書け -- Malcolm Douglas McIlroy

処理中...