パスワードを忘れた? アカウント作成
15363868 story
変なモノ

テスラのAutopilot、月と黄色信号の区別ができない 121

ストーリー by nagazou
誤認識 部門より
以前、テスラ(Tesla)製の車両に搭載されていたナビゲーションシステムが、前走する車両の荷台に積載されていた信号機を誤認識するトラブルがあったが、今度は空中に浮かぶ月を信号として誤認識したというトラブルが報告されている(ViralHogさんの動画)。

ViralHogさんがYouTubeにアップした動画によれば2021年7月22日、同氏がテスラのフルセルフドライビングのサブスクリプションを購入した直後、地元の4車線の高速道路で試験走行していたところ、通常は前走者がいなければ設定速度を完璧に維持するのに、なぜかなにもない場所で速度を落とそうとする挙動を見せたという。

ナビゲーションシステムがの画面にはなぜか黄色の信号が点滅するように表示され、ふとそれを見上げてみると空中には通常よりも少し黄色やオレンジ色に見える月が存在していたそうだ。ノースカロライナ州では火事の煙で厚いカスミがかかっていたことから、月が黄色の点滅する信号と勘違いさせたものと見られている。

この議論は賞味期限が切れたので、アーカイブ化されています。 新たにコメントを付けることはできません。
  • by tamaco (19059) on 2021年08月01日 16時33分 (#4082184)

    フレーム問題 [wikipedia.org]は現実世界に近い環境で機械が判断する状況になるにつれて顕在化するんだろうな

  • 「UFOに追い掛けられてる」と主張してるヤツが指差したモノは……夕暮れ時の空に輝く金星だった、って話を思い出さんでも無し。

    でも、マジな話、人間様が車を運転する場合も「一見、車の運転と関係ない『常識』」こそが極めて重要な役割を果たしてるんじゃなかろうか?
    「車の自動運転をするAI」みたいな単機能だけど人の命に関わるAIを作ろうとした場合こそ、逆に「人間を丸ごと再現したAI」を作んないといけなくなったりして……。

  • by hohoho (14727) on 2021年08月01日 11時29分 (#4082058)
    人間でもミスをするし、飲酒運転なんかも出来ちゃうし、
    トータルの安全性は、保険会社の保険料が一番性格なのかな?
  • by Anonymous Coward on 2021年07月31日 8時40分 (#4081395)

    テスラだから許されていると言うかは諦められている。
    これがもしトヨタとかベンツとかが許す許さない以前にこんなもん出せないレベル。
    先進的云々よりもまず安全性の面で出直してこいと叩かれるけど聞く耳もたないだろうな。イーロンマスクの会社だし。

    • by Anonymous Coward on 2021年07月31日 9時37分 (#4081415)

      テスラの商売は、ユーザーに車を売ることではなく、出資者(株主)に「先進的な会社だ」というイメージを売ることなので、トヨタやベンツと比較してはいけない。

      安愚楽牧場や円天に比べればガチで頑張ってる良い会社じゃね?

      親コメント
    • by Anonymous Coward

      これを思い出した。

      【MacBook Air分解その5】「外は無駄なし,中身は無駄だらけ」
      https://xtech.nikkei.com/dm/article/NEWS/20080217/147537/ [nikkei.com]

      • by Anonymous Coward

        結局アップルに置いてかれた日本のパソコンメーカーみたいにトヨタも置いてかれると?

        • by Anonymous Coward

          日本のパソコンメーカーっていつAppleに置いてかれたんですか?
          Apple信者の方には受け入れがたい不都合な真実かもしれませんが
          天下のApple様は昨年も5.5%とか言う糞みたいなシェアですよ
          https://iphone-mania.jp/news-349872/ [iphone-mania.jp]

          昔からですが、むしろAppleの方が置いてかれてないですか?
          結局、クソ設計するような自称テクノロジーメーカーは、いくら上辺を取り繕っても普及はしない。
          ってだけじゃないかと思いますよ。

          • by Anonymous Coward

            日本のパソコンメーカーってその他にまとめられてるやつだよ。
            あとは全部外資傘下だよ。

      • by Anonymous Coward

        > 「技術的にすごいと感じるところは一つもない。我々ならもっと安く作れる」

        じゃあなんで売値はあんなに高いんだよw

        • by Anonymous Coward

          絶対的な出荷数量が少ない安くできないだけ

      • by Anonymous Coward

        (ねじ止めや切削加工のような)「製造コストをかけている」ことを「無駄」というかどうかは主観評価だと思う。
        企業としてはかけたコストを回収できる売価を設定して、それで売れるんなら問題ないことになる。

        安物としてしか売れないから必死で見えないところまで全方位的にコストダウンせざるを得ず、
        ユーザー目線では得にならないところにリソースを突っ込んでいるところが自分たちの問題なのだというところに気付け。
        (っていうか、これはひと昔前に書かれた記事か。あいほんで筐体を切削加工していたのを見たらショック死してるな、この技術者)

    • by Anonymous Coward

      天下一品(ラーメン屋)と道路標識を区別できないのは日本車じゃないっけと思って検索したけど、
      ホンダだったのでトヨタやベンツの許される許されないには影響なしだった…

    • by Anonymous Coward

      スラドには必死でテスラたたいてる奴要るけど、ガラケーがスマホになぎ払われたように
      トヨタさんもテスラにやられまくる未来が待ってるぞ。

      • by Anonymous Coward

        ガラケーがスマホになぎ払われた

        悪貨が良貨を駆逐したと個人的には思っている。
        #異論反論は認める!

    • by Anonymous Coward

      トヨタとかベンツのクオリティでものづくりなめてない扱いになるのか。
      お前ものづくりなめてんな。

  • オートパイロットって大変だな

    • それだと信号機の奥に月がある場合にその信号を無視することになりませんか?

      親コメント
      • by Anonymous Coward

        環境情報を得るためのカメラが複数台なら結構な場合で大丈夫にできるはず
        月が緑色にも光ってくるなら大丈夫じゃない場合に切り替わってしまうが

    • by Anonymous Coward

      そんな高尚な話ではなく、距離計算をしないテスラが悪い。
      LIDAR等の距離を直接測れるセンサで計測するか、画像の視差から距離を計算すればいい。
      普通は画像+距離情報から位置とサイズを計算して、画像情報と合わせてそれが何かを判断する。
      テスラがなぜそれをやってないのかは、私にはわからない。

      • by Anonymous Coward on 2021年07月31日 11時45分 (#4081479)

        マジレスしますね。結論から言うと、現状の測距センサでは、信号認識に使えるような高解像度な撮影はできません。

        前提として、100km/hで走行している車の制動距離は120mとかですので、大体200m程度先から信号認識を行う必要があります。
        この時問題となってくるのが、センサの分解能です。例として挙げていただいてるLiDARセンサとステカメの2つで考えてみましょう。

        まず、LiDARセンサですが、良く使われているVelodyne社のセンサでも、分解能は0.1degなので、200m先では大体30cm程の分解能にります。https://www.argocorp.com/cam/special/Velodyne/VLS-128.html
        これでは信号機が取れたとしても点群としては1点取れるか取れないかですので、ノイズかどうかが判別できません。つまりLiDARは信号認識には使えません。

        次に、ステカメです。eye-sightなど一般的な車載向けのステカメのスペックを見てみると、基線長は0.2m-0.35m、解像度1920x1080、水平画角40-50deg辺りが一般的です。
        基線長をより長くしたり、水平画角を狭くしたりすれば遠方をより高解像度に撮影できますが、今度は近距離が撮影できなくなるので、バランスを取ってこのくらいのスペックにしているようです。https://ja.wikipedia.org/wiki/EyeSight
        このスペックでどのくらいの分解能が出せるかですが、1画素あたりが0.02度の分解能なので、200m先では大体7cm程の解像度になります。信号機のサイズは30cm程ですので、大体5画素程で撮影できるわけです。LiDARよりはマシですね。
        ところが、落とし穴があります。ステカメは原理的にノイズが発生しやすいため、撮影後にmedian-filterやspeckle-filterを掛けてノイズを除去するのが一般的です。すると、5画素程度しか撮影されていない信号機は、最終的にこれらのfilterでノイズとして除去されてしまいます。

        つまり、LiDARでもステカメでも現状の測距センサで200m先の信号機を、認識に使えるようなまともな分解能では撮影できません。だからテスラはそれが出来ない。そう言うことです。
        測距センサの分解能の現実を知らないと、なんでもて来てしまいそうですが、実際には上手く行きません。

        親コメント
        • by Anonymous Coward

          あなたは極論ばっかり書くのね。
          200m先の信号機を距離センサ単体で信号機と認識する必要はないんですよ。

          カメラの視差というのも、空間的な物だけでなく時間方向もあります。
          自車の走行速度に対して位置と大きさが変化しないものは非常に遠方にあると処理できます。
          距離センサと画像センサの出力を総合して、対処必要な物体かどうかを判断するのが一般的です。

          • by Anonymous Coward

            距離センサ使えば出来るって嘯いたのはあなたじゃないですか(汗

            距離センサでは無くて、走行距離と単眼カメラのoptical flowを組み合わせて距離を推定すれば、近くにあるか非常に遠方にある か判断できると言うのは、その通りだと思いますよ。

  •  走っている状態では、月は車と同じ速度で動いているように見えているはず。

     にもかかわらず信号と認識するということは、AIの考える信号の定義がおかしいのではないか。

    #この辺がブラックボックスでさわれないのが深層学習AIの大きな弱点だよねぇ……。

  • by Anonymous Coward on 2021年07月31日 8時23分 (#4081385)

    月のせいにすルナ

    • by Anonymous Coward

      月に代わっておしおきよ!

  • by Anonymous Coward on 2021年07月31日 8時26分 (#4081387)

    力技悪ハック蔓延るオカン!!

  • by Anonymous Coward on 2021年07月31日 8時35分 (#4081391)

    鉄道の信号にどう反応するか興味あるな

    • by Anonymous Coward on 2021年07月31日 14時22分 (#4081567)

      鉄道の信号にどう反応するか

      それな。道路に並行して、柵ひとつ挟んで鉄道の線路、とかあるとヤバそう。

      日本だと更に、鉄道の信号が複雑な場所もある。

      [赤][黄][青]
      だけじゃなく、

      [黄][赤][黄][青]
      みたいなやつ。(実際には縦配置だけど)

      ちなみに動作は、
      [ ][赤][ ][ ] →止まれ
      [黄][ ][黄][ ] →警戒してすごくゆっくり走れ
      [ ][ ][黄][ ] →ゆっくり走れ
      [黄][ ][ ][青] →少しゆっくり走れ
      [ ][ ][ ][青] →普通に走ってOK
      みたいな感じ。こんな切り替わり見たらテスラ車、発狂するんじゃね?

      親コメント
  • by Anonymous Coward on 2021年07月31日 8時53分 (#4081401)
    池袋西口へ行く道の街灯がなぜかナトリウム灯のような色で、バイクで走っていたら街灯がいきなり赤信号に変わってビックリしたことがあります。
    いつのまにか普通の街灯の色になってました。
  • by Anonymous Coward on 2021年07月31日 9時23分 (#4081410)

    青かったらどこまでも突き進んでいったのだろうか
    ゴーゴーゴー

    • by Anonymous Coward

      遠回りして帰るんですよ。出勤時でも

    • by Anonymous Coward

      流石に同時点灯してたら赤の方が優先されるはず。
      疑似点灯は海外でもある訳だし。

  • by Anonymous Coward on 2021年07月31日 9時41分 (#4081420)

    ぶっちゃけ今の技術じゃ物体の誤認識なんていくらでもありえるし信用できない。
    「普段」と違うパターンを検出するっていうのはよくあるAIなのにそういう機能乗せてないのかな。もちろんその機能自体も信用はできないけど、そういうのの積み重ねで信用性が生まれてくる。
    なんらかの異常な事態が起きているのにそれについてアラートを出さないというのはどうかんがえてもおかしいよ。

    • by Anonymous Coward

      バイオコンピュータの天然知能さんがアラート上げてるやん。
      システムとして考えないと。

    • by Anonymous Coward

      それは「正常」や「普通」が容易に定義できる時の話だろ……。

      >「普段」と違うパターンを検出する
      「普段」って一体なんだよ。

      「普段どおり」に無限大の可能性がある時には、全てが「普段どおり」に
      含まれるので、「異常」は存在しなくなる。

      • by Anonymous Coward

        普通を定義せずに学習する手段があるんだよ。
        AIを作る側はとにかく大量の生データを用意するだけで、そこにどんなパターンがあるかをAIに分類させる。
        で、そのパターンに当てはまらないのが来たらそれを異常として出力する。

        無限大の可能性を用意したら異常は存在しないけど、自動運転のデータ自体は有限だから異常は存在するんだよ。
        自動運転が認識できない可能性ある異常を見つけるのが目的であって、無限の可能性の中から異常を見つけるのが目的ではない。

        • by Anonymous Coward on 2021年08月01日 9時16分 (#4082026)

          >AIを作る側はとにかく大量の生データを用意するだけで、

          おいおい。

          世界中の道路に対し、霧雨から集中豪雨、台風や砂嵐、降雪や雹、濃霧などの全ての気象条件に加え、事故車両や道路工事による通行止めなどなど、あらゆる全てのパターンについて大量の生データを過不足亡く準備するのを、「データを用意するだけ」って、随分気楽に言ってくれるものだなあ。

          ある程度はVRで学習させたりする話も出てきてるけど、それだけで十分ではないのは、今回の件でも分かるだろ。

          親コメント
        • by Anonymous Coward

          教師無し学習はわかるのですが、
          上記だと走るか止まるかを規定できなくないですか。

  • by Anonymous Coward on 2021年07月31日 9時42分 (#4081421)

    すらどさん、ViralHogはWebサイトです。
    https://viralhog.com/ [viralhog.com]

  • by Anonymous Coward on 2021年07月31日 11時29分 (#4081474)

    日本人の常識では馬鹿にされるだけだが、米国によくある(?)道路上に張ったワイヤーに吊り下げた形式の信号機と誤認識することはあってもおかしくないのかも.......

typodupeerror

Stableって古いって意味だっけ? -- Debian初級

読み込み中...