トップページへ

自動運転車の誤検知

車の運転のコツ » 09運転ブログ » 自動運転車の誤検知

IMG_2652 (2).JPGのサムネール画像

初めての自動運転車による死亡事故となった、アリゾナ州でのUber車の事故について、続報が入りました。夜間に自転車を押して道路を横切っていた女性を、ノーブレーキで事実上の無人運転車が轢くというショッキングな事件でした。

事故の原因は、可能性として、センサーが認識していなかったケースと、判断をつかさどるソフトウェアが正常に働かなったケースが想定されていました。記事によると、どうやら原因は後者であったようです。

 

◆Uberの自動運転カーが女性をはねて死なせた事故はソフトウェアが人物を「誤検知」と判断したためと判明

Uberが開発を進めていた自動運転カーが夜間の公道を走行中に道路を横断していた女性をはねて死なせてしまった事故の調査が進み、事故の原因は自動運転カーのソフトウェアの誤判断に起因するものであったことが明らかになっています。

Uber Finds Deadly Accident Likely Caused By Software Set to Ignore Objects On Road ? The Information

内部の事情に詳しい2人の情報提供者からの情報をもとにThe InformationのAmir Efrati記者が報じた内容によると、事故の際にUberの自動運転カーのソフトウェアは横断者を認識していたものの、「false positive(誤検知)」だと判断して減速や回避をとらず、そのまま跳ね飛ばしてしまったとのこと。
自動運転カーのソフトウェアにとって、実在する物体と錯覚的に存在するように見えるだけの物体を見分けることは重要な課題であり、車両や歩行者、道路に落ちた大きな石などを極めて高い精度で検知することが求められます。
しかし一方で、風に飛ばされてきたビニール袋や道路脇の空き缶など、安全性にそれほど影響がないと判断できる物体も道路上には存在しており、その見分けを行うことも安全かつ効率的に公道を走行するために重要な要素です。

ここには、安全と効率のトレードオフが存在します。
もし、車両のソフトウェアが注意深くなりすぎると何ら問題のない空き缶や新聞紙にまで反応してしまい、まともに走行することができなくなります。

逆に、検知を甘くすると多少の障害物には文字どおり「目もくれず」ガシガシと走り続けられるようになりますが、本当に避けなければならない障害物にぶつかってしまうことも起こりえます。
そして今回の事故では、まさにその障害物が道路を横断していた女性だったというわけです。

実際に女性がはねられてしまう瞬間の直前までの映像が公開されています。
以下の記事では、車両が減速や急ハンドルを行う様子なく女性に突っ込んでいる様子を確認することができます。

Efrati氏は「Uberが周囲の障害物についてのシステムの警戒度を下げたがっていたのには理由があります。自動運転カーを快適に乗れる車両にすることを目指していたためです」
「Uberは、年内にフェニックス地域においてドライバーなしの自動運転カーに乗客を乗せて走行するという社内目標を達成することを急いでいました」と記しています。

何かある度にいちいちブレーキがかかる自動運転カーなど、とても快適な乗り物とは呼べません。
この課題をクリアするためにUberは開発を行っており、そのさなかに今回の事故が起こってしまいました。
UberはThe Informationの取材に対し、国家運輸安全委員会の調査が行われていることを理由にコメントを拒否しています。

GIGAZINE 2018年05月08日 13時00分 https://gigazine.net/news/20180508-uber-fatal-crush-software-bug/

 

 

記事によると、本件ではライダーと呼ばれる高度なセンサーについてはきちんと女性を認識していました。それにも関わらず、判断を下す部分であるソフトウェアが「そのまま走行して良い対象」であると判断してしまった訳です。

道路上には、車やバイクだけではなく、あらゆるものが散らばっています。車やトラックの落とし物である、軍手や脚立、工具、釘、石、雪、タイヤ片などなど。動物やそれらの死骸、木の枝や落ち葉、ビニール袋や麻袋などなど。場合によっては故障車からのオイルが道に広がっている場合もあります。段ボール片やトロ箱、ビニール袋など、踏んでも問題がなさそうに思えても、中に重量物が入っていることもあります。

これらの道路上の「異物」に遭遇したとき、人間でももちろん対処には限界があってミスも犯しますが、未知のものと遭遇しても感覚的に、そのまま踏んでいくべきか、避けるべきかの判断は誰もが行うことができます。

ところが、自動運転システムの場合は、本件で事故を起こしたソフトウェアのように、個別にそれが何かを検証することなく、一律に一定割合で通過するか停止するかを決める閾値を設定する。もしくは、AIに「異物」をひとつひとつ学ばせていく必要があるでしょう。しかし、ディープラーニングを得意とするAIとは言え、世の中全てものについて学ばせるのは不合理でしょう。そうすると現状の事故を起こしたUberの実験車のように、一律に閾値を設定するしかなく、結局本件のような事故は完全に防ぐことができません。安全側に振って、閾値を高く設定し過ぎると、ビニール袋が空を舞っただけで停車してしまうような車になります。ここが、自動運転車を実用化させることが難しいとされる所以です。

米国ではこのような、性急にも思えるような実証実験が続けられています。ハンドルもペダルもない、完全な自立型の車を理想として開発を進めているIT企業が多いのも特徴です。しかし、直感的にそこまでの性急さには抵抗のある方が日本には多いようです。その理由は、311の大地震をはじめとして、いざという時には、もっとも原始的な力のみが頼りになる、と直感的に知っているからではないでしょうか。残念ながら、津波によって逃げる道すがら犠牲になってしまった方が多数おられましたが、いざその立場に立った時、遠くに見えている津波を避けようと必死にルートを探す場面で、ハンドルもペダルもない自動運転車が想像できるでしょうか。道路インフラも含めたITSで解決できると見る専門家もいますが、日本のような災害の種類が多種に渡る国では、いざとなると自分の意思ですぐに使える、原始的な道具のみが頼りになるのではないでしょうか。

この意味で、人間の直感に忠実であることが、道具として最も大切な要素であると言えます。自動化が進めば、即、優れた道具であるということはできません。本件の事故のように、衝突した後もブレーキすら踏まずに直進した自動運転車を見ると、技術開発の方向性が、残念ながら斜めの方向を向いているのではないかという懸念を禁じ得ません。

このページ『自動運転車の誤検知』をメールで送る

« 前の記事へ

次の記事へ »

トップページへ