テスラの完全自動運転 FSDベータV9は安全性に疑義

fsdv9TESLA News

コンシューマー・リポート社(以下CR)の自動車安全に関する専門家は、テスラ社が車の所有者を新機能のベータテスターとして使い続け、道路上の他の人々を危険にさらしていることを懸念していますので、長い歴史と信頼が置かれているコンシューマー・レポート誌による報告を今回はお届けしたいと思います。

安全性への疑義

先週、テスラが運転支援ソフトウェアの最新プロトタイプを公開した後、オーナーからの報告が、CRをはじめとする研究者や安全専門家の注目を集め、システムの性能や安全性に関する懸念が表明されています。

CRは、テスラから必要なソフトウェア・アップデートが当社のSUVモデルYに届き次第、このソフトウェア・アップデート(通称:FSDベータ9)を独自にテストする予定です。これまでのところ、CRの専門家は、ソーシャルメディアに投稿された他のドライバーがFSDを試している動画を見て、車が曲がりきれずに茂みにぶつかったり、駐車場の車に向かったりしている状況を懸念しています。テスラのCEOであるイーロン・マスク氏も、FSDベータ9を使用する際の注意を促し、ツイッターで「未知の問題があるので、猜疑心を持ってください」と書いています

FSDベータ9は、テスラが「完全自動運転」と呼ぶ機能のプロトタイプですが、その名の通りテスラを完全に自動運転させるものではありません。テスラはこれまでにもソフトウェアのアップデートを行っており、そのたびに新機能が追加されてきましたが、今回のベータ9のアップグレードでは、車両の操作方法に最も大きな変更が加えられています。今回のソフトウェアアップデートでは、より多くの運転タスクが自動化され、例えば、このソフトウェアを搭載したテスラ車は、ドライバーの監視下で交差点や市街地を自動的にナビゲートできるようになりました。

CRのオートテストセンターのシニアディレクターであるジェイク・フィッシャーは、以下のように語っています。

「FSDベータ9の映像を見ても、運転をより安全にしたり、ストレスを軽減したりするようなシステムではありません。ドライバーは、十分な安全性が確保されていない技術を開発するためのテストエンジニアとしてお金を払っているに過ぎないのです。」

CRは、これまでのアップデートと同様に、テスラが既存の所有者とその車を使って、公道で新機能のベータテストを行っていることを懸念しています。これは、他のドライバーや、自転車・歩行者が同意していないいわば「実験」に参加していることに気づいていない状況であり、これを交通安全の専門家が非常に懸念しています。

マサチューセッツ工科大学の教授で、車両の自動化を研究するAVT(Advanced Vehicle Technology)コンソーシアムの創設者であるブライアン・ライマー氏は、CRに対し、「ドライバーは自分が想定しているリスクの増加をある程度認識しているかもしれないが、他の道路利用者である他車のドライバー、歩行者、自転車利用者などは、自分がテスト車両の前にいることを認識しておらず、このリスクを引き受けることに同意していない 」と述べています。

テスラのアプローチは、Argo AIやCruise、Waymoなど、自動運転車の技術を開発している他社とは対照的です。この記事を書くためにこれらの企業に話を聞いたところ、ソフトウェアのテストではその利用をプライベートトラックに限定したり、訓練を受けた安全運転者をモニターとして使用したりしているとのことでした。またこれらの企業の担当者は、いずれもテスラに関する質問には直接答えず、自社の研究プログラムについてのみ語ってくれました。テスラは、この記事のためのCRのコメント要請に応じませんでした。

ジェイク・フィッシャー氏は、テスラは少なくとも、新しいソフトウェアの使用中にドライバーが注意を払っているかどうかをリアルタイムで監視すべきだと考えています。例えば、フィッシャー氏は、更新されたソフトウェアは画面上のグラフィックが「印象的」だと言いますが、ドライバーがディスプレイをほんの少し見ただけでも、システムが車や歩行者に衝突するのを防ぐには長すぎるのではないかと心配しています。テスラの新型車の一部では、リアルタイムのドライバーモニタリングカメラが有効になっていますが、CRの専門家はその効果について疑問を呈しています。

「テスラは、ドライバーに注意を払うよう求めるだけでは十分ではなく、システムが作動しているときに、ドライバーが確実に注意を払うようにする必要があります」とフィッシャーは言い、テスラにはドライバーが道路を見ていることを確認するために、車載のドライバーモニタリングシステムを使用することを推奨しています。

Uberの自動運転テスト車両は、2018年にフェニックス地区の道路を横断中の49歳のアーニー・ヘルツバーグさんをはね、死亡させてしまいました。調査の結果、試験車両の後部座席にいたドライバーモニターは当時、気が散っていて、システムを停止してクルマを止まらせなかったことが判明しました。連邦政府の調査では、衝突事故の原因として、Uber社の規制の不十分さと安全ポリシーの不備が部分的に指摘されました。この悲劇の後、多くの企業が自動運転システムのテストにおいて、ドライバーが気を取られていないかどうかを監視したり、シミュレーションや閉鎖されたテストトラックへの依存度を高めたりするなど、より厳格な安全ポリシーを制定しました。

酔っぱらいの運転手のよう

CRのエンジニアだけでなく、新しい完全自動運転 Full Self-Driving ソフトウェアの動作映像を見た業界の専門家からも、その性能に対する懸念が表明されています。

自律走行車の研究を行っているアメリカン大学公共政策大学院(ワシントンD.C.)のセリカ・ジョサイア・タルボット教授は、彼女が見た動画の中のFSDベータ9を搭載したテスラは、車線の間を必死に行き来する「ほとんど飲酒運転のような行動」をとっていたと述べています。「左に蛇行したり、右に蛇行したりしています。右折はかなりしっかりしているように見えますが、左折はかなり乱暴です」

ユーザーのAI AddictがYouTubeにアップロードした動画では、駐車している車を避けたり、交差点を通過したりする見事なナビゲーションを見せていますが、同時に多くのミスも犯しています。このクルマは走行中、茂みにぶつかったり、曲がり角で車線を間違えたり、駐車している車に直接向かったりと、さまざまな問題を起こしています。また、走行中にソフトウェアが解除され、突然ドライバーに運転の責任を負わせることもあります。

AI Addic

オートメーションの専門家であり、デューク大学(ノースカロライナ州ダーラム)の人間自立運転研究所のディレクターであるミッシー・カミングス氏は、「これらのビデオを見ただけでは、何が問題なのか分かりませんが、ビデオを見ると物体の検出や分類に問題があることは明らかです」と言っています。

カミングス氏によると、テスラが最終的に自動運転車を作ることは可能かもしれませんが、これまでに同社が行ったテストの量では、既存のソフトウェアの中でその能力を構築するには不十分だ主張しています。「将来のある時点で、それが可能な出来事であることを否定するつもりはありません。しかし、今、そこまで来ているのか?それに近いものがあるか?いいえ」とのことです。

同意のないテスト

カミングス氏は、ソフトウェアのベータ版を直接消費者の手に渡すというテスラのアプローチは、コンピュータソフトウェアの開発では一般的なものですが、実際に路上で問題を引き起こす可能性があると言います。「ソフトウェアの80%を完成させてからリリースし、ユーザーに問題を解決してもらうというのは、まさにシリコンバレーの倫理観です。携帯電話であれば問題ないかもしれませんが、安全上重要なシステムでは非常に問題となります。」

路上にいる誰もがテスト車両のリスクにさらされるべきではないですが、テスラが運転タスクを自動化している古いビデオと新しいビデオの間で、パフォーマンスが著しく向上していることも確かです。
「テスラのエンジニアがデータを使ってシステムの性能を向上させているように見えるのは興味深いことです」とライマー氏は言っています。

しかし、テスラが実施しているような、完全自動運転に至るまでのこのような段階的な改善により、ドライバーがクルマに判断を委ねるようになり、安全性が損なわれる可能性があるとフィッシャーは言います。
「ソフトウェアがほとんどの時間うまく機能している場合、ドライバーはシステムをより信頼するようになり、必要なときに関与することができなくなるため、些細な失敗が大惨事につながる可能性があります」

フィッシャー氏、ライマー氏、タルボット氏らは、テスラが自己満足に陥らないようにするために、リアルタイムで動作する強固なドライバーモニタリングシステムを導入し、車が運転タスクを処理できなくなったときに、運転手がすぐにコントロールできるようにすることを求めていますが、テスラはこれまで消極的でした。

テスラが方針を変えない限り、自動化に対する同社のアプローチは裏目に出る可能性があると、監視団体自動車安全センターのエグゼクティブ・ディレクターであるジェイソン・レヴァイン氏は言っています。
レヴァイン氏によると、自動化は人命を救うことができますが、その限界をドライバーに明確に伝えなければなりません。
レヴァイン氏は、
「実証されていない技術を、同意なしに車の所有者と一般市民の両方にベータテストすることを選択することで、よくても安全性の原因を後退させ、最悪の場合、予防可能な事故と死を招くことになります」とCRに語っています。
また、レヴァイン氏は、テスラが「完全自動運転」(Full Self-Driving)などの用語をマーケティングに使用することで、人間の介入なしに車が運転できるという誤った誤解を与えていると指摘しています。

より安全なアプローチとは

アメリカン大学のタルボット教授は、ドライバーの監視なしに公道でソフトウェアをテストするテスラのアプローチは、業界の中では「一匹狼」だと言っています。元自動車規制当局者であり、製造物責任法専門弁護士でもあるタルボット教授は、「他の自動車メーカーは、『正しい方法で試験を行い、一般市民の信頼を得て、規制当局はパートナーとなる』と言っています。これまでのところ、「正しい方法」とは、訓練された運転手やメーカー独自のテストコースを利用して、公道でのテスト実施前に車両ソフトウェアを検証することを意味しています。

CRは、自動運転車のプロトタイプを公道でテストし、完全な自動運転車の市販化を目指しているArgo AI、Cruise、Waymoの担当者に話を聞きました。いずれもテスラについて直接コメントすることはありませんでしたが、3社とも自社の安全ポリシーを披露してくれました。

Waymo社の広報担当者であるサンディー・カープ氏は、CRに対し、
「当社のソフトウェアの各変更は、厳格なリリースプロセスを経て、シミュレーションテスト、クローズドコーステスト、公道での走行を組み合わせてテストされています」と述べています。

Cruise社のレイ・ヴェルト氏はCRに対し、同社の自律走行車は、人間のドライバーよりも安全であると同社が納得した後に公道へ出ると述べました。
「私たちの計画は、地域社会とともに立ち上げることです」と彼は言います。

また、Argo AIの担当者は、同社の広範なドライバートレーニングとソフトウェア開発基準を指摘し、それらはすべてオンラインで公開されていると述べています。

業界団体である自動運転教育協会(PAVE)はCRに対し、高度な訓練を受けたプロの試験安全管理者の使用を推奨しており、訓練を受けていない運転者を使用することは、自動車の自動化に対する一般の人々の受け入れを妨げる可能性があると述べています。

最終的には、どのような種類の車両ソフトウェアを公道で使用できるかを決定するのは、連邦政府の規制当局に委ねられることになるかもしれませんが、これまでは規制当局も消極的でした。「米国運輸省がテスラ社の行動に目隠しをしているような状況です」とタルボット氏は言っています。

しかし、最近ではさらなる規制に向けた動きも見られます。例えば、米国高速道路交通安全局(NHTSA)は、自動運転中に事故を起こした車両について、新たな報告義務を命じました。

ライマー氏は、「このデータによって、NHTSAが、今後数十年にわたって自動化システムの完成を目指す自動車メーカーやテクノロジー企業をよりよく監視・管理できるようになることを期待しています」と述べています。

急速に進化する自律走行技術をテストする自動車メーカーの計画に、規制当局もいずれは追いつく必要があります。

CR社の安全政策担当マネージャーであるウィリアム・ウォレス氏は、以下のように主張しています。

自動車技術は急速に進歩しており、大きな可能性を秘めていますが、政策立案者は強力で賢明な安全規則を導入するために検討する必要があります。そうしないと、一部の企業は公道を私的な実験場のように扱い、安全性に対する責任をほとんど負わなくなってしまうでしょう」

この記事はこのサイトを引用・翻訳・編集して作成しています。

正直限定的なオートパイロットでも、普通に自分で運転するより気も使うしヒヤヒヤします。

テスラ関連の最新ニュースをほぼ毎日アップしていますのでこちらを参照ください。

tesla_bannar
https://www.tesla.com/jp/referral/seikai44555
※バナークリックで米国サイトが表示される場合は、サイト右上「Menu」から「Japan 日本語」を選択!

オンラインでの購入にぜひ無料特典の追加をお忘れなく!

タイトルとURLをコピーしました