さて、この車を運転しているのは一体誰でしょうか？
この11月、私はテスラ・モデルYをレンタルし、約150マイル（約240km）運転しました。ただし「運転」の定義によります。そのうち約145マイルは、テスラの「完全自動運転FSD（監修型）」にモデルYの操作を任せ、パーキング時や時折の楽しみのためにのみ介入しました。この車は数えきれない複雑な交通状況を難なく処理し、安全関連の介入は全行程でわずか2回程度でした。まさに本物の自動運転車のように感じられました。
しかし、それは実は自動運転車ではありません。私は購入せず、お勧めもしません。
予想以上に優れた性能
テスラは懐疑論者を度々驚かせる企業の一つです。
私もその懐疑論者の一人であり、長年そうでした。大学時代にCNBCで自動車レビューを担当していた頃、2017年版のオートパイロットについて「過信が過ぎる」「誤解を招く名称で宣伝されている」「法的には依然として自動運転ではない」と指摘しました。これらの指摘は現在も変わりませんが、実際に購入可能な車両において、テスラが完全自動運転に多くの予想を上回るほど近づいたことは、私自身も認めざるを得ません。
初期のオートパイロットは、車線追従機能とアダプティブ・クルーズ・コントロールの古典的な組み合わせに過ぎませんでした。私が初めてレビューしてから8年が経ち、テスラの主力運転支援システムは「完全自動運転（監修型）」へと進化しました。高速道路だけでなく、基本的にあらゆる形態の運転を人間の監視下で処理できる機能を獲得したのです。その道のりには数多くの訴訟や死亡事故が横たわっています——システムがより慎重に展開されていれば防げたはずの事故だと私は主張しますが——それでも最終的な成果には驚かされました。
価格は高額です——生涯利用権は前払い8,000ドル、月額サブスクリプションの場合には99ドル（現在はモデルXとモデルSに標準装備）。またテスラは旧型「ハードウェア3（HW3）」車に対し、同等の高度なソフトウェアを提供していないため、「生涯」という表現は厳密には当てはまらず、テスラが当該世代の技術サポートを終了するまでの利用権と言えます。とはいえ、これほど機能豊かなシステムを一般消費者に提供している企業は他にないため、価格について文句を言うのは難しいでしょう。
私が試したのはFSD 13.2.9で、最新版ではありません。しかし、テスラのAI駆動ソフトウェアは洗練された姿を示していました。一言で言えば、驚くべきものです。FSDは高速道路走行を難なくこなし、疑わしい遅い車線変更が1回あったのみで、私が介入する必要がありましたが。また、市街地では、見通しの悪い交差点では慎重に、一時停止標識では忍耐強く対応しました。ほとんどの状況下で、不確実性を極めて巧みに処理していました。
課題はここに
この車両は、ほとんどの状況で、ほとんどの時間、最も安全な選択を行います。しかし時折、大きく、大きく間違いを犯すことがあります。問題は、その実際の動作原理が理解できないため、こうした瞬間を予見できない点にあります。これは、常に警戒を怠れないことを意味します。「完全自動運転」という誤解を招くマーケティングに直面する訓練を受けていないドライバーには、到底対応できるものではありません。
この組み合わせは、2017年までにシステム関連の死亡事故を1件引き起こしていました。その後も数十件が続き、多くの原告がテスラを訴え、システムの間違いによる死亡を主張しています。テスラは、自社のシステムは法的に運転しているわけではなく、所有者が常に車両を監修型で監督する責任があると述べています。
各事例の事情は異なり、ソフトウェアも確かに成熟しています。しかし同時に、より深い「不気味の谷」に陥っているとも言えます。私のテスラ・モデルYはほとんどミスを犯さなかったため、次第に警戒心が緩んでしまいました。ところが実際にミスが発生した際には、合流車両への衝突を回避するため、あるいは（横断車両はいないものの）赤信号での左折を阻止するため、即座の対応が求められたのです。
ここに課題があるのです。
その動作原理を理解しなければ、いつ誤動作するかを予測できません。したがって、常に警戒を怠ってはならないのです。さらに、本当に注意を払う場合——問題が生じそうな箇所を予測し、すぐに操作できるよう手を準備し、ミラーを注視する——それは果たして、運転そのものよりも本当にリラックスできるのでしょうか？
私にとって、ある程度能力はあるものの本質的に予測不可能なAIの誤動作を予測しようとする行為は、運転そのものと同じくらいストレスを感じます。しかもより退屈です。メールも送れませんし、視線を外すこともできません。まともな白昼夢も抱けません。このため、FSDでの運転は多少楽に感じられることもありますが、集中力を維持するのに苦労するうちに、時間の経過がより遅く感じられるのです。
究極の目標は、もちろんドライバーを完全にシステムから切り離すことです。テスラがテキサス州オースティンで実施しているロボタクシー試験プログラムはまさにそれが目指しており、マスク氏が長年掲げてきた長期的な約束でもあります。実現はこれまで以上に近づいているように見えますが、依然として手の届かないところにあります。現時点では、予期せぬ衝突と自身の退屈の両方から身を守りつつ、静かに注意深く座っている必要があるのです。
不安定な均衡
初期のオートパイロットは機能に制限がありましたが、その分精神的な負担は軽かったのです。自動運転ではないと理解していたため、高度なクルーズのように理解して利用していました。できることとできないことの境界が明確だったのです。
しかし近頃は、その境界が曖昧になっています。FSDは多くの状況で非常に優れているため、リラックスして信頼したくなります。しかし、その意思決定の仕組みを把握できず、理解もできない以上、特に周囲の「人々」の命がかかっている状況では、完全に信頼して気を抜くことはできません。集中を保ち、ミスを待つしかないのです。
しかし、ミスが稀であるかということなら、私は150マイルの走行中に、明らかなミスを2回経験しました。
私は常に注意を払い、問題になる前に両方のミスを察知しました。しかし、これが想定される状況だとすれば、一般のドライバーに実際に求められている管理の重さを考えてみてください。サンディエゴ周辺での150マイルの走行には、合計で約5時間を要しました。つまり、2.5時間ごとに介入が必要なミスが発生した計算になります。2.5時間もの間、何もせずに「ドライバーが監視」し続け、一切気を散らすこともできない状況を想像してみてください。ミスが発生するまでに、本当に注意を払い続けられるとお考えでしょうか？
これは恐ろしい状況です。システムが信頼できるほどに警戒心を解かせてしまう一方で、実際には監視なしでは安全に実装して使用できないという矛盾が生じているのです。
2017年にCNBCに寄稿した際、私はオートパイロットをこう位置づけました。
「問題なのは、車両が自らの限界を認めようとしない点です。明らかに認識すべき状況でも、『これは処理できません！ 目を覚まして運転を再開してください！』とドライバーに伝えるのを躊躇しているように見えます。このため、私はテスラのオートパイロットを決して信頼しませんでした。皆様も同様に信頼すべきではないと考えます」
この指摘は今日でも真実を突いています。FSDが対応可能な領域と不可能な領域の境界線は、これまで以上に曖昧です。ほぼ全ての状況において、車両は最善を尽くすだけであり、災害を回避するためにドライバーが迅速に介入することを信頼しているのです。
しかし、システムのマーケティング上の限界と現実世界の限界が意図的に曖昧にされているように見える一方で、法的立場は明確です。テスラは繰り返し、FSDは運転支援システムであり、法的に車両を運転しているわけではないと述べています。万が一、車両自身の判断に基づいて事故が発生した場合、テスラ社は「運転していたのはあなたです」と主張し、責任は依然として運転者にあると述べています。
したがってテスラ社は、オートパイロット、完全自動運転、あるいは完全自動運転（監修付き）など、いかなる名称で呼ぼうとも、法的には運転を代行できません。それが可能になるまでは、私は興味がありません。
※免責事項：この記事は主にテクノロジーの動向を紹介するものであり、投資勧誘や法律の助言などではありません。また、記事の正確性を保証するものでもありません。加えて、記事内のリンクにはアフィリエイトリンクが含まれていることがあります。また、掲載情報によって起きたいかなる直接的及び間接的損害に対しても、筆者・編集者・運営者は一切責任を負いません。更に、運営者はテスラ株式のホルダーです。
コメント