中国で小型人形がTesla自動運転の安全装置を迂回
原題: Chinese Drivers Are Using Tiny Plastic Heads to Fool Tesla’s Autopilot Safeguards
なぜ重要か
自動運転技術の安全装置が簡易な方法で迂回される実例として、AI監視システムの脆弱性と規制強化の必要性を示している。
中国のTeslaドライバーが約30ドルの小型人形でAutopilotの安全装置を回避している。ドウェイン・ジョンソンなど有名人の顔を模した人形をルームミラー上に設置し、車内カメラを騙して運転者の注意散漫を検知させない手法が拡散。実際の運転者は携帯電話操作や居眠りが可能になる。
中国のTeslaオーナーの間で、Autopilotの安全監視システムを迂回する小型人形の使用が広がっている。この人形は約30ドルで購入でき、ドウェイン・ジョンソンなど有名人の顔を模している。Taobao、Xianyu、Douyinなどの中国ECプラットフォームで10～40ドルで販売され、車の天井、フロントガラス、ルームミラーに設置される。
Teslaは運転者の注意を監視するため、フロントガラス上部にカメラを設置している。数秒間前方を見ていないと検知すると注意を促し、従わない場合はAutopilotを自動停止する。しかし人形により実際の運転者の頭部が隠されると、システムは人形を運転者と誤認する。
あるModel 3オーナーは400マイルの旅行で250マイル間この手法を使用し、通常数秒で介入されるところ30分間中断されなかったと証言した。動画では片手でひまわりの種を食べ、もう片手で撮影する様子が映っている。
中国ではTeslaの最先端運転支援システムFull Self-Driving（Supervised）は利用できず、基本的なクルーズコントロール、オートステアリング、一部都市道路でのAutopilotのみ使用可能。完全自動運転ではないため、Teslaは運転者の注意を要求している。