Чтобы обмануть автопилот Tesla, достаточно пары сантиметров клейкой ленты
Пара исследователей в области безопасности из компании McAfee, Стив Повольный (Steve Povolny) и Шиванги Триведи (Shivangee Trivedi), сумели обмануть умные системы автопилота Tesla. Как оказалось, для этого достаточно наклеить на знак ограничения скорости кусок клейкой ленты черного цвета. Тогда умный круиз-контроль перестает корректно распознавать его и разгонит автомобиль куда выше допустимого значения. Этими данными они поделились с изданием MIT Technology Review.
Стив Повольный и Шиванги Триведи использовали несколько сантиментов клейкой ленты черного цвета, чтобы удлинить среднюю линию цифры «3» на знаке ограничения скорости в 35 миль в час (около 56 километров в час). После этого они сели в Tesla Model X 2016 года и подъехали к нему с использованием автопилота, который должен считывать подобные знаки и контролировать максимально допустимую скорость.
Когда автомобиль самостоятельно подъехал к знаку, он некорректно прочитал его и увеличил скорость на 50 миль в час (около 80 километров в час) — до 85 миль в час (около 137 километров в час). По данным исследователей, автопилот посчитал, что на знаке указано ограничение именно в 85 миль в час. Более того, они провели этот же тест с Tesla Model S 2016 года — результат оказался таким же, а проблема — массовой.
McAfee отправила исследование в компанию MobilEye (она занимается производством камер для Tesla) и издание MIT Tech Review, которое запросило комментарий в Tesla. Представители производителя электромобилей отказались объяснять текущее положение дел. Более того, они отметили, что не планируют вносить программные или аппаратные правки в модели 2016 года выпуска.
В MIT Tech Review отметили, что такой знак теоретически мог быть неправильно истолкован и человеком. В издании также подчеркнули, что камеры, которые использовали в моделях Tesla в 2016 году, вообще не были разработаны для того, чтобы использоваться с автопилотом. Что интересно, в более новых электромобилях компании Илона Маска подобной проблемы нет — там используются свежие разработки MobilEye, которые куда сложнее ввести в заблуждение.
Стив Повольный объяснил, что результаты тестирования вызывают крайнюю озабоченность из-за огромного числа электромобилей Tesla 2016 года на дорогах. Он подчеркнул, что вместе с коллегами не пытается распространять панику. Главная задача исследования — повысить осведомленность водителей и производителей.
Безопасность систем автопилота Tesla попадает под пристальное внимание не впервые. В прошлом году Национальная администрация безопасности дорожного движения провела федеральное расследование двух аварий с участием электромобилей производителя со смертельным исходом. В его ходе было установлено использование автопилота.
Tesla также участвует в судебном процессе против жены Уолтера Хуанга (Walter Huang), инженера Apple, который погиб после того, как его электромобиль Tesla врезался в разделительный барьер на трассе во время использования автопилота. По словам жены Хуанга, он неоднократно жаловался на то, что автопилот поворачивал электромобиль в сторону барьера, но не придал этому должного значения.
Сегодня в Tesla подчеркивают, что автопилот компании не предназначен для того, чтобы сделать автомобиль полностью автономным — водители всегда должны держать руки на руле и контролировать движение. Тем не менее, генеральный директор компании, Илон Маск, настаивает на том, что в ближайшем будущем он намерен заставить свои электромобили перемещаться без действий со стороны водителя. Он обещал, что это случится уже в конце 2019-го, но, судя по всему, эволюция автопилота затянулась.
