Wystarczył kawałek taśmy, żeby Autopilot Tesli uznał znak o ograniczeniu prędkości do 35 mil na godzinę za ograniczenie do 85 m/h.
W tej wiadomości skrywa się zarówno dobra, jak i nieco przerażająca wieść na temat tego, jak systemy sztucznej inteligencji radzą sobie wtedy, kiedy ktoś ma niecne zamiary. Wyobraźcie sobie bowiem albo podniszczony znak drogowy, albo ich celową modyfikację po to, aby oszukać samochód w trybie autonomicznym. Wynik? Nieciekawy.
Na poniższym materiale specjaliści z McAfee wzięli pod lupę Model S Tesli i pokazali, że delikatna modyfikacja znaku drogowego (wszystko sprowadza się do przedłużenia cyfry 3 taśmą klejącą) sprawia, że ten uzna ograniczenie prędkości 35 m/h za 85 m/h.
Tesla z kolei słusznie zachęca do takiego hakowania, aby upewnić się, że jej systemy działają zgodnie z zapewnieniami i łatać ewentualne luki w zabezpieczeniach. McAfee udostępnił wyniki swoich testów zarówno Tesli, jak i MobileEye.
Tą dobrą wiadomością jest fakt, że test dotyczył starego Modelu S. Tak starego, że różnica pomiędzy nowym Modelem S, a tym, jest przeogromna. Problem sprowadzał się do systemu kamer MobileEye EyeQ3 i systemu autonomicznego Hardware pack 1. Hakerzy zaznaczyli, że nowszego sprzętu nie trapi ten problem.
