Kleiner, simpler aber offenbar ziemlich effektiver Tesla-Hack bei McAfee. Forscher haben ein Straßenschild, das 35 mph auswies, mit einem Stück Klebeband so manipuliert, dass danach eine Beschränkung von 85 Meilen pro Stunde zu sehen war. Ein menschliches Auge würde sich dadurch wohl täuschen lassen. Die Kameras von Tesla auch, denn zwei davon, die autonom fuhren, beschleunigten prompt auf die dann angegeben 85 Meilen pro Stunde.
The McAfee researchers Steve Povolny and Shivangee Trivedi stuck 2 inches of black tape on a 35-mph speed sign, slightly elongating the middle line in the „3.“
They then drove a 2016 Tesla Model X toward the sign with cruise control enabled.
Cruise control is a feature of Tesla’s self-driving system, Autopilot, that is supposed to control the car’s speed and keep it a safe distance behind the car in front of it.
As the car approached the altered sign it misread it as 85 mph – and started to accelerate by 50 mph.
The same happened in a 2016 Model S.
(via BoingBoing)
Das menschliche Auge lässt sich eben _nicht_ dadurch täuschen, das ist ja das interessante.
Hatte die Meldung auch gestern bei Forschung aktuell vom DLF gehört.
In diesem konkreten Beispielfall vielleicht nicht, wenn du aber mit Tape aus einer 30 eine tatsächliche 80 klebst, sieht ein Auge eher nicht die Manipulation.
Was heisst das? Das alle autohersteller die das Pilot eye verbaut haben, die selben Probleme haben? Doch wird wider mal zum 10000000000 mal Tesla erwähnt……
Das ist ja noch naheliegend da so die 3 mehr Ähnlichkeit zur 8 hat – aber Objekterkennung kann ganz anders verwirrt werden.
https://www.tomshardware.com/news/artifical-intelligence-adversarial-image-recognition,35842.html
Mal warten bis es gemusterte Jacken gibt die ein Radfahrer als Baum klassifizieren.
Dann doch lieber umgekehrt und mit weißem Tape aus der 8 eine 3 gemacht
Jedenfalls werden Verkehrszeichenproduzenten nen Dreh zum Vermarkten brauchen:
Manipulationssichere Schilder!
gibt ja schon https://de.wikipedia.org/wiki/FE-Schrift – aber im Artikel von MA steht ja daß die neue Generation von EyeQ keiner optischen Täuschung mehr erliegt. Zumal die in DE wohl eh auch digital Daten über die GPS position bekommen