È stato sufficiente incollare pochi centimetri di nastro adesivo colorato a un cartello stradale che indica un limite di velocità per ingannare Autopilot. A condurre l’esperimento il team Advanced Threat Research di McAfee, dimostrando come la guida autonoma di Tesla possa essere spinta ad accelerare ben oltre i 35 mph (56 Km/h) consentiti, interpretando il segnale come “85 mph” (137 Km/h).
Autopilot: l’IA di Tesla ingannata dal nastro adesivo
Il test, visibile nel breve filmato di seguito, è stato condotto in un ambiente controllato e con un operatore pronto ad agire sul freno. Può servire da prezioso feedback per il gruppo di Elon Musk al lavoro sulla tecnologia, anche se il problema non verrà preso in considerazione in modo prioritario. Stando al report interessa solo la prima generazione del sistema basata sulle componenti hardware fornite dalla israeliana MobilEye , ormai soppiantata da versioni più recenti.
L’occhio e il cervello umano sono in grado di interpretare correttamente il cartello modificato, riconoscendo il limite di 35 mph , mentre gli algoritmi di machine vision impiegati da Autopilot associano erroneamente una porzione dell’immagine acquisita a un “8” anziché a un “3”.
McAfee afferma di aver reso noto il problema sia a Tesla sia a MobilEye prima di renderlo pubblico, in data 3 ottobre 2019. Entrambe le aziende hanno apprezzato l’iniziativa dichiarandosi interessate alla ricerca, sottolineando però di non avere al momento in programma di impegnarsi al fine di correggerlo, anche in considerazione del fatto che le attuali versioni delle componenti hardware utilizzate non ne sono affette.
La notizia può essere interpretata come un monito a proposito dei rischi da considerare nella progettazione dei sistemi che presto controlleranno le self-driving car in movimento sulle nostre strade. Si presume che nessuno sia tanto sciocco da modificare di proposito un cartello stradale, ma un deterioramento della segnaletica può avvenire anche in modo naturale, magari come conseguenza dell’esposizione agli agenti atmosferici. È necessario tenerne conto approcciando un’era della mobilità che farà leva sempre meno sul fattore umano e sempre più sull’intelligenza artificiale.
20 02 2020
Ti potrebbe interessare
