Guida autonoma e intelligenza artificiale, gravi rischi di sicurezza secondo l'Unione Europea

Un rapporto dell'ENISA - Agenzia dell'Unione Europea per la Cybersecurity - sottolinea che i veicoli autonomi sono "altamente vulnerabili ad una vasta gamma di attacchi" che potrebbero mettere in pericolo i passeggeri, i pedoni e le persone in altri veicoli.

Il rapporto indica alcuni esempi dei possibili attacchi che potrebbero abbattersi sui veicoli a guida autonoma: la compromissione dei sensori di guida con fasci luminosi opportunamente indirizzati così da ingannare i sistemi di rilevamento degli oggetti, passando per il sabotaggio delle attività "dietro le quinte" che si occupano della gestione della guida, fino agli attacchi machine learning con l'inquinamento dei dati di addestramento.

Il rapporto si concentra inoltre sugli attacchi cosiddetti antagonisti all'apprendimento automatico, i quali introducono il rischio di conseguenze potenzialmente gravi. Si tratta di attacchi difficilmente rilevabili dagli esseri umani. Per questo motivo, avverte l'ENISA, l'apprendimento automatico dei sistemi di guida autonoma richiederà una continua revisione che garantisca l'assenza di alterazioni dannose.

"Un attacco potrebbe essere utilizzato per rendere l'IA cieca ai pedoni manipolando, ad esempio, il componente di riconoscimento delle immagini così che li classifichi erroneamente. Questa cosa diffonderebbe il caos per le strade poiché in uno scenario del genere le auto a guida autonoma potrebbero investire i pedoni sulla strada o sugli attraversamenti pedonali. L'assenza di conoscenze e competenze sufficienti in materia di sicurezza tra gli sviluppatori e i progettisti di sistemi sulla sicurezza informatica dell'Intelligenza Artificiale è un ostacolo all'integrazione della sicurezza nel settore automobilistico" si legge nel rapporto.

Guida autonoma: tanti sensori, rischi elevati

Una vettura autonoma ha inevitabilmente bisogno di un gran numero di sensori, per altro di vario tipo, per poter raccogliere dati sui quali costruire il processo decisionale delle operazioni e manovre da compiere. Il rapporto evidenzia, in maniera per altro logicamente condivisibile, come l'elevato numero di sensori e sistemi decisionali aumenti significativamente la "superficie" di attacco. Per questo motivo, avverte il rapporto, è necessario che il settore automobilistico si approcci alla sicurezza in maniera olistica, cioè sviluppando una cultura della sicurezza lungo tutta la catena di fornitura automobilistica compresi quindi i fornitori di terze parti.

E anche l'approccio allo sviluppo dei sistemi dovrebbe cambiare radicalmente. A tal proposito il rapporto suggerisce: "La sicurezza informatica dell'IA non può essere affrontata rivedendo le attuali pratiche, aggiungendo controlli di sicurezza e strategie di difesa di natura reattiva. E questo è vero in particolare per i sistemi di intelligenza artificiale che sono progettati da scienziati informatici e implementati da ingegneri. I sistemi di intelligenza artificiale dovrebbero essere progettati, implementati e allestiti da team in cui collaborano esperti di settore automobilistico, esperti di Machine Learning ed esperti di sicurezza informatica".

Nel passato recente alcuni studi hanno dimostrato come sia possibile, con poco sforzo e risorse pressoché nulle, riuscire ad ingannare i sistemi dei veicoli autonomi costringendo la vettura a prendere decisioni sbagliate. Nel 2017 un gruppo di ricercatori ha usato vernice spray e adesivi su un segnale di stop per indurre un veicolo a riconoscerlo erronamente come un segnale di limite di velocità. Nel 2019 i ricercatori di sicurezza di Tencent hanno impiegato degli adesivi per indurre l'Autopilot di Tesla a sterzare nella corsia sbagliata. E infine lo scorso anno un altro gruppo di ricercatori ha dimostrato la possibilità di condizionare un veicolo autonomo applicando strategicamente alcuni pezzi di nastro sulla strada e spingerlo ad accelerare rapidamente da 50km/h a 130km/h.