Tesla Model X, incidente mortale con Autopilot attivo: il conducente giocava con lo smartphone

Credo che, oggi, accanto a "tecnici" consapevoli dei limiti di questi sistemi informatici, ci siano anche tanti invasati, megalomani, convinti di essere "creatori" e parte di qualcosa di superiore all'umanità.

A cominciare dagli invasati della guida autonoma che, a sentir loro, farà sparire la mortalità sulle strade e farà molte altre cose del tutto inverosimili e, soprattutto, ad oggi infondate.

Il problema è sempre la mancanza di senso critico.
Siamo di fronte a credenze quasi di carattere religioso.

Mi sono perso un pezzo...

Scusate la domanda forse scontata...ma l'autopilot non avrebbe dovuto autofrenare vedendo la barriera?
Chiedo da "ignorante" sulla questione perchè non ho mai approfondito il tema della guida autonoma, ma essendo un programmatore in ambito automazione e robotica sembra che abbia fallito il sistema di visione ostacoli...fermo restando che la strada devi comunque guardarla...

Sembra proprio di sì.
Se ben ricordo, sembrerebbe che abbia interpretato malamente tutto il contesto, seguendo delle righe per terra pensando che fosse una corsia.

Tutti i sistemi di questo tipo, non solo quello Tesla, sono programmati per ignorare gli oggetti fermi. Il motivo è questo:

Per rilevare gli oggetti davanti viene usato il radar (le telecamere ancora non sono abbastanza affidabili) che misura la velocità relativa degli oggetti davanti. Ora siccome il radar non ha una elevata risoluzione spaziale a fronte di un ampio campo di vista angolare, non è in grado di capire se l'oggetto che stà vedendo come fermo è una macchina davanti sulla strada oppure un oggetto a bordo strada.

Nel primo caso l'azione giusta sarebbe frenare, nel secondo no. Siccome un sistema del genere vede ovviamente di continuo oggetti fermi a bordo strada (guardrail, pali della luce, segnali stradali, semafori, etc...) l'unico modo per fare funzionare la cosa è imporre al pilota automatico di reagire solo agli oggetti che si stanno muovendo almeno un po.

Cioè ad esempio se stai andando a 100km/h e il radar registra un oggetto a velocità relativa di 100km/h il pilota automatico lo ignorerà ritenendolo un oggetto a bordo strada, mentre se il radar registra l'oggetto muoversi a una velocità relativa inferiore a 100km/h, (cioè compatibile con una macchina davanti a te in movimento a velocità inferiore a quella tua) il pilota automatico lo registrerà come automobile e comincerà a rallentare per evitare lo scontro.

Ci sono due soluzioni per risolvere questo problema:

1) usare il Lidar (costoso, ingombrante, esoso di energia e non in grado di funzionare correttamente se c'è pioggia). Metodo usato da Waymo.

2) usare le telecamere (in accoppiata col radar) con un sistema di riconoscimento dell'immagine che usi il deep learning. Tesla non c'è ancora arrivata ma è più avanti di tutti in questo campo

Questo non implica però andarci addosso.

L'incidente dimostra una grande immaturità del sistema.

Semplicemente non è un sistema in grado di funzionare nel 100% dei casi, ignora tutti gli oggetti fermi ma può essere un grande aiuto ad evitare incidenti in tutti quei casi in cui ci si trova davanti un mezzo molto più lento del nostro.
Ad essere immaturo è chi lo adopera male non sapendo come funziona.

Un sistema che ignora un oggetto sulla traiettoria che sta percorrendo non è immaturo, è proprio completamente stupido.

Ha due informazioni (rilevazione oggetti + traiettoria prevista) e non è in grado di metterle assieme.
Come uno che cammina e sbatte la testa contro un palo pur avendolo visto.

E nota che non è l'unico caso, perchè in precedenza sono stati "ignorati" anche camion di traverso lungo la strada.

Questi sistemi sono fatti per funzionare in collaborazione con il guidatore.
Permettono di eliminare la maggior parte dei tamponamenti (tutti quelli in cui l'oggetto davanti si muove almeno un po). Decidere di non usarli finchè non funzioneranno nel 100 casi è solo uno spreco.

Confermo la mia impressione di quando sono per strada, tutti chini sugli smartphone, tutti col sorrisetto da whatsapp stampato sulla faccia. Io stangherei di brutto questi soggetti. Io se devo guardare il telefono ACCOSTO o aspetto di essere a destinazione, altrimenti auricolare o vivavoce per le chiamate. Inoltre ci sono i comandi vocali. E invece, tutta questa tecnologia ma in fondo siamo dei primati.

Non capisco questo atteggiamento.
Si tratta di mettere in luce i limiti del sistema, che mi paiono più seri di come dovrebbero essere.

Questi sistemi aiutano per i tamponamenti, ma finchè sono usati come "aiuti", nel senso che guidi tu.
Se di fatto guida lui, perdono di senso, perchè devi stare attento il doppio per evitare che faccia stupidaggini.
Siccome nessuno li usa per stare attento allo stesso modo, ma per fare meno fatica delegando l'attenzione, i risultati sarebbero in realtà da discutere.
Poi c'è sempre il problema dei falsi positivi, che so bene, per esperienza, essere reale.

Un sistema che ha una logica sbagliata è un sistema di cui non puoi fidarti.
Non parliamo di "imperfezione": se segui le righe per terra e ti schianti contro un ostacolo "grosso", che scegli deliberatamente di ignorare, vuol dire che di base i sottosistemi non dialogano.