La Tesla fa cilecca e investe un pedone (finto): il video che mette in imbarazzo Musk e colleghi

Errori di progettazione possono essere corretti. Se l'incidente si ripete è perchè non è stato fixato come pensavano, riprendono in mano il progetto e lo fixano prima o poi.
Il fatto è che una volta fixato, poi non è che la macchina lo dimentica col tempo e non è fixato solo per quella macchina individualmente, ma in modo globale. Quindi col tempo non può che evolversi sempre di più in modo inesorabile. Una macchina non deve rifare daccapo tutto il percorso di Deep Learning della precedente, nasce già imparata e l'AI viene affinata sempre.

E che centrano con l'abilità di guida del veicolo ?

Quì si parla di reagire a determinate circostanze con specifici fattori che entrano in gioco e spesso anche in tempi ristretti, combinazioni che seppur numerose sono in numero finito e una macchina è in grado di memorizzarle tutte ed elaborare una soluzione in tempo reale, l'uomo in determinate circostanze no, oltre ad essere spesso influenzabile da emozioni o alterazioni.

La maggior parte delle persone alla guida invece solo per iniziare ha dimenticato buona parte del codice stradale studiato dopo il primo anno dalla patente e buona parte degli errori sono necessari ad ogni individuo per poter maturare consapevolezze o far esperienza.
Gli errori alla guida infatti spesso son sempre gli stessi indipendentemente dall'epoca.

Ma anche no, l'AI non è altro che un insieme di righe di codice, non si deteriora per niente.
Da quando il software si deteriora ?

Imho facendo un ragionamento generico e tralasciando la marca di quale auto in questione, qualcuno potrebbe chiedersi se a deteriorarsi possa essere uno delle migliaia di componenti elettronici (anche un solo transistor tra i miliardi di essi) su cui quelle righe di codice formano un programma che su quel componente fà totale affidamento. Ci saranno magari logiche di sicurezza per cui la macchina possa continuare a funzionare, ma non si puo' non pensare pensare che un veicolo fatto di componenti elettronici, semiconduttori, componenti passivi, meccanica, semplici connessioni (fili) deteriorabili etc... non abbiano vita probabilmente piu' limitata in termini di anni rispetto a quello che serve all'essere umano per guidare (occhi, orecchie, cervello, braccia, gambe, esperienza) che già ha a che fare con veicoli che possono guastarsi, infatti non e' che sia molto propenso all'aumento esponenziale di elettronica in veicoli che finiscono a dipendere dall'elettronica piu' che dalla meccanica.
Per cui il programma compilato sul quel codice potrebbe essere eterno ma tutta l'auto in una complessita' elettronica enorme (cosi' come un qualsiasi hardware che sia una motherboard di un computer) eterni non lo sono e chissà ipoteticamente potrebbe bastare un condensatore specifico difettoso per cui magari tutto quanto diventa instabile. E un conto e' una scheda madre che e' instabile, un conto un'auto lanciata a 100 all'ora che "scopre" questa instabilità.

Ad ogni modo riflettevo inoltre sul fattore responsabilità personale ma anche emotiva nel caso di ostacolo imprevisto. Oggigiorno a prescindere da chi in un incidente tra guidatore/i o eventuali terzi colpiti e' "responsabile" per cui le dinamiche possono essere complesse (es. uno che si butta sotto per estremi), una cosa e' certa chi e' alla guida farà "istintivamente" di tutto per evitarlo, non importa se era lui ad andare forte, se era una persona ad essersi buttata sotto, chi avra' la possibilita' di "tentare" l'impossibile, pur impossibile, lo tenterà. Questo solleva questioni boh filosofiche verrebbe da dire per cui in quel preciso istante tutto il resto del mondo non esiste... quel guidatore avra' magari uno o due secondi di tempo dilatati per relatività, in cui applicare tutto se stesso e tutta la sua esperienza in un estremo gesto per salvare la situazione fosse anche a costo della sua vita. Cosi' come quello che vedendo dalla spiaggia una persona sentirsi male in mare pur sapendo che e' improbabile il salvataggio, tenterà di buttarsi per semplice instinto di empatia e connessione tra umani..
Nessuna IA o AI come la si voglia declinare, potra' mai provare rimpianto di non aver tentato o orgoglio di aver tentato o piangere o gioire nel caso positivo o negativo della riuscita o meno del salvataggio. C'e' un fattore umano per cui per quanto ormai egli sia quotidianamente denigrato da ogni fronte possibile per archiviarlo come obsoleto, una macchina davvero intelligente forse lo "simulerebbe" dopo chissa quante migliaia di incidenti... ma sull' epitaffio di quelle persone cosa andrebbe scritto allora.. "Diedero la vita per il progresso della tecnica?".

Poi leggi del tipo che per non schiacciare un topo, entra dentro una processione di un funerale...

Se si parla per assurdo, un essere umano è infallibile, poi la realtà è che a fine anno si contano i morti, credo che nessuno si sogni che con la guida assistita si arrivi a zero, ma se saranno di meno, sarà comunque un successo.

Cio' non toglie che per quanto in quell' esempio ci sia un anomalia nella valutazione delle priorità, voglio credere che il guidatore non avrebbe voluto si arrivasse a quello e che magari (per quanto assurdo) avrebbe pensato di evitare facilmente il topo con una leggera correzione dello sterzo e che invece ha destabilizzato l'auto etc.. etc.. puo' essere che a prescindere da come la notizia immagino possa essere data "Investe tot persone per evitare un topo" magari le cose non sono andate cosi' assurdamente come si crede. Se un cane attraversa la strada cosa fate non cercate di evitarlo? Ma se nell'evitarlo la macchina perde aderenza e le risonanze di quella instabilita' creano un disastro di chi e' la colpa? Del guidatore, del cane che non doveva attraversare la strada, del padrone del cane, di una epoca in cui il cane e' quasi piu' importante dell'essere umano? Anche perche' se ipoteticamente e malauguratamente si investisse un animale domestico c'e' gente che e' stata linciata da esseri umani (ricordo in passati lontani fatti di cronaca) per situazioni simili e per assurdo anche queste logiche vanno ad aggiungersi e spiegare il "perchè" possano succedere certe cose, cose che non mi stupirebbe sarebbero potute succedere ad una intelligenza artificiale a meno che non ritenga il topo sacrificabile e il cane no o nessuno dei due o entrambi?

c'è un errore di fondo nel vostro ragionamento.
è l'auto-pilot (mai nome fu più azzeccato ) che assiste non il contrario.
Chi è alla guida deve far finta di non averlo, e in caso di errore/pericolo l'elettronica di bordo che assiste. Un pò quello che succede nelle ferrovie.

è chiaro che un sistema di questo tipo è progettato in modo da NON intervenire in caso di dubbio, per non essere invadente. (un sistema che dà assistenza deve essere per lo più trasparente al guidatore....).

A livello progettuale nulla da eccepire, così deve essere. Evidentemente c'è chi fa il figo si dimentica che la macchina va condotta come se non ci fosse.

Quanti incidenti con questo sistema sarebbe possibile evitare o comunque ridurne l'entità del danno, se ben usato?
Questa tecnologia già oggi è rivoluzionaria a mio modo di vedere, probabilmente perchè so cosa significa uscire dall'auto letteralmente con le ossa rotte.

certo che sei proprio rimasto alle concezioni ottocentesche...
non esemplifico tanto non capiresti, e applico direttamente quel che diceva Oscar Wilde...

Mica tanto! Confermi quello che avevo detto!

Certo ed è quello che io critico. Io ho una normalissima Hyundai Tucson con cruise control adattivo:
- tiene le distanze meglio di me;
- frena meglio di me;
- si distrae meno di me

Però Hyundai lo chiama "cruise control adattivo", mentre Tesla lo chiama e lo promuove come "autopilot", per ottenere un gran stupore e un aumento delle vendite ben sapendo che qualcuno prima o poi sarebbe morto.

Ora qua siamo addirittura ai pedoni non visti. Qui è proprio mettere in produzione un software in alpha test (neanche beta test), quindi è una TRUFFA, un approfittarsi della temporanea mancanza di una normativa.

Ma che risposta è? Hai presente la frase "requisiti minimi per uso professionale"?

Vediamo se capisci la differenza fra:
- un chirurgo che ti opera senza aver mai preso in mano un bisturi prima, sbaglia tutto e ti dice: "però grazie a te il prossimo si salva"
- un chirurgo esperto che, in un intervento difficile, non riesce ad ottenere il risultato previsto, ma tu comunque non muori.

La differenza è che il primo NON È AUTORIZZATO a toccare nessun essere umano!! E non è che arriva la Tesla con "noi siamo fichi, americcani e innovators" quindi se muore qualcuno è per il progresso. No mi spiace, se muore qualcuno è perché siete volutamente incompetenti per risparmiare soldi. Guardate Google, è da 10 anni che investe barcate di soldi e fa 10 milioni di km di test e non ha messo ancora in vendita la guida automatica. Questi arrivano e in due/tre anni vendono una cosa che non funziona...

tesla sterza anche, credo. E' una differenza notevoleissima (a patto che funzioni ovviamente)