Taxi a guida autonoma si bloccano tutti insieme a San Francisco: Cruise costretta a intervenire

A forma di supposta scivolerebbe meglio nel traffico

Al momento non mi pare che per i sistemi a guida autonoma delle automobili sia dimostrata la correttezza formale, non è disfattismo, è realismo.

Il punto non è tanto l'errore in se (anche se in questi contesti può avere conseguenze gravi, ergo parliamo di roba mission-critical per definizione), il problema è di tipo legale.

Chi è che si prende la responsabilità legale (penale) per un sistema che è di base già poco affidabile e che può diventare a tutti gli effetti molto pericoloso in presenza di avversari?

Sicuramente un campo nuovo dove la giurisprudenza dovrà tracciare delle linee guida.
Coi sistemi di guida assistita a vari livelli che trovi ora sulle auto (Cruise control ecc) sei comunque tu il responsabile.
Domani, in presenza di auto a totale guida autonoma e prive di comando manuali ovviamente sarà il gestore del sistema.

In una fase di transizione come adesso e nei prossimi anni non nego ci sarà parecchia confusione ed anche casi stravaganti

E perchè mai dovrebbe essere dimostrata una correttezza formale? Non è un algoritmo di crittografia. La correttezza formale non ha applicazione in questo genere di software.
Del resto per la guida umana che accettiamo con tanta naturalezza non mi pare che sia richiesta alcuna verifica di correttezza formale.

Per la responsabilità in caso di incidente, secondo me la strada è una sola: se ti affidi ad un'auto a guida autonoma, questa deve essere di chi commercializza l'auto.
Del resto se prendi un taxi (il sistema taxi+autista è a guida "autonoma" per il passeggero), la responsabilità di un eventuale incidente non è certo tua.
Resteranno più complessi i casi intermedi, per esempio auto a guida assistita o auto a guida autonoma con possibilità di guida manuale o di sistemi di guida autonoma che risentono delle decisioni del passeggero (guida lui, ma puoi dirgli tu dove passare, per esempio di imboccare una strada contro mano, in tal caso la responsabilità sarebbe tua).

Io ho paura che le assicurazioni/produttori in caso di sinistro cercheranno di addossare la colpa al cliente. Ho paura che ci si dovrà difendere anche in tribunale.

Anche perché se un’auto a guida autonoma fa un incidente potenzialmente tutte le auto di quel tipo potrebbero farlo, sai che casino normativo ?

Non so ho paura che potrebbe essere complicata la faccenda.

Sicuro Comunque io non vorrei pagare l’assicurazione se l’auto viene guidata da un computer

Sai com'è, il codice della strada esiste proprio per evitare che ognuno faccia come gli pare (come ogni altra regola della società civile): il fatto che ci siano idioti che non lo rispettano non significa certo che sia una "tortura". Ma d'altronde su questo forum si leggono cose incredibili riguardo al codice della strada (resta famoso il post di qualcuno di diversi anni fa "i limiti di velocità me li faccio io".....
Se ti vuoi sfogare al volante, vai in pista e fallo lì....

Un sistema automatico che prende decisioni pressoché complete sulla guida, per quanto mi riguarda, dovrebbe essere classificato mission-critical: un errore può portare conseguenze gravi, ad esempio perdita di vite umane.

Vedi ad esempio il controllo di volo di un aereo o apparecchi medicali il cui funzionamento dev'essere *sempre* garantito.

In quel caso la correttezza formale si traduce nel garantire il rispetto di scadenze hard real-time in task periodici, possibile usando la teoria di scheduling real-time. Anche lì chiaramente vi possono essere decisioni prese sulla base di valori di sensori, ma questi tipicamente sono molto più semplici e non richiedono alcuna inferenza.

Il sistema operativo, il compilatore che lo produce, e l'hardware che lo esegue (spesso molto semplice e/o vecchio) devono essere certificati.

Chiaramente questo non significa che su tutti questi vi sia una verifica strettamente formale, ma stai pur certo che ogni singola istruzione assembly è stata verificata.

In ogni caso parliamo di sistemi estremamente più semplici (tecnicamente) di roba che fa appunto inferenza o detection di oggetti, in cui per altro bisognerebbe anche garantire che la fase di learning sia stata fatta correttamente (ad esempio definendo procedure standard).



Beh, tecnicamente devi fare un esame per prendere la patente, ma lo so che in molti casi è una pagliacciata.



Secondo me affidarsi a sistemi tecnicamente più semplici lì dove è possibile, ad esempio in autostrada, sarebbe più semplice che affidarsi a sistemi che fanno inferenza.

no, ma oggi come oggi costa meno usare un'auto tirata in milioni di esemplari che una fatta apposta. E poi che forma vorresti avere? al max togli volante e cruscotto, il resto sarebbe uguale... di certo l'esterno non c'è motivo di farlo diverso.



io sono già molto incazzato dei milioni di coglioni che causano incidenti sulel strade e mi fanno stare in coda, perdendo il MIO tempo perchè LORO guidano da teste di cazzo e causano problemi.
ogni volta che c'è coda in autostrada farei pagare ai colpevoli le ore di stipendio perse da tutti quelli che stanno in coda... togliendogli casa, auto, conto in banca e facendoli lavorare per tutta la vita gratis.
sono sicuro che si venderebbero solo più auto con 10 cv di potenza e v max di 15 km/h, e si circolerebbe molto più velocemente.


anche no. alla fine perchè cambiare forma agli esterni? non c'è alcun motivo tecnico reale. L'unica cosa che potrebbe cambiare sono esclusivamente gli interni.

ma non è il banale "divertirsi al volante" il problema, il mio era un discorso più ampio. autoquoto un post di un altro thread

@WarDuck

Mi pare tu stia facendo un po' di confusione utilizzando i termmini mission critical, correttezza formale e task real time.
Oltretutto il funzionamento real-time del sistema è la cosa di cui meno dovresti preoccuparti, i sistemi autonomi prendono decisioni sulla guida molto più velocemente di qualsiasi guidatore umano.

Direi che l'esame della patente, anche se fatto nella maniera più seria possibile, sia ben lontano da una verifica di correttezza formale.

Anche in autostrada può accadere l'imponderabile, un animale che riesce ad attraversare, un'altra auto che sbanda, un camion che perde parte del carico, condizioni meteo estreme.
Un sistema estremamente semplice e incapace di gestire situazioni anomale non sarebbe una soluzione a cui vorrei affidarmi.

La guida è qualcosa di molto complesso, non esisterà mai un sistema formalmente corretto e, diciamolo pure, non serve. Come non serve cercare la perfezione, per trarre vantaggio dai sistemi autonomi sarebbe sufficiente che nel complesso facessero significativamente meglio della guida umana, e a questo traguardo credo non tarderemo troppo ad arrivare (per demerito della guida umana, chiaramente).