Botta e risposta con Elon Musk e John Elkann: "una Ferrari a guida autonoma sarebbe triste"

Ma non penso proprio. La condizione per un reato penale è la colpa, devi aver commesso una negligenza senza la quale il reato non sarebbe stato commesso. Se finisci su quel marciapiede perché era inevitabile il problema torna ad essere di natura civile, e per queste cose c'è un'assicurazione chiamata appunto Responsabilità Civile Auto, che paghiamo obbligatoriamente e che continueremmo a pagare anche con le auto a guida autonoma.

L'AI può fare errori, ma non commettere negligenze, sarebbe un paradosso perché negligenza significa che tu sapevi qual era il comportamento giusto da tenere, ma hai scelto di ignorarlo e fare altrimenti. L'AI se fa una scelta è perché è convinta che sia la scelta giusta, anche se poi non si dovesse rivelare tale.

A parte trovare situazioni assurde e improbabili, una ia potrà fare un morto, a quel punto come nel caso di incidente fra umani l'RCA dell'auto risarcirà il danno e la società che ha prodotto il software correggerà l'errore e potrà essere giudicata per stabilire se ci siano state negligenze o colpe o dolo cos'altro vorresti?

PS se per evitare un tamponamento finisci su una folla, evidentemente hai infranto un bel po' di regole del CDS a partire dal rispetto della distanza di sicurezza

se ti scoppia una gomma? se si rompono i freni? perndi una buca e perdi il controllo?
o la ia semplicemente (come è successo) scambia una ambulanza per un semaforo?

tutti quando fanno una scelta pensano che sia quella giusta

P.S. l'assicurazione obbligatoria non è scontata ci sono paesi che gli USA che è una opzione

Prima di tutto io sono favorevolissimo all'introduzione dell'IA.
Sono io che ho postato i dati ANIA dove si evince che la maggior parte degli incidenti sono dovuti a cause prettamente umane.
Secondo me ci sono buone probabilità che già oggi un IA faccia meglio (o meno peggio) di un guidatore umano.
Tuttavia non mi piace ragionare da "tifoso".
Il fatto che la mia "squadra" sia quella dell'IA non mi impedisce di osservare che per riuscire ad introdurre la guida totalmente autonoma bisogna superare due problemi.
Il primo è quello dell'accettazione (è a questo che mi riferivo quando dicevo che giustifichiamo il comportamento umano, non certo a deresponsabilizzazione).
Accettiamo che un essere umano possa errare, ma dalle IA si "pretende" la perfezione.
Bastano pochi incidenti "pacchiani" (come quello di non riuscire a riconoscere un veicolo di soccorso fermo e sbatterci contro) per far sì che la guida autonoma non venga accettata dalla società.

Il secondo problema è quello prettamente etico.

Esempio tratto da una pubblicazione sul sito del Ministero dell'Economia e Finanza:

"Rispettare il principio del primum non nocere
(principle of non maleficence).
La realizzazione di tecnologie controllate da sistemi di IA porta con sé una serie di problemi legati al governo dell’autonomia gestionale. Gli artefatti IA hanno la capacità di mutare il loro comportamento in base alle condizioni in cui operano.
Come realizzare un test etico per l’IA
La libertà decisionale deve essere governata da una
artificial moral agent, ovvero una
moralità artificiale nei sistemi di IA.
La regola di base degli artefatti IA rispondenti a tale operatività è quella
di comportarsi in maniera da scegliere sempre il male minore in accordo con l’esperimento ideale circa la situazione del carrello"
(cfr. Philippa Foot & Judith Jarvis)

https://www.mef.gov.it/inevidenza/2...ale_-_SOGEI.pdf

La IA deve mantenere la propria direzione e frenare in caso di ostacolo, se la capacità computazionale lo permette allora può pensare di schivare l'ostacolo senza causare altri incidenti.
Se ho un pedone al centro, auto nell'altro senso di marcia e alberi (o fosso) sulla dx, cerco di schivare ma se risulta impossibile allora devo semplicemente frenare (e quindi investire il pedone). Io non ho il potere per capire quale sarà il male minore (l'auto opposta potrebbe essere di una mamma incinta (e quindi anche senza cinture) e l'albero potrebbe causare l'incendio della mia auto).

Semplifichiamo l'esempio e leviamo la possibilità dell'auto nell'altro senso di marcia.
Rimangono le due possibilità: investire il pedone (inerme) o urtare contro un albero (con cinture allacciate ed airbag attivi).
Sicuro che sia il pedone il male minore?


Ma facciamo un esempio più celebre: quello del tram.

Ad un gruppo di persone è stato posto questo quesito:
un tram procede su un binario dove sono state legate cinque persone.
L'autista non ha la possibilità di frenare in tempo, può solo azionare lo scambio per deviare su un altro binario dove però è stata legata un'altra persona; cosa deve fare l'autista?
La maggior parte (già qui c'è diversità di vedute) ha ritenuto moralmente lecito deviare il percorso.

Alle stesse persone è stata poi proposta una variante dello stesso quesito:
il tram è fuori controllo senza nessuno a bordo e sul binario sono legate le 5 persone.
Non c'è nessuno scambio, ma sulla banchina c'è un uomo grasso, talmente grasso che se venisse spinto sui binari farebbe deragliare il tram e salvare le 5 persone.
La maggior parte delle persone ha ritenuto moralmente illecito spingere l'uomo grasso sui binari.

Di questo dilemma ne sono state poste tante altre varianti ed è assolutamente applicabile anche alle IA (se state aspettando il treno vi consiglio di controllare che nelle vicinanze non vi siano robot che possano spingervi sui binari ).

Il problema etico non è un problema matematico che ha una soluzione, ma è un problema morale e come tale necessita di essere affrontato e condiviso perchè la morale non sempre è univoca (anche per il medesimo soggetto).
Se vogliamo che la guida autonoma venga introdotta, non possiamo pretendere che il problema etico venga "risolto" in laboratorio.

ok quindi mi pare di capire che non frega niente a "nessuno" dei difensori delle IA della responsabilità del morto..

Semplifichiamo l'esempio e leviamo la possibilità dell'auto nell'altro senso di marcia.
Rimangono le due possibilità: investire il pedone (inerme) o urtare contro un albero (con cinture allacciate ed airbag attivi).
Sicuro che sia il pedone il male minore?

La maggior parte delle persone ha ritenuto moralmente illecito spingere l'uomo grasso sui binari.

Se vogliamo che la guida autonoma venga introdotta, non possiamo pretendere che il problema etico venga "risolto" in laboratorio.