Quando un sistema di IA progettato per eseguire decisioni autonome commette un errore chi ne è legalmente responsabile?
A differenza di un qualunque strumento tecnologico tradizionale, un sistema di IA avanzato non si limita a eseguire passivamente le istruzioni umane. Esso apprende dai dati, prende decisioni e agisce in modi che possono essere imprevedibili e non direttamente riconducibili a una specifica volontà del suo programmatore.
Nuove possibilità ma anche nuove problematiche
L’intelligenza artificiale non è più una tecnologia da film di fantascienza ma è una presenza reale e pervasiva nei settori più critici delle attività umane. Dalla guida autonoma delle auto ai sistemi di trading finanziario, dalle diagnosi mediche fino all’utilizzo nei conflitti armati, l’IA è in grado di fornire una efficienza e una precisione senza precedenti. Tuttavia, proprio questa capacità di operare in modo autonomo rende difficile applicare i tradizionali modelli di responsabilità, che si basano su un rapporto di causa-effetto tra un’azione umana, o una sua omissione, e il danno prodotto.
Il punto centrale risiede nel problema della scatola nera ovvero nel fatto che molti modelli di IA, specialmente quelli basati sul deep learning, sono molto complessi. In alcuni casi nemmeno i loro stessi creatori possono spiegare il processo decisionale che ha portato a un determinato output. Senza una chiara comprensione del perché l’IA ha compiuto una scelta errata, diventa estremamente complesso individuare un preciso comportamento umano negligente o doloso da cui far scaturire la responsabilità.
La responsabilità civile in una nuova direttiva Ue
In ambito civilistico, la responsabilità per danni causati dall’IA si scontra con la difficoltà di provare il nesso tra danno e colpa. Il diritto italiano, come gran parte degli ordinamenti europei, ha storicamente affrontato il problema attraverso il concetto di “prodotto difettoso”.
La nuova direttiva della Ue sulla responsabilità per Danni da prodotti difettosi (Pld), che dovrà essere recepita dagli Stati membri entro dicembre 2026, rappresenta un passo avanti significativo. Essa amplia la definizione di “prodotto” per includere esplicitamente il software e i sistemi di IA, e di “produttore” per includere non solo i creatori, ma anche chi apporta modifiche sostanziali al sistema o lo commercializza con il proprio marchio.
Questa evoluzione normativa mira a garantire che ci sia sempre un operatore economico nella catena del valore a cui poter chiedere conto. Tuttavia, per il danneggiato, l’onere della prova rimane una barriera formidabile. Dimostrare che il danno è stato causato da un difetto del sistema IA, piuttosto che da un uso improprio o da un’interazione imprevista con l’ambiente, è spesso un’impresa titanica.
Il ruolo dell’errore umano
Per superare questo scoglio, il legislatore europeo ha introdotto meccanismi procedurali come le presunzioni di difettosità. Ad esempio, se il produttore rifiuta di fornire le prove di cui dispone, o se il prodotto non rispetta i requisiti di sicurezza obbligatori, si può presumere che il difetto abbia causato il danno. In Italia, i decreti attuativi dell’AI Act hanno già introdotto strumenti simili, come l’accesso alla documentazione tecnica del sistema e una presunzione di causalità a favore del danneggiato.
Un approccio alternativo, sperimentato in Italia, è quello di ribadire con forza il principio antropocentrico, specialmente in settori delicati come quello professionale. Per medici, avvocati e ingegneri, la responsabilità rimane saldamente in capo al professionista, che non può delegare le sue decisioni all’IA ma deve usarla come strumento di supporto, formandosi adeguatamente.
La responsabilità penale
Se la responsabilità civile è complessa, quella penale è un vero e proprio campo minato. Il diritto penale si fonda su due pilastri: l’azione (o l’omissione) che ha causato il danno e l’elemento soggettivo e cioè il dolo volontario e consapevole. È proprio sull’elemento soggettivo che l’IA fa inciampare i tradizionali schemi giuridici. Come si può imputare un dolo a un sistema privo di coscienza, libero arbitrio o intenzioni morali?
Su questo punto la dottrina si divide. Alcuni studiosi sostengono che sia impossibile attribuire una “mente colpevole” a un’entità non umana, e che la responsabilità penale debba sempre e comunque ricadere su un soggetto umano (lo sviluppatore, il produttore, l’utilizzatore) che ha agito con negligenza o dolo.
In questa prospettiva, l’IA è un mero strumento, e la responsabilità si valuta in base al comportamento del suo gestore. Un esempio concreto di come si stia affrontando il problema è la recente introduzione in Italia dell’articolo 437–bis del codice penale, che punisce chi non adotta le misure di sicurezza nei sistemi IA ad alto rischio o li altera, mettendo in pericolo la vita o la sicurezza pubblica. La norma non criminalizza l’errore dell’IA in sé, ma la condotta umana, o organizzativa, che ha reso possibile quell’errore. L’azienda, inoltre, può essere chiamata a rispondere ai sensi del Decreto Legislativo 231/2001 per la responsabilità amministrativa da reato.
La IA nei conflitti armati
L’applicazione dell’Intelligenza Artificiale nei conflitti armati (sia essa IA generativa usata come supporto decisionale per individuare bersagli, o IA operativa integrata in sistemi d’arma autonomi, i cosiddetti LAWS o robot killer) non cancella l’obbligo di individuare un colpevole umano.
Il Diritto internazionale umanitario (Diu) stabilisce che non esistono zone franche dal diritto. Di conseguenza, la responsabilità penale internazionale per crimini di guerra o malfunzionamenti letali ricade su specifiche figure umane, secondo una precisa catena di comando e sviluppo.
La necessità di avere nuove regole
Il panorama normativo è in rapida evoluzione. L’Unione europea, con l’AI Act, ha scelto un approccio “ex ante” basato sul rischio, imponendo obblighi stringenti ai fornitori e utilizzatori di sistemi ad alto rischio, nella speranza di prevenire i danni piuttosto che limitarsi a ripararli. In parallelo, si cerca di adattare le norme sulla responsabilità “ex post“, come dimostra la nuova Direttiva Prodotti.
In conclusione, non esiste una risposta univoca al problema della responsabilità per gli errori dell’IA. La sfida per i giuristi, i legislatori e gli operatori del settore è quella di costruire un quadro di regole che sia al contempo efficace nel proteggere i cittadini, giusto nell’attribuire le responsabilità e, allo stesso tempo, capace di non soffocare l’innovazione tecnologica. Un equilibrio delicato, in cui il diritto dovrà dimostrare tutta la sua capacità di adattarsi a una situazione complessa e, comunque, già operativa.
Nicola Sparvieri
Foto © FederPrivacy, Versoilfuturo, CyberSecurity Italia, Agendadigitale.eu, SOS WP
