di Avv. TOMMASO ROSSI (RPC Studio Legale)
Se il diritto civile è chiamato a disciplinare prevalentemente le conseguenze economiche dell’impiego dell’Intelligenza Artificiale, il diritto penale si confronta con questioni ancora più delicate. In questo ambito, infatti, non sono in gioco soltanto interessi patrimoniali, ma valori costituzionali primari quali la libertà personale, la presunzione di innocenza, il diritto di difesa e il giusto processo.
L’utilizzo di sistemi di IA nell’attività investigativa, nella prevenzione dei reati o nell’analisi di grandi quantità di dati apre prospettive di indubbia utilità operativa, ma pone al contempo interrogativi che il legislatore, la giurisprudenza e la dottrina stanno affrontando con crescente attenzione.
La domanda fondamentale è semplice solo in apparenza: fino a che punto possiamo affidare ad un algoritmo decisioni che incidono sui diritti fondamentali della persona?
Chi risponde quando un sistema di IA provoca un illecito?
Uno dei primi equivoci da superare riguarda l’idea, spesso alimentata dal linguaggio giornalistico, secondo cui sarebbe “l’Intelligenza Artificiale” a commettere un errore o addirittura un reato.
Dal punto di vista giuridico questa affermazione è impropria.
L’Intelligenza Artificiale non possiede personalità giuridica, non è titolare di diritti né di obblighi e, soprattutto, non è dotata di quella coscienza e volontà che costituiscono il presupposto della responsabilità penale personale sancita dall’articolo 27 della Costituzione.
Il nostro ordinamento continua quindi a fondare la responsabilità penale sulla condotta umana.
Ciò significa che, anche quando un evento dannoso sia causalmente collegato all’utilizzo di un sistema di IA, occorrerà individuare la persona fisica o, nei casi previsti dal D.Lgs. 231/2001, l’ente cui il fatto possa essere giuridicamente imputato.
L’attenzione dell’interprete dovrà quindi concentrarsi sull’intera filiera decisionale:
- chi ha progettato il sistema;
- chi lo ha addestrato;
- chi ha selezionato i dati di training;
- chi lo ha commercializzato;
- chi lo ha implementato;
- chi ha deciso di utilizzarlo;
- chi aveva il dovere di controllarne il funzionamento.
È proprio questa frammentazione delle responsabilità a rappresentare una delle principali novità introdotte dall’Intelligenza Artificiale.
L’algoritmo come strumento, non come decisore
Dal punto di vista penalistico, l’algoritmo deve essere considerato uno strumento tecnologico.
La responsabilità continuerà pertanto ad essere valutata secondo i tradizionali criteri del diritto penale:
- condotta;
- evento;
- nesso di causalità;
- elemento soggettivo;
- prevedibilità dell’evento;
- evitabilità del danno.
Naturalmente l’accertamento diventa molto più complesso quando il funzionamento del sistema non è perfettamente conoscibile nemmeno da parte dei suoi sviluppatori.
È il fenomeno comunemente definito come black box, vale a dire l’opacità dei processi decisionali dei sistemi più evoluti di Intelligenza Artificiale.
Più aumenta l’autonomia del sistema, maggiore diventa l’esigenza di documentarne il funzionamento, conservarne i registri operativi (log), garantire tracciabilità e assicurare la possibilità di ricostruire il percorso logico che ha condotto ad una determinata decisione.
Non è un caso che tali esigenze costituiscano uno dei pilastri dell’AI Act.
IA e attività investigativa: opportunità e limiti
L’Intelligenza Artificiale è già oggi utilizzata, in diversi ordinamenti, per supportare le attività investigative.
Tra gli impieghi più frequenti figurano:
- analisi di grandi basi di dati;
- individuazione di collegamenti tra soggetti;
- riconoscimento di immagini;
- trascrizione automatica di conversazioni;
- analisi di contenuti digitali;
- supporto nelle indagini finanziarie;
- individuazione di anomalie documentali.
Si tratta di strumenti che possono aumentare significativamente l’efficienza investigativa.
Tuttavia, proprio perché incidono su diritti fondamentali, il loro utilizzo deve rispettare rigorosi principi di legalità, necessità e proporzionalità.
L’efficienza investigativa non può infatti trasformarsi in un indebito sacrificio delle garanzie costituzionali.
Il rischio della “prova algoritmica”
Uno dei temi più dibattuti riguarda la cosiddetta prova algoritmica.
Sempre più spesso software complessi elaborano dati dai quali possono derivare valutazioni utilizzate all’interno di un procedimento giudiziario.
Il problema non consiste tanto nell’impiego dello strumento informatico, quanto nella possibilità di verificare criticamente il procedimento seguito dall’algoritmo.
Il diritto di difesa presuppone infatti la possibilità di contestare ogni elemento posto a fondamento della decisione.
Se il funzionamento del sistema risulta opaco o non verificabile, diventa estremamente difficile esercitare un effettivo contraddittorio.
Per questa ragione appare difficilmente compatibile con il nostro sistema processuale qualsiasi decisione fondata esclusivamente sull’esito prodotto da un algoritmo non conoscibile.
L’Intelligenza Artificiale può certamente costituire un importante strumento di supporto all’attività investigativa e valutativa, ma non può sostituire il libero convincimento del giudice né comprimere il diritto delle parti a conoscere e contestare gli elementi di prova.
Il principio del “controllo umano significativo”
L’AI Act introduce un principio destinato ad assumere rilievo ben oltre il perimetro del Regolamento: il meaningful human oversight, ossia la supervisione umana significativa.
Non è sufficiente che un essere umano intervenga formalmente nel procedimento decisionale.
Occorre che tale intervento sia reale, consapevole ed effettivo.
Chi assume la decisione finale deve poter:
- comprendere il funzionamento del sistema;
- valutare criticamente il risultato prodotto;
- correggerlo o disattenderlo;
- assumersene la responsabilità.
Questo principio appare perfettamente coerente con i valori costituzionali italiani.
Nel processo penale il giudice non può limitarsi a recepire automaticamente l’esito di un’elaborazione algoritmica.
L’attività valutativa resta, e deve restare, una funzione eminentemente umana.
Il contributo della giurisprudenza
Sebbene non esista ancora una giurisprudenza consolidata specificamente dedicata all’AI Act, numerose decisioni delle Corti nazionali ed europee hanno già elaborato principi destinati a guidare anche l’impiego dell’Intelligenza Artificiale.
La Corte costituzionale
La Corte costituzionale ha costantemente ribadito che ogni limitazione dei diritti fondamentali deve rispettare i principi di ragionevolezza, proporzionalità e uguaglianza.
Questi criteri assumono particolare rilievo quando decisioni automatizzate incidano sulla posizione giuridica dei cittadini, imponendo al legislatore e alle amministrazioni pubbliche di evitare meccanismi che producano effetti discriminatori o irragionevoli.
La Corte di Cassazione
Anche la Corte di Cassazione ha progressivamente valorizzato il principio della trasparenza degli strumenti tecnico-scientifici utilizzati nel processo.
Ogni elemento probatorio deve poter essere sottoposto al vaglio del contraddittorio, consentendo alle parti di verificarne attendibilità, correttezza metodologica e rilevanza.
Tale impostazione risulta pienamente compatibile con l’esigenza di rendere verificabili gli algoritmi impiegati nell’attività giudiziaria.
Il Consiglio di Stato
Particolarmente significativa è l’evoluzione della giurisprudenza amministrativa in materia di algoritmi decisionali.
In alcune importanti pronunce, il Consiglio di Stato ha affermato che l’utilizzo di procedure automatizzate nella Pubblica Amministrazione non può tradursi in una deresponsabilizzazione dell’autorità procedente.
L’algoritmo costituisce uno strumento di supporto, ma la decisione amministrativa deve restare imputabile all’amministrazione, che conserva il dovere di motivare l’atto e garantire trasparenza, verificabilità e controllo umano.
Si tratta di principi destinati ad assumere rilievo anche nel settore penale, dove le esigenze di tutela dei diritti sono, se possibile, ancora più intense.
La Corte di Giustizia dell’Unione Europea
La Corte di Giustizia ha più volte affermato che l’innovazione tecnologica non può comprimere il nucleo essenziale dei diritti fondamentali garantiti dall’ordinamento europeo.
In materia di trattamento automatizzato dei dati personali, le sue decisioni hanno progressivamente rafforzato i principi di proporzionalità, minimizzazione dei dati, trasparenza e tutela giurisdizionale effettiva.
Sono orientamenti destinati a dialogare strettamente con l’AI Act.
La Corte Europea dei Diritti dell’Uomo
Anche la Corte EDU ha sviluppato una consolidata giurisprudenza sul rapporto tra nuove tecnologie e diritti fondamentali.
In particolare, con riferimento all’articolo 6 della Convenzione, la Corte ha più volte sottolineato che il diritto ad un equo processo richiede la piena possibilità di conoscere e contestare gli elementi posti a fondamento della decisione giudiziaria.
Analogamente, con riferimento all’articolo 8 CEDU, è stato ribadito che ogni forma di sorveglianza tecnologica deve essere prevista dalla legge, perseguire uno scopo legittimo e risultare strettamente proporzionata.
Sono principi che costituiscono oggi il naturale quadro interpretativo entro il quale dovrà essere applicato anche l’AI Act.
Una nuova cultura della responsabilità
L’Intelligenza Artificiale impone agli operatori del diritto un cambiamento di prospettiva.
Non è sufficiente interrogarsi sull’efficienza dello strumento tecnologico.
Occorre chiedersi se esso sia compatibile con i principi costituzionali che governano il nostro ordinamento.
La tecnologia può rendere più rapide le indagini, migliorare l’organizzazione delle informazioni e supportare decisioni complesse.
Non può però sostituire il giudizio umano, eliminare il contraddittorio o attenuare le garanzie che rappresentano il fondamento dello Stato di diritto.
È proprio questa la sfida più importante che il diritto penale sarà chiamato ad affrontare nei prossimi anni: accompagnare l’innovazione senza rinunciare ai principi che costituiscono il patrimonio irrinunciabile della nostra democrazia costituzionale.
