L'intelligenza artificiale nel procedimento amministrativo

| 08/04/2020 13:46


Commento a cura dell'Avv. Marina Chiarelli



L'intelligenza artificiale è entrata prepotentemente nel mondo del diritto.


Frutto di sistemi di intelligenza artificiale sono gli smart contract, ovvero quei contratti che si concludono attraverso l'utilizzo di software che determinano la nascita di rapporti obbligatori.


Alcuni esempi di smart contract si rinvengono nel mercato degli e - commerce, in cui il sistema di compravendite viene gestito tramite procedure automatizzate, senza che le parti entrino in contatto diretto.


Nel settore degli autoveicoli, poi, le automobili sono in grado di fornire informazioni sui comportamenti del conducente potenzialmente idonei a creare clausole contrattuali capaci di incidere sul costo della polizza.


Nel campo del diritto amministrativo vi sono dei casi in cui l'esercizio del potere avviene attraverso procedure automatizzate che, tramite un algoritmo, sono in grado di emanare provvedimenti amministrativi.


La giurisprudenza ha già affrontato questioni in cui l'uso di nuove tecnologie rimette all'intelligenza artificiale la cura concreta dell'interesse pubblico.


Con la sentenza 2270 dell'8 aprile 2019 il Consiglio di Stato dimostra di considerare positivamente l'uso nei procedimenti amministrativi delle nuove tecnologie informatiche e, in particolare, di algoritmi purché coerenti con i principi di efficienza ed economicità dell'azione amministrativa e con il principio costituzionale del buon andamento. In tale contesto il giudice amministrativo ha precisato che possono essere utilizzati algoritmi nelle procedure valutative della P.A. a patto che siano garantite trasparenza e possibilità di verifica in sede giurisdizionale.


L'uso di algoritmi e di procedure automatizzate deve essere considerato a tutti gli effetti come un "atto amministrativo informatico" poiché regola amministrativa costruita dall'uomo e, in quanto tale, necessariamente sottostante a principi di ragionevolezza, proporzionalità, pubblicità e trasparenza. In ogni caso gli algoritmi non possono essere usati per decisioni aventi natura prettamente discrezionale e devono comunque essere sottoposti "al pieno sindacato del giudice amministrativo".


Più recentemente il Consiglio di Stato ha affermato con sentenza n. 8472 del 2019 la possibilità di affidare il procedimento di formazione della decisione amministrativa a un software, nel quale vengono immessi una serie di dati così da giungere, attraverso l'automazione della procedura, alla decisione finale.


I giudici riconoscono l'utilità di tale modalità operativa di gestione dell'interesse pubblico, particolarmente evidente con riferimento a procedure seriali o standardizzate, implicanti l'elaborazione di ingenti quantità di istanze e caratterizzate dall'acquisizione di dati certi ed oggettivamente comprovabili e dall'assenza di ogni apprezzamento discrezionale.


Il ricorso all'algoritmo nel procedimento amministrativo, pienamente ammissibile, deve correttamente essere inquadrato in termini di modulo organizzativo, di strumento procedimentale ed istruttorio, soggetto alle verifiche tipiche di ogni procedimento amministrativo, il quale resta il modus operandi della scelta autoritativa, da svolgersi sulla scorta della legislazione attributiva del potere e delle finalità dalla stessa attribuite all'organo pubblico, titolare del potere.


Data la generale ammissibilità dell'algoritmo nell'esercizio dell'attività amministrativa, assumono rilievo fondamentale due aspetti preminenti, quali elementi di minima garanzia per ogni ipotesi di utilizzo di algoritmi in sede decisoria pubblica come la piena conoscibilità a monte del modulo utilizzato e dei criteri applicati e l'imputabilità della decisione all'organo titolare del potere, il quale deve poter svolgere la necessaria verifica di logicità e legittimità della scelta e degli esiti affidati all'algoritmo.


Anche la pubblica amministrazione deve in sostanza poter sfruttare le rilevanti potenzialità della c.d. rivoluzione digitale. In tale contesto, il ricorso ad algoritmi informatici per l'assunzione di decisioni che riguardano la sfera pubblica e privata si fonda sulla possibilità di garantire efficienza e neutralità.


In molti campi, infatti, gli algoritmi sembrano rappresentare lo strumento attraverso il quale correggere le storture e le imperfezioni che caratterizzano tipicamente i processi cognitivi e le scelte compiute dagli esseri umani. In tale contesto, le decisioni prese dall'algoritmo assumono un'aura di neutralità, frutto di asettici calcoli razionali basati su dati.


I vantaggi sembrano, dunque, essere notevoli, ma non va dimenticato che in relazione ai soggetti coinvolti si pone anche un problema di gestione dei relativi dati.


Nelle attività di trattamento dei dati personali possono essere individuate due differenti tipologie di processi decisionali automatizzati: quelli che contemplano un coinvolgimento umano e quelli che, al contrario, affidano al solo algoritmo l'intero procedimento.


Il più recente Regolamento europeo in materia di protezione dei dati personali (2016/679), concentrandosi su tali modalità di elaborazione dei dati, integra la disciplina già contenuta nella Direttiva 95/46/CE con l'intento di arginare il rischio di trattamenti discriminatori per l'individuo che trovino la propria origine in una fiducia esclusiva nell'utilizzo degli algoritmi.


In particolare, in maniera innovativa rispetto al passato, gli artt. 13 e 14 del Regolamento stabiliscono che nell'informativa rivolta all'interessato venga data notizia dell'eventuale esecuzione di un processo decisionale automatizzato, sia che la raccolta dei dati venga effettuata direttamente presso l'interessato sia che venga compiuta in via indiretta.


Una garanzia di particolare rilievo viene riconosciuta allorché il processo sia interamente automatizzato essendo richiesto, almeno in simili ipotesi, che il titolare debba fornire "informazioni significative sulla logica utilizzata, nonché l'importanza e le conseguenze previste di tale trattamento per l'interessato". In questo senso, in dottrina è stato fatto notare come il legislatore europeo abbia inteso rafforzare il principio di trasparenza che trova centrale importanza all'interno del Regolamento.


In tema di imputabilità va, poi, richiamata la Carta della Robotica, approvata nel febbraio del 2017 dal Parlamento Europeo, secondo la quale "l'autonomia di un robot può essere definita come la capacità di prendere decisioni e metterle in atto nel mondo esterno, indipendentemente da un controllo o un'influenza esterna; tale autonomia è di natura puramente tecnologica e il suo livello dipende dal grado di complessità con cui è stata progettata l'interazione di un robot con l'ambiente.
Nell'ipotesi in cui un robot possa prendere decisioni autonome, infatti, le norme tradizionali non sono sufficienti per attivare la responsabilità per i danni causati dallo stesso, in quanto non consentirebbero di determinare qual è il soggetto cui incombe la responsabilità del risarcimento né di esigere da tale soggetto la riparazione dei danni causati".


Quindi, anche al fine di applicare le norme generali e tradizionali in tema di imputabilità e responsabilità, occorre garantire la riferibilità della decisione finale all'autorità ed all'organo competente in base alla legge attributiva del potere.


In conclusione l'uso degli algoritmi è sicuramente utile e anzi auspicabile, ma deve necessariamente tener conto di diversi limiti in grado di tutelare tutti gli interessi coinvolti.

Vetrina