robotica & giustizia

Avvocati, la professione alla prova dell'algoritmo

| 6/2/2020

Nel 2014 scrissi per questa rivista un breve articolo che esordiva così: «si chiama Watson ed è un personal computer pensante al quale stanno lavorando da qualche tempo alla IBM. Ancora il progetto è nella fase sperimentale, ma i ricercatori della nota azienda americana non disperano di riuscire a creare a breve un'intelligenza artificiale che sia in grado di elaborare dati in maniera ragionata e di dare risposte a domande del tipo "la vendita di videogame violenti dovrebbe essere vietata ai minori?"».

La notizia mi era servita per introdurre una breve riflessione sulla novità del processo telematico, che a quel tempo stava uscendo dalla fase di sperimentazione e si accingeva a divenire realtà.

Era, l'esperienza del processo telematico, una forma embrionale di intelligenza artificiale applicata alla giustizia della quale avevo immaginato sviluppi concludendo così le mie considerazioni: «certo, se poi un giorno divenisse realtà il computer in grado di dare risposte, anche alla domanda di giustizia, allora la società potrebbe fare a meno dei magistrati e degli avvocati. Lo Stato italiano ed i cittadini risparmierebbero senz'altro, ma vivremmo davvero in un mondo migliore?».

Mi sono concesso questa breve autocitazione perché, a distanza di appena qualche anno, la massiccia applicazione dell'informatica alla giustizia non è più fantascienza.

Con sempre maggiore insistenza si parla di "giustizia predittiva" e sull'argomento sono stati scritti anche interessanti saggi.

La "robotica" ha trovato spazio nella pubblica amministrazione, nell'ottica di accelerare una serie di attività e – perché no – di renderne più trasparente l'operato.

E l'utilizzazione della "robotica" nelle procedure amministrative è stata pure "sdoganata" dal Consiglio di Stato, secondo il quale è ben possibile "che il procedimento di formazione della decisione amministrativa sia affidato ad un software, nel quale vengono immessi una serie di dati così da giungere, attraverso l'automazione della procedura, alla decisione finale", purchè siano soddisfatte alcune condizioni e – tra queste – la "conoscibilità" dell'algoritmo che regola la procedura automatizzata (Consiglio di Stato 13.12.2019 n. 8472).

Che il futuro sia più prossimo di quanto si possa credere si desume dalla relazione del Presidente del Consiglio di Stato che, in occasione dell'inaugurazione dell'"Anno giudiziario", ha dedicato alcune riflessioni sulla ammissibilità e sulla utilizzazione dell'algoritmo nell'azione amministrativa, anche discrezionale.

Tutto ciò apre scenari certamente suggestivi ma non privi di criticità.

Affermare che l'algoritmo debba essere conoscibile è senz'altro opportuno, ma questo principio deve fare i conti con la realtà sociale in cui dovrebbe essere "calato": se è vero che gli ultimi dati restituiscono un quadro desolante circa la capacità di comprensione di un testo scritto, vi è da chiedersi se queste dilaganti lacune cognitive possano conciliarsi con la complessità di un algoritmo e con la sua comprensione, tanto più se si pensa che molto probabilmente la stragrande maggioranza dei cittadini non ha la più pallida idea di cosa sia un algoritmo.

In secondo luogo, non può trascurarsi un altro effetto: se negli ultimi secoli sono state le professioni intellettuali – con le loro competenze specialistiche – a mediare il rapporto tra il singolo individuo e la società nella sue molteplici articolazioni, presto a costoro potrebbe sostituirsi una ristretta cerchia di "sacerdoti", ossia coloro che l'algoritmo sanno elaborare e dalle cui decisioni potrebbero derivare conseguenze non prevedibili e non desiderabili: non a caso la decisione del Consiglio di Stato sopra richiamata si è soffermata su possibili effetti discriminatori che possono verificarsi a valle dell'algoritmo.

Infine, la velocità con la quale questa trasformazione potrebbe avvenire e che potrebbe marginalizzare ancora di più i cd. professionisti della conoscenza, potendo accadere che molte figure professionali siano sostituite da "macchine intelligenti": ed a questo riguardo la storia potrebbe insegnarci qualcosa perché dubito che i testimoni della rivoluzione industriale fossero perfettamente consapevoli di come l'automazione avrebbe sostituito il lavoro umano oppure che nel XX Secolo si potesse prevedere che, ad esempio, l'intervento umano nella catena di montaggio delle fabbriche sarebbe stato ridotto al minimo e sostituito dai computer.

In conclusione, questo sembra essere il futuro e non è certo nelle forze dei singoli impedire il cambiamento; bene sarebbe, però, non farsi prendere da facili entusiasmi e non sottovalutarne le conseguenze perché, dopo sei anni circa dal mio intervento sull'argomento, la domanda "vivremmo davvero in un mondo migliore" è ancora più attuale e cogente.

Vetrina