Norme sempre più artificiali, pensiero legale autoreferenziale, avvocati
burocratici, giudici robotici, popolo smobilitato: per quale ragione le emozioni
sono state rimosse da quella che definisce “tecnocrazia legale”?
Il rapporto tra diritto e nuove tecnologie è stato, negli ultimi cinquant’anni, particolarmente complesso e problematico, soprattutto in Italia.
Ciò ha portato, in molti casi, a una mancanza di coordinamento tra quello che dovrebbe essere il ruolo delle parti processuali (non solo il giudice ma, anche, gli avvocati, i cittadini e persino le Cancellerie) e il supporto che la tecnologia dovrebbe dare per migliorare, e non complicare, il processo.
Purtroppo, in Italia fin dagli anni Ottanta del secolo scorso, quando il computer è diventato “personal” ed è entrato nelle case e nelle vite di tutte le persone, il mondo del diritto non è stato particolarmente rapido nel comprendere i benefici di una simile, inarrestabile rivoluzione digitale che avrebbe avuto il suo apice nel 2000 e che ancora oggi cresce grazie all’intelligenza artificiale.
Questo perché il legislatore ha sempre interpretato la tecnologia come una minaccia per i diritti, con una interpretazione spesso motivata dall’ignoranza tecnologica (del resto, ciò che non si conosce fa paura…), e ha sempre voluto disciplinarla in un’ottica di rischio.
Al contempo, non si è mai creata una vera e solida infrastruttura informatica pubblica che potesse rendere la tecnologia “amichevole” e utile per il mondo giuridico.
Si pensi a ciò che è successo in periodo di pandemia, dove in molti casi il sistema è crollato e la funzione giurisdizionale si è bloccata.
Il timore di “rimozione delle emozioni” sussiste in alcune aree del diritto dove l’intervento dell’essere umano è fondamentale: si pensi al penale, al diritto di famiglia, a questioni che possano riguardare soggetti vulnerabili.
Al contempo, però, la tecnologia potrebbe semplificare, velocizzare e portare a una riduzione di costi in tutti quegli ambiti ripetitivi, poco impegnativi intellettualmente, di pura organizzazione che al momento portano via tantissimo tempo agli operatori ma che, con una infrastruttura informatica efficiente, si potrebbero gestire meglio.
Si ricordi infatti che la tecnologia è utile al professionista soltanto nel momento in cui semplifica la vita professionale, non quando rende le questioni ancora più complesse.
Paul Celan asseriva: “Non dividere il sì dal no!”. Nella coabitazione di bene e male, eternità e tempo, verità e menzogna, colpa e destino, che s’annida la drammaticità dell’emettere un giudizio?
Purtroppo, nei prossimi mesi, e anni, la distinzione tra vero e falso sarà sempre più complessa da individuare.
I sistemi di intelligenza artificiale pensati per creare il deep fake, il falso profondo, stanno già preoccupando grandi giuristi e filosofi negli Stati Uniti d’America proprio su questo punto: la possibilità di scardinare l’intero sistema.
Viene rappresentata, in particolare, una situazione nella quale il bugiardo, in processo, sarà sempre più in una posizione di vantaggio processuale nel momento in cui i contenuti falsi non si potranno più distinguere da quelli veri.
Si pensi all’aumento di tempo processuale necessario per fare perizie per valutare se un documento vero sia falso o vero (perché così richiesto dalla controparte in malafede) o, ancora, l’aumento di costi per simili complesse attività.
L’intelligenza artificiale sta manifestando, tra le altre cose, questa incredibile capacità di confonderci in maniera realistica su ciò che sia falso e ciò che sia vero. Quest’anno sarà, in particolare, terribile sul punto: sarà un anno elettorale, sia in Europa sia negli USA, e un anno di guerre continue. I due contesti, quello pre elettorale e quello di guerra, sono momenti ideali per la generazione di contenuti falsi a fini di disinformazione o di dileggio e attacco dell’avversario.
E contrastare un simile fenomeno così tecnologizzato – con la potenza della intelligenza artificiale che economicamente è ormai alla portata di tutti – sarà sempre più complesso.
“Oggettivismo” iper-logico di un algoritmo e rifiuto del “giudizio” in quanto tale.
Come ci si districa tra l’aridità astratta dell’IA e l’omologazione da Web? Tra la
logica esasperata e l’ondivaga interpretazione degli eventi?
Districarsi in un simile quadro diventa molto complesso. A mio avviso sono necessari quattro parametri: la qualità del dataset iniziale, la tracciabilità delle operazioni e la loro trasparenza, la possibilità dell’intervento umano e l’evitare l’uso di strumenti automatizzati in contesti particolarmente delicati, operando, prima, una accurata analisi del rischio.
Il primo parametro, la qualità del dataset, ossia dei dati che vengono “dati in pasto” ai sistemi di intelligenza artificiale, è fondamentale per evitare risultati discriminatori. Purtroppo è sempre più difficile, nell’era dello scraping selvaggio (ossia della raccolta a strascico e senza alcuna selezione dei dati degli utenti), garantire che l’intelligenza artificiale possa operare con una base di partenza che non contenga dati obsoleti, non corretti o ridondanti.
Il secondo parametro è la garanzia di poter conoscere come un sistema opera, soprattutto se quel sistema ha degli effetti giuridici o sociali sugli esseri umani. Anche in questo caso l’ostacolo è presente e si chiama “black box”, ossia un sistema che non ci è dato conoscere nei suoi parametri (e “ragionamenti”) di funzionamento. L’idea, ad esempio, di sistemi di intelligenza artificiale che siano “open source”, ossia a codice aperto e visibile a tutti, può aiutare, e non poco.
Il terzo parametro prevede sempre e comunque la possibilità che un essere umano possa intervenire nel caso il risultato del processo sia inaccurato o, peggio, lesivo dei diritti delle persone. Anche questo, però, è molto complesso: sono ormai miliardi, nel mondo, i dispositivi (si pensi all’Internet delle Cose) che funzionano con l’intelligenza artificiale, e l’idea che ci possa essere una mente umana per ognuno di questi è praticamente irrealizzabile.
Infine, occorre una analisi del rischio accurata per cercare di comprendere se l’uso di tali strumenti possa, o meno, mettere a rischio i diritti e le libertà delle persone. Una simile, necessaria valutazione degli “equilibri” e dell’impatto che certe tecnologie possono avere sulle vite delle persone è altrettanto indispensabile per garantire una felice convivenza tra essere umano e macchina.
Le sue letture, i suoi studi, la sua esperienza di vita: ci sono tratti di comunanza tra
giudicato e giudice?
Penso che tutti i giudici, in qualche modo, trasportino caratteri personali in un giudicato o, quantomeno, si possa ricavare da una decisione una riflessione di colui o colei che l’ha preparata. Spesso chi critica l’uso dell’intelligenza artificiale in ambito giuridico e di supporto, o di “sostituzione”, di un giudice, manifesta proprio questi timori: quanta consapevolezza, quanta emozione, quanta coscienza ci può essere in un giudice-robot? In questo caso letture, studi ed esperienze di vita sono quelle immesse dai programmatori e rischiano, pertanto, di trasferire dei pregiudizi, anche inconsciamente, che possono viziare il percorso di ragionamento della macchina.
Terrorismo, tribunale mediatico, demagogia legislativa, rivolte popolari: ricorda un
fatto che l’ha scossa emotivamente in modo particolare?
Ho dedicato un libro, e un anno di ricerche, all’incredibile vicenda di Aaron Swartz, giovane hacker nordamericano che si è suicidato circa dieci anni fa dopo aver lottato per liberare la cultura prodotta con fondi pubblici. Lui era un piccolo genio dell’informatica cresciuto in un sobborgo di Chicago. Incontrò, da adolescente, studiosi del calibro di Tim Berners-Lee e Lawrence Lessig e lavorò con loro per costruire le architetture informatiche, e le licenze d’uso, del futuro. Con un cambio di vita radicale, deciderà poi di dedicarsi all’attivismo politico e tecnologico proprio mentre i suoi coetanei più talentuosi stavano sfruttando l’onda della Silicon Valley per arricchirsi (si pensi a Facebook). Lui dedicherà, invece, le sue energie e il suo talento a combattere per l’open access, per la sicurezza delle comunicazioni, per l’anonimato e per “liberare” contenuti e cultura dai confini, e pedaggi, delle grandi banche dati. A un certo punto, però, il governo degli Stati Uniti d’America lo prenderà di mira e, lentamente, la potente macchina giudiziaria americana lo stritolerà. Il suo insegnamento, le sue teorie, la sua passione sono ancora oggi, a distanza di dieci anni dalla sua morte, esempio per tantissimi utenti, hacker e cittadini della società dell’informazione. Ad Aaron sono stati dedicati tanti eventi (persino uno spettacolo teatrale) per cercare di comprendere il motivo di una simile violenza giudiziaria nei confronti di un ragazzo da parte del Governo degli Stati Uniti.
Giovanni Ziccardi (Castelfranco Emilia, 1969) è professore di“Informatica Giuridica” presso l’Università di Milano. Già Professore Jean Monnet nel corso di“European Union Data Governance and Cybersecurity dal 2019 al 2022, insegna criminalità informatica al Master in diritto delle nuove tecnologie dell’Università di Bologna. Coordinatore Scientifico del Centro di Ricerca Coordinato in “Information Society Law” (ISLC), è componente del Comitato Etico e del Comitato Sicurezza dell’Ateneo milanese. Dal 1984 – anno in cui gli fu regalato il primo computer – ha tenuto i contatti con gli ambienti hacker nazionali e internazionali, incontrandone gli esponenti e studiandone l’evoluzione. Ha dedicato a quegli anni un saggio (“Hacker – Il richiamo della libertà”, Marsilio, 2011) e due thriller (“L’ultimo hacker”, Marsilio, 2012, e “La rete ombra”, Marsilio, 2018). Avvocato e pubblicista, è laureato in Giurisprudenza presso l’Università di Modena e dottore di ricerca presso l’Università di Bologna. I suoi ultimi lavori sono sui diritti digitali (“Diritti digitali”, Raffaello Cortina Editore, Milano, 2022), sull’uso delle tecnologie in politica (“Tecnologie per il potere”, Raffaello Cortina, 2019), sulla resistenza elettronica (“Resistance, Liberation Technology and Human Rights in the Digital Age”, Springer, 2012), sulla società controllata (“Internet, controllo e libertà”, Raffaello Cortina, 2015), sulle espressioni d’odio (“L’odio online”, Raffaello Cortina, 2016) e sulla morte digitale (“Il Libro Digitale dei Morti”, UTET, 2017).









