Primo caso giudiziario italiano (noto) di avvocato che cita giurisprudenza inventata da chatGPT

Non sono solito parlare di news giudiziarie su queste pagine, ma questa credo meriti per almeno 2 motivi:

è il primo (ma non credo sarà l’ultimo) caso noto in Italia,
è un utile esempio di come non usare le IA.

Un ulteriore buon motivo è che mi sono divertito a recuperare il provvedimento sulla Banca Dati del Merito e voglio condividere con te alcuni “trucchi” che ho usato.

1. La storia

Oggi, mentre scrivo questo articolo, è circolata su più fronti l’ordinanza del Tribunale di Firenze (sez. imprese) relativa al procedimento n. 11053/2024.

L’ordinanza tratta un problema che era già capitato nella corti americane (in particolare nel distretto di New York) dove un avvocato aveva citato precedenti inventati (o in gergo tecnico “allucinati”) da chatGPT.

La causa in oggetto era relativa ad un reclamo per l’inibitoria di un marchio avanti alla sezione imprese del Tribunale di Firenze.

All’udienza del 21/01/25 il reclamante lamentava che la giurisprudenza citata nella comparsa di risposta avversaria era inesistente. Seguiva uno scambio di memorie a tal fine autorizzate dal Tribunale e la “confessione” del difensore della resistente.

In particolare questi riferiva che:

i riferimenti giurisprudenziali citati nell'atto sono stati il frutto della ricerca effettuata da una collaboratrice di studi mediante lo strumento dell'intelligenza artificiale "ChatGPT" , del cui utilizzo il patrocinatore in mandato non era a conoscenza.

Il copione, come si può ben vedere, è simile a quello americano.

Non è mio interesse soffermarmi sulle problematiche giuridiche affrontate nell’ordinanza (a livello processuale è andata bene al collega avventato) e lascio al lettore immaginare gli ulteriori problemi (anche deontologici) per il collega che, almeno da quanto ha affermato, non ha supervisionato l’attività del collaboratore.

Quel che mi interessa è ribadire un concetto.

2. Gli LLM (chatGPT e suo simili) sono generatori di testo statistico

Giova quindi ripeterlo … gli LLM sono dei sistemi di completamento del testo agli steroidi e, in quanto tali, inventano il testo (i puristi dell’Intelligenza Artificiale dicono che hanno le c.d. allucinazioni).

Il testo che creano pur essendo verosimile, perché sono le parole che statisticamente sono più probabili l’una rispetto all’altra, non è vero.

Quando l’LLM non “conosce” la risposta alla domanda fa quello per cui è “programmato”: inventa del testo verosimile.

3. Modi per ridurre le allucinazioni

Ne ho parlato approfonditamente nella puntata 50 del mio podcast a cui ti rimando di come sia possibile ridurre (ma non al 100%) le allucinazioni con strumenti come la RAG (Retrived Augmented Generation).

Altro strumento utile per ridurre le allucinazioni è quello di fornire accesso ad internet agli LLM. Ovviamente anche questo “metodo” ha i suoi limiti posto che non c’è tutto su internet e “googlare” non è il modo migliore per dare un parere legale, una consulenza medica etc …

Ma l’unica vera soluzione alle “allucinazioni” è quella di revisionare attentamente tutto il testo che viene generato dagli LLM.

4. Trovare il provvedimento sulla BDM (Banca Dati del Merito)

La prima pubblicazione del provvedimento è stata fatta qui ma la versione PDF scaricabile dal sito è oggettivamente illeggibile (ed inguardabile dal punto di vista tipografico).

Quindi, invece che lavorare 😓, mi sono messo alla ricerca della sentenza sulla Banca Dati del Merito.

Ho inizialmente fatto fatica a trovare il provvedimento (era citato in modo incompleto) ma con un po’ di accortezza sono riuscito a recuperarlo.

Inizialmente avevo utilizzato l’approccio di inserire la data e la sezione imprese ma il risultato me lo ha portato prendendo un pezzo del testo del provvedimento disponibile online e facendo una ricerca “generica”, come si vede nell’immagine sottostante.

Come si vede nell’immagine sottostante la ricerca è andata a colpo sicuro.

4.1 Banca Dati del Merito: alcune considerazioni estemporanee

Devo dire che trovo veramente comodo questa banca dati gratuita, che ho imparato ad apprezzare ed utilizzare solo nell’ultimo periodo.
Come tutti gli strumenti richiede di imparare a padroneggiarla ma, una volta iniziata a conoscerla, può dare utilissimi spunti ed informazioni pressioni per chi, casomai, è indeciso sul se e come instaurare un procedimento davanti ad uno specifico tribunale o corte d’appello.

Secondariamente il sistema di anonimizzazzione dei provvedimenti è ancora piuttosto acerbo (ma un pelo migliorato dagli inizi dove addirittura oscurava tutte le date dei provvedimenti). Proprio per questo motivo non ho condiviso qui la sentenza (se non con alcuni stralci e per immagine), perché alcuni dati non sono stati anonimizzati correttamente.

Esempio di un passaggio che, ovviamente qui anonimizzo

In conclusione

Il caso in oggetto è una colorita vicenda legata all’emergente mondo dell’intelligenza artificiale e credo sia una storia da cui trarre un’utile morale: occorre utilizzare gli strumenti in modo consapevole e, per fare ciò, occorre conoscere a fondo gli strumenti soprattutto se sono tecnologici.

Come sempre, se ti è piaciuto quel che hai letto o visto e non l’hai già fatto, ti suggerisco di iscriverti alla mia newsletter. Ti avvertirò dei nuovi articoli che pubblico (oltre ai podcast e video su YouTube) e, mensilmente, ti segnalerò articoli che ho raccolto nel corso del mese ed ho ritenuto interessanti.