Differenze tra strumenti IA generalisti e specialistici

Su Avvocati e Mac, in questo ultimo anno e mezzo, ho sempre parlato di strumenti di Intelligenza Artificiale generalisti e li ho presi in prestito per il mondo legale.

ChatGPT, Claude, Gemini e lo stesso Perplexity sono strumenti di IA generalisti: li puoi usare nel mondo legale come in qualsiasi altro contesto (con le dovute accortezze).

Oggi però ti voglio parlare dell’emergente mondo di soluzioni specializzate per il diritto.

1. Dovute premesse

Da appassionato di informatica mi sono sempre cimentato nel comprendere ed approfondire l’utilizzo degli LLM e su queste pagine ho documentato parte dei miei sforzi e di quanto sono riuscito a fare.
Imparare a comprendere gli strumenti è importante per poterli utilizzare nel miglior modo possibile.

Tuttavia capisco chi voglia utilizzare gli LLM senza troppi pensieri ma con un minimo di sicurezza.

Lo ricordo sempre, tuttavia, i Modelli Linguistici di Grandi Dimensioni sono degli strumenti non deterministici ovvero alla medesima domanda non ti forniranno mai la medesima risposta.

Secondariamente, essendo degli strumenti statistici di completamento di un testo, sono proni ad inventare le proprie risposte (il termine tecnico, ma forviante, è allucinazione).

Il testo che generano quindi è verosimile ma non “vero”.

Nel mondo giuridico questo è un evidente problema e le cronache prima estere e poi anche nazionali sono piene di casi giudiziari in cui gli avvocati hanno scritto memorie citando precedenti inesistenti (a dir il vero pare che anche magistrati lo abbiano fatto).

Se sei curioso ti segnalo questo sito in cui sono stati raccolti i tanti episodi a livello mondiale.

2. Gli strumenti IA specializzati nel mondo giuridico

Proprio per mitigare questo problema (non è possibile ridurre a zero le allucinazioni), nel campo giuridico sono iniziate a comparire soluzioni specializzate.

2.1 Come funzionano gli strumenti specializzati?

Nel mondo giuridico, per ovviare ai problemi delle soluzioni generaliste, si è optato per creare soluzioni ad hoc.

Il segreto di queste soluzioni è utilizzare quella che in gergo tecnico viene chiamata RAG (Retrival Augmented Generation): la generazione di testo aumentata tramite ricerca di informazioni pertinenti che vengono passate assieme al prompt alla domanda fatta all’LLM.

Nel mondo giuridico la RAG viene fatta passando i provvedimenti giurisprudenziali pertinenti alla domanda dell’utente, ovvero utilizzando le banche dati giuridiche.

Non è mia intenzione approfondire troppo l’argomento ma, grazie alla capacità di valutare la somiglianza di testo (utilizzando gli embeddings) a fronte di una domanda è possibile ricercare testi similari. Utilizzando un database di provvedimenti è possibile trovare quelli più pertinenti alla domanda e conseguentemente utilizzarli per rispondere alla domanda stessa.

In questo modo si ottengono due risultati positivi:

1. Le risposte degli LLM sono più centrate e “vere”;
2. È possibile reperire riferimenti giurisprudenziali corretti.

Dietro le quinte (se il lavoro è fatto bene) il sistema è più complesso di quello che ti ho raccontato ma ciò non cambia il principio di base di funzionamento che è quello che in termini semplici ti ho spiegato.

3. Le mie perplessità

Se a livello teorico quest’approccio è il migliore, nella pratica mi ha sempre lasciato perplesso.

Infatti l’implementazione del sistema di RAG è lasciato ad un soggetto terzo (ai suoi sviluppatori software) e questo può portare a problemi.

Se il sistema di RAG non è ben pensato o i modelli non sono utilizzati correttamente allora il sistema funzionerà male.

Nel corso di questo anno e mezzo ho visto le varie banche dati giuridiche implementare l’utilizzo dell’IA da tutte le parti ma, le poche volte che ho approfondito, i risultati erano a dir tanto mediocri (a fronte di un significativo aumento del prezzo del “servizio”).

Secondariamente l’utilizzo di questi sistemi pre-confezionati, se da una parte è molto comodo per l’utente (ammesso e non concesso che funzionino correttamente), dall’altra parte rende trasparente il funzionamento del sistema creando degli analfabeti informatici.

È per questo motivo che ritengo importante imparare i rudimenti dell’utilizzo degli LLM da parte dei professionisti; solo in questo modo, a prescindere dallo strumento utilizzato, si potranno avere buoni risultati.

4. BuddaLaw

Esempio di interfaccia di BuddaLaw]

Visto che però voglio essere positivo, dopo aver “demolito” gli strumenti specialistici di IA legale, ti voglio presentare un prodotto che trovo fatto bene: BuddaLaw.

4.1 Alcune premesse ed avvertenze

Questo strumento lo sviluppa un caro amico per cui posso essere considerato “di parte”, credo tuttavia che, a prescindere dal legame di amicizia e conoscenza, abbia delle caratteristiche interessanti che ti potrebbero interessare.

Fatte queste dovute premesse ti segnalo quelli che per me sono due motivi di eccellenza di BuddaLaw.

4.2 Sviluppato da un avvocato

Lo sviluppatore principale e “mente” del progetto è il collega avv. Roberto Alma.

Roberto oltre ad essere avvocato è un appassionato di informatica e recentemente, proprio a fronte della passione, si è laureato in informatica.

Roberto unisce i due mondi, quello legale e quello informatico, cosa più unica che rara in questo contesto dove raramente le competenze informatiche e di programmazione sono slegate da quelle della comprensione delle esigenze della professione legale.

In aggiunta a ciò (per quel che conta) grazie all’amicizia con Roberto ho potuto veder crescere il software e testarlo in vari contesti. Ho il polso della situazione e testato il sistema.

4.3 Opzione a consumo anziché in abbonamento

Un'altra caratteristica interessante di BuddaLaw è che il suo utilizzo è a consumo e non in abbonamento.

A fronte delle richieste fatte consuma N crediti. In questo modo più lo usi e più paghi ma se lo usi solo saltuariamente i costi saranno ridotti e l’investimento iniziale può essere di qualche decina di Euro.

4.4 Banca dati non solo per l’IA ma anche consultabile dall’utente

Da ultimo, la banca dati che utilizzano gli LLM per fare la RAG è consultabile anche dall’utente, con il vantaggio della ricerca semantica.

La “ricerca semantica” con LLM è un modo di cercare informazioni che non si basa solo sulle parole esatte che digiti, ma sul significato di ciò che chiedi, così da trovarti documenti giuridici rilevanti anche se usano sinonimi, parafrasi o formulazioni diverse dalle tue. È particolarmente utile in ambito legale perché riduce il rischio di perdere casi, norme o clausole importanti solo perché sono scritti con un lessico differente.

5. Prova gratuita e maggiori crediti con il mio link

Se ti ho incuriosito, ho un’altra buona notizia per te, puoi provarlo gratuitamente. Dopo esserti registrato, infatti, ti verranno regalati 10 crediti iniziali per i test.

Inoltre i lettori di Avvocati e Mac, usando QUESTO LINK per registrarsi, possono ricevere 30 crediti ed aver modo di provale in modo più approfondito.

5.1 Futuri articoli

Mi riprometto, nei prossimi mesi, di raccontarti più in dettaglio il funzionamento di BuddaLaw con esempi di utilizzi pratici; il software infatti non offre solo ricerche giurisprudenziali aumentate con IA ma molto, molto, altro ancora…

In conclusione

Questo articolo è introduttivo, conto nei prossimi mesi di parlarti più in dettaglio di BuddaLaw e di come poterlo utilizzare nella tua attività professionale.

In futuro spero anche ti poter parlare di altri strumenti IA specializzati; una volta testati in modo approfondito.

Se sei uno sviluppatore ed hai sviluppato uno strumento IA specializzato, sono interessato a testare la tua soluzione: contattami.

Come sempre, se ti è piaciuto quel che hai letto, ascoltato o visto e non l’hai già fatto, ti suggerisco di iscriverti alla mia newsletter.
Ti avvertirò dei nuovi articoli che pubblico (oltre ai podcast e video su YouTube) e, mensilmente, ti segnalerò articoli che ho raccolto nel corso del mese ed ho trovato interessanti.

P.S. Il link a BuddaLaw è un referral: ovvero se e quando deciderai di acquistare dei crediti, senza costi aggiuntivi per te, verranno riconosciuti dei crediti anche a me.