CASUS
Apri la navigazione

Prodotto

Espandi prodotto

Clienti

Apri il menu Clienti

Azienda

Apri il menu Azienda

Sicurezza

Prezzi

Logo Casus

Blog CASUS

Allucinazioni dell’IA in ambito legale: come riconoscerle ed evitarle

Un’IA che inventa sentenze, cita in modo errato le norme o menziona commentari giuridici inesistenti: potrebbe sembrare una storia ammonitrice raccontata a una conferenza sulla tecnologia. Ma è una realtà documentata. Nel 2023, uno studio legale statunitense ha presentato atti giudiziari contenenti citazioni inventate da ChatGPT. Le conseguenze: sanzioni, danni alla reputazione e procedimenti disciplinari.

Per gli studi legali svizzeri e i team legali interni che utilizzano o valutano strumenti assistiti dall’IA, le allucinazioni dell’IA nel lavoro giuridico non sono una preoccupazione teorica. Sono un rischio operativo.

Cosa sono le allucinazioni dell’IA e perché sono così pericolose nel diritto

In questo contesto, per «allucinazione» si intende la generazione da parte di un modello di IA di informazioni inesatte, fuorvianti o semplicemente inventate, ma apparentemente plausibili. Il problema è che le risposte corrette e quelle errate sembrano identiche. Non c’è alcun avviso visivo, nessun colore del carattere diverso, nessun segnale.

In generale, negli ambiti aziendali i tassi di allucinazione variano dallo 0,7% al 29,9%, a seconda del modello (Vectara). In ambito giuridico, fonti specialistiche indicano un dato che può arrivare all’88%. Non è una questione marginale.

Perché il lavoro giuridico è particolarmente esposto

I testi giuridici richiedono precisione a livello di singola parola. Che una clausola dica «può» o «deve», che un termine sia di tre o trenta giorni, che una sentenza risalga al 2019 o al 2021: non sono questioni stilistiche. Nel peggiore dei casi, questi dettagli determinano la responsabilità, la validità di un contratto o l’esito di una controversia.

I modelli di IA individuano schemi. Non sono stati addestrati per dire la verità, bensì per generare i token successivi più probabili. In ambito giuridico, ciò significa che il modello scrive con sicurezza anche quando non dispone di una fonte affidabile. Sentenze inventate del Tribunale federale, articoli di legge errati, riferimenti a commentari inesistenti: tutto questo è già stato documentato.

I rischi professionali derivanti da risultati dell’IA non verificati

Un avvocato che inserisce direttamente contenuti generati dall’IA in atti o pareri senza verificarli rischia ben più di una brutta giornata. Tra i rischi figurano:

  • Violazioni professionali per la presentazione di fonti false o non verificabili

  • Responsabilità nei confronti dei clienti derivante da consulenza giuridica errata basata su contenuti allucinati

  • Danni alla reputazione che, in un mercato piccolo come quello svizzero, possono avere effetti duraturi

I tribunali tedeschi hanno già tratto conseguenze dall’uso di risultati dell’IA non verificati. I tribunali svizzeri applicano criteri analoghi. I pareri generati dall’IA e non verificati sono giuridicamente privi di valore.

Cause delle allucinazioni dell’IA

Per capire come evitare le allucinazioni dell’IA nel lavoro giuridico, occorre innanzitutto comprenderne le cause:

Dati di addestramento incompleti o distorti. Se un modello viene addestrato su fonti incomplete o difettose, riproduce gli stessi difetti.

Mancanza di comprensione del contesto. I modelli linguistici elaborano il testo su base statistica, non attraverso un ragionamento semantico-logico. Non «comprendono» i termini giuridici come li comprende un avvocato.

Generalizzazione eccessiva. Il modello colma le lacune con contenuti plausibili ma generati liberamente, soprattutto quando una domanda esula dalle conoscenze acquisite durante l’addestramento.

Prompt imprecisi. Input vaghi o ambigui aumentano la probabilità che il modello generi contenuti in direzioni non desiderate.

Strategie per evitare le allucinazioni dell’IA nella pratica legale

Esistono misure tecniche, metodologiche e organizzative che riducono significativamente il rischio.

Generazione aumentata dal recupero (RAG)

La RAG è attualmente l’approccio tecnico più efficace per contrastare le allucinazioni. Invece di fare affidamento sulle conoscenze acquisite dal modello durante l’addestramento, le risposte dell’IA vengono ancorate a fonti verificate. Il modello non genera liberamente: attinge a documenti o banche dati specifici.

Le piattaforme di IA giuridica che utilizzano la RAG sono strutturalmente meno inclini a inventare liberamente, a condizione che la banca dati delle fonti sia aggiornata e sottoposta a controlli di qualità.

Ricerca basata sulle fonti invece della generazione libera

Esiste una distinzione fondamentale tra gli strumenti di IA che generano contenuti liberamente (come un LLM generico) e quelli che collegano le risposte a fonti concrete. Nel lavoro giuridico, la seconda opzione è imprescindibile.

CASUS, una piattaforma svizzera di IA giuridica, in modalità Legal Research utilizza una banca dati con oltre 1 milione di decisioni e più di 21.000 leggi per la Svizzera, oltre 620.000 documenti giuridici per la Germania e oltre 1,58 milioni di documenti giuridici per l’Austria. Le risposte sono collegate alle decisioni pertinenti e ai relativi considerandi, consultabili direttamente nel testo senza ulteriori clic. Si tratta di un approccio strutturalmente diverso da quello di un modello linguistico generico. Per approfondire banche dati, RAG, copertura multilingue e verifica, consulta la nostra guida alla ricerca giuridica assistita dall’IA per il diritto svizzero.

Per il diritto svizzero, CASUS consulta anche i commentari ad accesso aperto di Onlinekommentar e le informazioni sulle imprese di ZEFIX, l’Indice centrale svizzero delle ditte. Consulta la panoramica aggiornata delle fonti.

Prompting a catena di pensiero e input precisi

Il modo in cui viene formulata una domanda influenza notevolmente la risposta. Le domande vaghe producono risposte vaghe o errate. Prompt concreti e circoscritti, con un contesto chiaro, riducono lo spazio per le allucinazioni.

Nella pratica giuridica quotidiana, ciò significa che, invece di chiedere «Cosa prevede il diritto svizzero sulle pene convenzionali?», è meglio chiedere «Quali requisiti devono essere soddisfatti ai sensi dell’art. 160 segg. CO per far valere una pena convenzionale?». La seconda formulazione è verificabile; la prima favorisce la generazione libera.

La revisione umana come passaggio imprescindibile

Nessuna misura tecnica può sostituire la verifica da parte di un esperto. Ogni risultato dell’IA destinato a confluire in un atto, un parere o una clausola contrattuale deve essere controllato da una persona qualificata. Non è un passaggio facoltativo in più: è lo standard richiesto dalla legge.

In pratica: controllare le citazioni, consultare le sentenze, leggere le disposizioni di legge nel testo originale. L’IA può fornire il punto di partenza; la persona deve dare l’approvazione finale.

Liste di controllo organizzative per il lavoro giuridico quotidiano

Gli studi che introducono strumenti di IA dovrebbero stabilire regole interne chiare: quali risultati si possono utilizzare senza verifica? Quali richiedono una revisione obbligatoria? Una classificazione del rischio per tipo di documento, ad esempio tra una bozza di e-mail e un atto giudiziario, aiuta a concentrare gli sforzi di verifica dove sono più necessari.

Cosa distingue i buoni strumenti di IA giuridica dai modelli linguistici generici

Non tutti gli strumenti di IA sono ugualmente adatti al lavoro giuridico. Le differenze rilevanti riguardano l’architettura, non l’interfaccia.

Le piattaforme di IA giuridica come CASUS sono progettate per attività specifiche: analisi dei contratti, confronto con linee guida operative, correzione di bozze, estrazione di dati dalle data room e ricerca giuridica basata su fonti verificate. Questa specializzazione riduce lo spazio per i contenuti allucinati, perché il sistema opera nel contesto del documento specifico, non nel vuoto.

Gli LLM generici, invece, generano contenuti attingendo all’intero corpus utilizzato per l’addestramento. In ambito giuridico, ciò comporta un rischio strutturalmente maggiore.

Anche la protezione dei dati e la sicurezza sono aspetti centrali nel mercato legale svizzero. CASUS ospita i dati esclusivamente in Svizzera e nell’UE, non li trasferisce negli Stati Uniti e opera senza archiviazione permanente dei dati né revisione umana dei documenti. Maggiori dettagli sono disponibili nella pagina sulla sicurezza di CASUS.

Usare CASUS per ridurre al minimo il rischio di allucinazioni

La modalità Legal Research di CASUS fornisce valutazioni strutturate e basate sulle fonti. Le decisioni e le disposizioni di legge pertinenti sono collegate direttamente nella risposta; i considerandi possono essere consultati nel testo. Ciò consente una verifica rapida, senza dover fare affidamento cieco sul risultato.

Nella AI Chat con Agent Mode, l’IA lavora sul documento specifico. Le risposte sono collegate ai passaggi di testo, a cui è possibile accedere direttamente. Ciò riduce notevolmente la generazione libera, perché il modello è ancorato al contesto del documento.

Per correggere i contratti prima dell’invio, il modulo di correzione controlla la coerenza linguistica e formale, inclusi rimandi interni, definizioni, numerazione e segnaposto, senza entrare nel merito delle valutazioni giuridiche.

Usare l’IA con attenzione, non con timore

Non è possibile azzerare le allucinazioni dell’IA nel lavoro giuridico. Chi sostiene il contrario, in un certo senso, sta allucinando a sua volta. È invece possibile ridurre notevolmente il rischio combinando una piattaforma adeguata, prompt precisi e una revisione umana sistematica.

Chi lavora con l’IA nel settore legale svizzero e si affida a risultati strutturati, tracciabili e basati sulle fonti può provare CASUS gratuitamente: Inizia ora.

FAQ

Cosa sono le allucinazioni dell’IA nel lavoro giuridico?

Le allucinazioni dell’IA nel lavoro giuridico si verificano quando un modello di IA genera contenuti giuridici inesatti, fuorvianti o completamente inventati, ad esempio sentenze inesistenti, articoli di legge errati o riferimenti bibliografici inventati, pur apparendo plausibili e corretti.

Qual è il tasso di allucinazione degli strumenti di IA giuridica?

Il tasso generale di allucinazione dei modelli linguistici varia dallo 0,7% al 29,9%, a seconda del modello (Vectara). In ambito giuridico, fonti specialistiche indicano un dato che può arrivare all’88%. Il lavoro giuridico è considerato particolarmente esposto, perché richiede fatti precisi mentre i modelli vengono addestrati sulla plausibilità.

Quali conseguenze professionali possono derivare dall’uso di IA non verificato?

Gli avvocati che inseriscono direttamente risultati allucinati dell’IA in atti giudiziari o pareri legali rischiano accertamenti di violazioni professionali, richieste di risarcimento da parte dei clienti e danni alla reputazione. Un caso statunitense documentato del 2023 dimostra che i tribunali applicano sanzioni quando vengono presentate sentenze allucinate.

Cos’è la generazione aumentata dal recupero (RAG) e perché è importante?

La RAG è un’architettura in cui le risposte dell’IA sono ancorate a una banca dati di fonti verificate, anziché essere generate liberamente. In ambito giuridico, ciò significa che il modello attinge a sentenze, norme o documenti specifici, anziché alle conoscenze generali acquisite durante l’addestramento. Questo riduce significativamente il rischio di allucinazioni.

Come si possono evitare le allucinazioni dell’IA nella pratica giuridica quotidiana?

Tre misure concorrono a ridurre il rischio: formulare prompt precisi e ricchi di contesto; utilizzare piattaforme di IA che collegano le risposte a fonti verificabili; e far esaminare da una persona qualificata ogni risultato dell’IA inserito in un documento giuridico. Nessuna misura, da sola, è sufficiente.

L’IA giuridica è davvero consigliabile per gli studi legali svizzeri?

Sì, se si utilizzano gli strumenti giusti con un flusso di lavoro adeguato. Il problema non è l’IA in sé, ma l’accettazione acritica dei suoi risultati. Le piattaforme specializzate con ancoraggio alle fonti, hosting in Svizzera e standard chiari di protezione dei dati presentano un profilo di rischio diverso da quello dei modelli linguistici generici.

In cosa si differenzia CASUS dagli strumenti di IA generici come ChatGPT?

CASUS è una piattaforma specializzata di IA giuridica che lavora su documenti specifici o su una banca dati giuridica verificata con oltre 1 milione di decisioni e più di 21.000 leggi per la Svizzera, oltre 620.000 documenti giuridici per la Germania e oltre 1,58 milioni di documenti giuridici per l’Austria. Le risposte sono collegate alle fonti e direttamente verificabili. ChatGPT e altri modelli generici generano contenuti attingendo all’intero corpus di addestramento, senza riferimenti obbligatori alle fonti.

Quali strategie di prompting riducono il rischio di allucinazioni?

Domande concrete e circoscritte, con un contesto giuridico chiaro, producono risposte più affidabili rispetto a quelle aperte. Il prompting a catena di pensiero, che chiede al modello di esplicitare i passaggi del ragionamento, può far emergere gli errori prima che i risultati vengano riutilizzati. L’ancoraggio alle fonti nel prompt («fai riferimento solo all’art. 160 segg. CO») limita ulteriormente lo spazio per la generazione libera.