Per chi, come noi di Aptus.AI, segue da anni le evoluzioni tecnologiche nel settore dell’Intelligenza Artificiale, il celebre scivolone del modello di Generative AI di Google — Bard — non ha rappresentato una sorpresa, quanto piuttosto una conferma di una tesi che sosteniamo da tempo: la tendenza strutturale alle allucinazioni LLM. Questo fenomeno, pur essendo intrinseco alla natura stessa dei modelli di linguaggio, evidenzia la necessità di approcci più rigorosi per garantirne l’affidabilità.
Il vero potere della Generative AI? Conoscerne i limiti tecnici
In tempi non sospetti, avevamo già approfondito come il vero potenziale del Natural Language Processing (NLP) risieda paradossalmente nella capacità del professionista di conoscerne i limiti intrinseci e strutturali. Questa consapevolezza è fondamentale oggi, poiché ci troviamo di fronte a modelli di AI generativa abilissimi nel produrre testi fluidi, ma strutturalmente inadeguati a garantire la precisione su un piano fattuale.
Nonostante queste criticità, la partita competitiva si gioca sulla capacità di rendere efficace l’AI attraverso la qualità dei dati in pasto al modello. Solo comprendendo cosa non si debba pretendere da un algoritmo, specialmente in casi d’uso reali di business, è possibile estrarne valore senza correre rischi reputazionali o legali.
Generative AI tra potenzialità e allucinazioni LLM: il parere delle voci autorevoli
Il dibattito sull’affidabilità dei Large Language Models (LLM) è diventato centrale dopo i primi test su larga scala. Il rischio principale, spesso sottovalutato, è rappresentato dalle allucinazioni LLM, ovvero la tendenza di questi modelli a generare informazioni totalmente inventate, ma presentate con un tono estremamente autorevole e convincente.
Ecco come si sono espresse le principali autorità mondiali in merito alla fallibilità di questi strumenti:
Il parere del MIT Technology Review
L’autorevole magazine del Massachusetts Institute of Technology ha osservato come questa tecnologia non sia ancora pronta per un utilizzo su larga scala senza filtri rigorosi. Secondo il MIT, i modelli di Generative AI sono “notoriamente degli imbroglioni” che spesso presentano falsità come fatti assodati, rendendoli potenzialmente pericolosi per i motori di ricerca e per l’integrità dei dati aziendali.
L’analisi su Bing AI e ChatGPT
Anche i test condotti su Bing AI (la Conversational AI di Microsoft) hanno confermato che l’accuratezza fattuale rimane bassa. Molti esempi di queste allucinazioni LLM sono raccolti su GitHub, dove gli utenti documentano le risposte errate di ChatGPT, evidenziando come la confidenza eccessiva verso questi strumenti possa portare a decisioni basate su fondamenta totalmente inesistenti.
I casi CNET e Futurism
Il settore dell’informazione ha già pagato il prezzo di questa imprecisione. Il sito di notizie tecnologiche CNET, dopo aver utilizzato l’AI per produrre articoli, ha dovuto avviare una revisione totale dei contenuti. Questo perché il magazine Futurism ha individuato numerosi errori nelle spiegazioni di concetti finanziari fondamentali, confermando che le allucinazioni LLM possono colpire anche i temi tecnici più delicati.
La ricerca di Stanford, Georgetown e OpenAI
Passando al mondo accademico, un recente paper pubblicato dai ricercatori di Stanford e Georgetown, in collaborazione con OpenAI, mette in guardia su un altro limite critico. La capacità della Generative AI di essere utilizzata da malintenzionati per generare propaganda e disinformazione in modo automatizzato sfrutta proprio la verosimiglianza dei testi generati.
Strategie per un’AI accurata: Human-in-the-loop e norme Machine-Readable
In Aptus.AI, stiamo già implementando soluzioni per mitigare il rischio di allucinazioni LLM nella nostra piattaforma RegTech, puntando sulla qualità del dato e sulla verifica umana costante.
L’importanza del “Delta Normativo”
Un fattore determinante per ottenere output precisi è il grounding sui dati ufficiali. Grazie alla nostra tecnologia brevettata machine readable, trasformiamo i documenti legali in formati strutturati e leggibili dalle macchine. Questo permette all’AI di elaborare solo il delta normativo (le modifiche precise apportate dai regolatori), riducendo drasticamente le probabilità che il sistema generi informazioni errate.
L’approccio Human-in-the-loop
Poiché l’AI genera testi sintatticamente perfetti, è difficile riconoscere un errore a colpo d’occhio. Per questo è necessario un approccio human-in-the-loop: ogni abstract prodotto dalla nostra piattaforma viene verificato da esperti legali qualificati prima di essere validato, garantendo che le allucinazioni LLM non inquinino il processo di analisi normativa.
Il futuro della Compliance: casi d’uso RegTech e intelligenza artificiale
Le applicazioni della Generative AI in ambito RegTech sono vaste. Oltre alla generazione di abstract, puntiamo a supportare i professionisti nella creazione di analisi d’impatto dinamiche e nella gestione dei rischi di non conformità.
I test condotti sui più recenti aggiornamenti normativi (come i PRIIPs) mostrano già il potenziale di questa integrazione. Il culmine di questo percorso è la nostra Chat: un servizio di Conversational AI che permette di “parlare con la legge”, ricevendo risposte basate esclusivamente su fonti verificate in tempo reale, superando i limiti dei vecchi database legali.
Vuoi eliminare il rischio di allucinazioni LLM nella tua analisi normativa? Scopri la piattaforma Aptus.AI
