Le allucinazioni dell'IA sono affermazioni false di un'IA che si basano su informazioni corrette. Il risultato è un'affermazione plausibile che potrebbe essere corretta, ma non lo è. Una spiegazione per le allucinazioni è possibile se si considera, ad esempio, come i modelli linguistici delle IA codificano le informazioni e il loro significato.
Introduzione
Probabilmente tutti hanno sentito parlare di allucinazioni nel contesto dell'intelligenza artificiale.
Le allucinazioni sono così affascinanti perché si tratta di affermazioni false che hanno il potenziale di plausibile suonare. Ciò che suona plausibile viene spesso interpretato come vero o giusto. Precisamente in questo consiste la pericolosità delle allucinazioni.
Le allucinazioni sono affermazioni false che si basano su un corretto background di conoscenza. Le affermazioni false che derivano da una conoscenza falsa o da malintesi a causa di una domanda formulata in modo approssimativo, non sono allucinazioni.
La base per le allucinazioni sono vettori semantici. Cosa sia, lo vedremo più da vicino.
Come si sviluppano le allucinazioni
Un vettore semantico è il vettore di un significato. Che cos'è un significato? Un significato è un'affermazione definita soggettivamente. Si potrebbe anche dire che ognuno definisce la propria verità.
Io creo il mondo per me stesso,
in tutta la sua ampiezza, come piace a me.
Pippi Calzelunghe
La verità è (sempre?) qualcosa di soggettivo. Anche le teorie fisiche come la teoria della relatività e la meccanica quantistica, che sono probabilmente tra le nostre migliori teorie, sono interpretate in modo puramente soggettivo.
L'uomo trova il significato degli oggetti e delle situazioni attraverso la cultura, l'educazione e la propria esperienza. Il computer ("la IA") cerca significato in base ai dati di addestramento, che di per sé non è altro.
Significato viene trovato attraverso l'ottimizzazione di una funzione matematica. Così farà anche l'uomo, solo che l'ottimizzazione nell'uomo può contenere anche elementi contrapproduttivi intenzionalmente oggettivi (!?).
L'immagine seguente mostra una rappresentazione semplificata di come il significato della frase "Il cane sta correndo nel parco" viene codificato in un modello di intelligenza artificiale.
La frase appena citata presenta numerose sfaccettature di significato. Ad esempio, parla di un essere vivente ("cane"), tematizza un'attività ("correre"), contiene una tonalità (in questo caso: emozione neutra) e descrive un luogo ("parco"). A proposito: il termine "parco" può avere diversi significati. Qui si riferisce all'area verde di una città. Un altro significato che non è inteso qui, ma che sarebbe possibile, è l'imperativo di "parken".
L'immagine mostra solo due dimensioni (2D) per semplicità. In realtà i modelli di intelligenza artificiale lavorano con più di cento dimensioni, ad esempio 512. Questa alta quantità di dimensioni serve a cogliere e rappresentare le diverse sfaccettature semantiche di una dichiarazione.
L'affermazione "Il cane corre nel parco" è vera. Come può risultare un'affermazione falsa?
Molti sistemi di intelligenza artificiale generano risultati rappresentando il significato dell'input come un vettore (o più vettori) e fanno lo stesso per le conoscenze di base memorizzate. Ora è possibile calcolare con i vettori – chiunque sia portato per la matematica o ricordi i tempi migliori lo saprà.
La figura seguente mostra schematicamente l'aggiunta di due vettori semantici.
Si possono notare due affermazioni che sono entrambe vere:
- Albert Einstein ha ricevuto il Premio Nobel per la fisica -> Affermazione vera
- Albert Einstein ha sviluppato la teoria della relatività -> Affermazione vera
Se ora si sommano i vettori di queste due affermazioni, si crea il vettore mostrato in rosso nell'immagine, che rappresenta un'affermazione falsa. L'addizione delle due frecce, verde e blu, è illustrata in alto a destra della figura in forma di miniatura. Le linee tratteggiate indicano anche come si crea la freccia rossa dalle frecce verde e blu.
Nel modello AI si genera attraverso Ricerca di somiglianza con il vettore di risultato rosso, quindi la dichiarazione che meglio rispecchia il vettore dei risultati. Da ciò deriva l'affermazione falsa: "Einstein ha ricevuto il Premio Nobel per la teoria della relatività".
È difficile credere che uno dei più straordinari geni della storia dell'umanità NON abbia ricevuto il Premio Nobel per una delle più straordinarie teorie della storia dell'umanità. Questo potrebbe essere visto come un'impertinenza o come un segno della stupidità globale dell'umanità. Dopo tutto, le seguenti conquiste si basano sulla teoria della relatività di Einstein:
- GPS e sistemi di navigazione: Senza considerare gli effetti relativistici, i satelliti GPS sarebbero già imprecisi dopo poche ore. Gli orologi sui satelliti girano più velocemente a causa della minore gravità rispetto alla Terra.
- Acceleratori di particelle come il Large Hadron Collider al CERN funzionano solo perché gli effetti relativistici nella accelerazione delle particelle a velocità quasi della luce sono stati presi in considerazione. Queste strutture hanno portato alla scoperta del bosone di Higgs e molti altri elementari.
- Imaging medico utilizza la teoria della relatività nella Tomografia per Emissione di Positroni (PET). In questo caso vengono utilizzati particelle di antimateria, il cui comportamento era stato previsto da Einstein.
- Astronomia e cosmologia sono state rivoluzionate. La teoria ha permesso la previsione e l'osservazione successiva di buchi neri, onde gravitazionali e ha contribuito a comprendere l'allargamento dell'universo.
- Calcolo quantistico beneficia dei concetti relativistici, in particolare nella sviluppo di orologi atomici altamente precisi e sensori quantistici.
- Sincronizzazione di reti di computer e sistemi di trading finanziario considerano oggi effetti relativistici per misurazioni precise del tempo su grandi distanze.
Nella migliore delle ipotesi, i giurati del Nobel dell'epoca erano intellettualmente sovraccarichi e non osavano dare la loro benedizione a una teoria che ai loro occhi poteva essere sbagliata.
Torniamo alle allucinazioni:
L'affermazione falsa di cui sopra nasce quindi dalla combinazione di due affermazioni corrette. Anche per questo motivo suona così plausibile e può distrarre dalla realtà (come l'abbiamo definita).
Inoltre, le risposte dei modelli linguistici dell'IA sono spesso così accattivanti e strutturate da sembrare professionali. Questo rafforza l'impressione che l'affermazione falsa (allucinazione) sia corretta.
I vettori possono essere, a loro volta, trasformati in testo (o altre tipologie di dati che si chiamano anche modalità) tramite sottoposizioni matematicamente calcolate rappresentazioni dei vettori delle affermazioni.
Cause delle allucinazioni
Le cause delle allucinazioni possono essere molteplici. Ecco un estratto di alcune possibilità di false dichiarazioni.
Interpolazione statistica anziché conoscenza dei fatti
I modelli linguistici non memorizzano le informazioni come fatti discreti, ma come pesi statistici tra diversi concetti. Quando il sistema risponde a una domanda, combina queste ponderazioni per generare la risposta più probabile. In questo modo, il modello può creare connessioni tra concetti che non erano esplicitamente presenti nei dati di addestramento.
Va notato che l'esistenza umana si basa interamente sulle statistiche. Alcune persone si scandalizzano per questa affermazione. Dovrebbero dare un'occhiata alla fisica quantistica (a livello generale).
Queste: La statistica è la base per l'intelligenza, non il motivo per cui non ci fosse intelligenza.
Dati di formazione incompleti o contraddittori
La qualità dei dati di addestramento influenza in modo significativo la tendenza alle allucinazioni. Se un modello viene addestrato su dati che contengono imprecisioni, contraddizioni o lacune nella conoscenza, questi problemi possono verificarsi più frequentemente nell'applicazione successiva. Inoltre, fonti diverse possono fornire informazioni contraddittorie sullo stesso argomento.
Non è diverso per gli esseri umani.
Fiducia senza comprensione
I sistemi di intelligenza artificiale non sono consapevoli dei propri limiti di conoscenza. Non riescono a distinguere tra conoscenza certa e ipotesi e non esprimono esplicitamente le incertezze. Al contrario, generano risposte con un'apparente certezza che non corrisponde all'effettiva affidabilità delle informazioni.
I robot presto chiuderanno questi confini della conoscenza. Come gli esseri umani, esploreranno l'ambiente e raccoglieranno le proprie esperienze ambientali.
Aree a rischio speciale
Alcune aree tematiche sono particolarmente soggette ad allucinazioni. Si tratta di eventi attuali che si sono verificati dopo la data della formazione, di aree tematiche altamente specializzate con informazioni limitate disponibili al pubblico e di aree in cui la precisione è fondamentale, come gli argomenti medici o legali.
Per quanto riguarda il diritto, quasi nessuna persona "normale" capisce ciò che è scritto negli articoli giuridici specialistici, nelle sentenze o in alcune leggi e regolamenti. Tra l'altro, questo è intenzionale: gli avvocati vogliono mantenere la propria riservatezza in alcuni settori e quindi utilizzano un "linguaggio di potere". Queste informazioni non provengono dall'autore di questo articolo, ma da un avvocato.
Conclusione
Le allucinazioni nascono da una combinazione di conoscenze vere. Esse aggirano la verità. Le allucinazioni possono essere comprese considerando i vettori semantici come portatori di significato.
Ma queste allucinazioni possono avvenire anche in modo analogico nelle reti neurali, che sono alla base di molti modelli attuali di intelligenza artificiale. Dopo tutto, una rete neurale può rappresentare un vettore perché è così plastica da poter trasportare e rappresentare qualsiasi tipo di informazione.
Per quanto riguarda la legge sull'AI, è meglio cercare di ridurre al minimo il rischio di allucinazioni. È ancora meglio evitare le allucinazioni.
Più informazioni sulle allucinazioni si possono trovare nel prossimo Sammelband "Risikoanalisi-AI", che sarà pubblicato a breve e curato da Prof. Wanderwitz, in cui è previsto un articolo su questo argomento. Questa contribuzione qui presentata è basata in parte e in forma notevolmente ridotta sull'articolo che verrà pubblicato nel Sammelband.
Le allucinazioni si possono evitare, se ci si mette un po' di impegno. Con ChatGPT non ce la farete, ma con una intelligenza artificiale ottimizzata per le aziende e altre organizzazioni sì. In un progetto per un cliente abbiamo costruito così un chatbot affidabile per un campo di conoscenza complesso. Il chatbot ha risposto correttamente in molti casi. Era anche capace di sapere quando dare una risposta corretta. Nei pochi casi di dubbio, l'utente davanti allo schermo ha ricevuto la notifica che la risposta doveva essere verificata. In ogni caso sono state indicate le fonti della risposta. Per le risposte ritenute corrette il chatbot ha emesso un sigillo di approvazione ("noi ci stiamo per questa risposta").
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
