AI-hallucinaties zijn valse verklaringen die een AI aflegt op basis van correcte informatie. Het resultaat is een aannemelijke verklaring die correct zou kunnen zijn, maar dat niet is. Een verklaring voor hallucinaties is mogelijk als je bijvoorbeeld kijkt naar hoe AI-taalmodellen informatie en de betekenis ervan coderen.
Inleiding
Iedereen heeft waarschijnlijk wel eens gehoord van hallucinaties in de context van kunstmatige intelligentie.
Hallucinaties zijn vals verklaringen die op een correcte achtergrondkennis berusten. Valse verklaringen die voortkomen uit onjuist kennis of uit misverstanden als gevolg van een slordig gestelde vraag, zijn geen hallucinaties.
De basis voor hallucinaties zijn semantische vectoren. Wat dat is, laten we ons daarbij nader op inzenden.
Hoe hallucinaties ontstaan
Een semantische vector is de drager van een betekenis. Wat is een betekenis? Een betekenis is een subjectief gedefinieerde uitspraak. Je zou ook kunnen zeggen dat iedereen zijn eigen waarheid definieert.
Ik maak de wereld voor mezelf,
Breed zoals ik het graag heb.
Pippi Langkous
Waarheid is (altijd?) iets subjectiefs. Zelfs natuurkundige theorieën zoals de relativiteitstheorie en de kwantummechanica, die waarschijnlijk tot onze beste theorieën behoren, worden puur subjectief geïnterpreteerd.
De mens vindt de betekenis van objecten en situaties door culturele invloed, opvoeding en eigen waarneming. De computer ("de AI") zoekt naar Betekenis op basis van trainingsgegevens, wat in zichzelf niets anders is.
Betekenis wordt gevonden door Optimalisatie van een wiskundige functie. Zo zal de mens dat ook doen, alleen dat de Optimierung bij de mens ook absoluut objectieve (!?) contraproductieve elementen kan bevatten.
De volgende afbeelding toont een vereenvoudigde weergave van hoe de betekenis van de zin "De hond rent in het park" wordt gecodeerd in een AI-model.
De zojuist genoemde zin heeft verschillende betekenisfacetten. Hij zegt bijvoorbeeld iets over een levend wezen ("hond"), thematiseert een activiteit ("hardlopen"), bevat een tonaliteit (hier: neutrale emotie) en beschrijft een plaats ("park"). Tussen haakjes: de term "park" kan verschillende betekenissen hebben. Hier verwijst het naar het groene gebied in een stad. Een andere betekenis die hier niet bedoeld wordt, maar wel mogelijk zou zijn, is de gebiedende wijs van "parken".
De afbeelding laat voor de eenvoud twee dimensies (2D) zien. In werkelijkheid werken AI-modellen met meer dan honderd dimensionen, bijvoorbeeld 512. Deze hoge aantal dimensies dient om de verschillende betekenisfacetten van een uitspraak op te graven, dus om ze te kunnen weergeven.
De bewering "De hond rent in het park" is waar. Hoe kan dit resulteren in een onware bewering?
Veel AI-systemen genereren resultaten door de betekenis van de invoer voor te stellen als een vector (of vectoren) en doen hetzelfde voor opgeslagen achtergrondkennis. Nu kun je rekenen met vectoren – iedereen die goed is in wiskunde of zich betere tijden herinnert, zal dit weten.
De volgende figuur toont schematisch de optelling van twee semantische vectoren.
Je kunt twee beweringen zien die allebei waar zijn:
- Albert Einstein heeft de Nobelprijs voor natuurkunde gekregen -> Ware bewering
- Albert Einstein ontwikkelde de relativiteitstheorie -> Ware bewering
Als je nu de vectoren van deze twee beweringen optelt, ontstaat de vector die in de afbeelding in rood wordt weergegeven en die een onware bewering voorstelt. De optelling van de twee pijlen, groen en blauw, wordt rechtsboven in de figuur in miniatuurvorm geïllustreerd. De stippellijnen geven ook aan hoe de rode pijl ontstaat uit de groene en blauwe pijlen.
In het AI-model ontstaat door Gelijkensoeken met de rode resultaatvector vervolgens de uitspraak, die het beste past bij de resultaatvector. Daaruit volgt de foutieve uitspraak: „Einstein kreeg de Nobelprijs voor de relativiteitstheorie“.
Het is moeilijk te geloven dat een van de meest uitmuntende genieën in de geschiedenis van de mensheid GEEN Nobelprijs heeft gekregen voor een van de meest uitmuntende theorieën in de geschiedenis van de mensheid. Dit zou gezien kunnen worden als brutaliteit of als een teken van de wereldwijde domheid van de mensheid. De volgende prestaties zijn immers gebaseerd op Einsteins relativiteitstheorie:
- GPS en navigatiesystemen: Zonder rekening te houden met relativistische effecten zouden GPS-satellieten al na een paar uur meerdere kilometers onnauwkeurig zijn geworden. De klokken op de satellieten lopen sneller door de lagere gravitatie dan op aarde.
- Deeltjesversneller zoals de Large Hadron Collider bij CERN functioneren alleen omdat relativistische effecten bij het versnellen van deeltjes op bijna lichtsnelheid in aanmerking worden genomen. Deze installaties hebben geleid tot de ontdekking van het Higgs-boson en vele andere elementaire deeltjes.
- Medische beeldvorming maakt gebruik van de relativiteitstheorie in de positronenemissietomografie (PET). Hierbij worden antimaterie-deeltjes gebruikt, wiens gedrag Einstein had voorspeld.
- Astronomie en kosmologie werden revolutionair gewijzigd. De theorie maakt het mogelijk om zwarte gaten, gravitatiegolven te voorspellen en later waargenomen te worden en helpt bij het begrijpen van de uitbreiding van het universum.
- Quantumcomputing profiteert van relativistische concepten, met name bij de ontwikkeling van zeer nauwkeurige atoomuren en kwantensensoren.
- Synchronisatie van computernetwerken en financiële handelssystemen neemt vandaag relativistische tijdeffecten in acht voor nauwkeurige tijdmetingen over grote afstanden.
Viele Artikel in PDF-Form · Kompakte Kernaussagen für Beiträge · Offline-KI · Freikontingent+ für Website-Checks
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
