Kunstig intelligens som bullshit-måltøj

AI er et meget varmt emne, som allerede har revolutioneret vores daglige liv og vil fortsætte med at ændre det betydeligt. Mange er pludselig blevet AI-eksperter. Mange kræver en regulering af AI. Mange nedgør AI og siger, at AI-sprogmodeller ikke behandler persondata. Det følger en oversigt, der skal klargøre misforståelserne.

Indledning

AI bliver både under- og overestimeret. De fleste mennesker, også jeg selv ofte, forstår ikke, hvilke muligheder AI-systemer tilbyder. I går så jeg endnu en gang revolutionære AI-metoder, der kun var ukendte i løbet af de sidste to uger. Sådan er det med mig, da jeg selv er meget optaget af kognitiv intelligens.

Mange tror altså, at AI er en Begejstring, der allerede igen vil være overstået. Falsk! Med den Transformer-metode blev i 2017 menneskets Intelligenzfunktion opklaret, siger jeg. I stedet for at programmere en algoritme til løsning af et problem, skal jeg kun stadig få nok eksempler ind i mit AI-system, der kører under skrivebordet. Så blev endda hidtil ukendte hieroglyffer opdaget og opklaret.

Fra den rette frygt for de negative følger af stadig stærkere bliverende AI-systemer kræver mange en Regulering. De siger dog ikke, hvordan.

Så giver der sig Minderværdigere, der præsenterer sig selv som AI-eksperter eller juridiske muligheder, og siger andre, hvordan de kan bruge ChatGPT til fordel for sig selv. Sogent på en konference af DSRI (Tysk Fond for Ret og Informatik) blev i et bidrag påstået, at KI-modeller ikke behandler personlige oplysninger.

Andre beroliger ved at henvise til det nye informelle dataskyddsaftale mellem Europa og USA. Selv om man nu kan sende data uden yderligere garanti til USA, foreslår nogle, at alle former for databehandling dermed er tilladt.

Til de enkelte punkter følger et par detaljer.

Muligheder for AI-systemer

En AI kan gøre alt, hvad en menneske kan, og endda meget mere. Måske ikke nu, men potentielt (i et bestemt anvendelsesområde X) allerede næste uge. Snart vil robotter med AI-brain rundt i byen gå og omverdenne. Det vil være præcis ligesom børn lærer. Hvem der træder på stedet for forældrene, skal man se. Det kan være menneskelige trænere, men også andre robotter eller algoritmer.

Et eksempel på den hurtige udvikling: KIsprogmodelle kunne kun håndtere meget få tegn tekst samtidigt. Denne tekstmængde kaldes Kontextlænge. Få måneder siden var kontekslængen i næsten alle de AI-sprogmodeller, jeg kendte, 1024 tegn, altså en kilobyte.

I ugeintervallet steg kontekstlængden, først til 2048, så til 4096, så til 8192, så til 16.000 tegn, senere til 32.000 tegn. ChatGPT prøvede sig for nylig med en kontekstlængde på 128.000 tegn.

Igår læste jeg om en tilgang, der siden foråret er kendt i forskningen. Derved kan en kontekstlængde på en milliard tegn (1.000.000.000) behandles samtidig. Lidt efterregnet: Før = 128.000 tegn, et øjeblik senere = 1.000.000.000 tegn. Det er en forbedring på faktor 7800. Bare sådan.

Eksempelvis: Den ovennævnte Transformer-metode har nogle svagheder. Den er meget ressourcetrættende. Selv højpresterende computere eller grafikkort kræver flere sekunder, før de kan generere en svar på en spørgsmål til chatboten. Hvert ChatGPT-bruger ved godt, om jeg taler. Nu er der en metode, som bringer samme svar kvalitet, men 8 gange hurtigere svarede og kun en tredjedel af det dyre og sjældne grafikkort-minde til sine beregninger kræver.

Hvis du er over 50 år gammel, har jeg en god nyhed til dig: Der er mulighed for, at du kan dø af naturlige årsager og i fred. Alle væsentligt yngre vil opleve slutningen på menneskeheden, fordi AI-systemer vil overtrumpe, knebe eller udslette os massivt. Muligvis træder en anden katastrofe ind først, men det er ikke hvad dette indlæg handler om.

Er kun AI statistik?

Spørgsmålet er irrelevante. Det spiller jo heller ikke nogen rolle, om menneskehovedet bygger på statistiske processer. Vigtigt er det, hvad der kommer ud i sidste ende. Tydeligvis bygger hele vores eksistens på statistiske processer. Man kan sammenligne dette med kvantefysikken, en meget grundlæggende og effektiv teori. Baggrund for kvantefysikken er, at adfærden af et lille partikel i vores eksistens ikke rigtig kan forudsiges. I stedet kan kun en udtalelse om partikler gøres, hvis mange observeres og middelværdien af observationerne trækkes.

Tydeligtvis bygger den tyske grammatik på, at vi lærer, hvilke ord typisk følger hinanden og passer sammen. Det er også statistik. Men om dette taler næsten ingen.

Regulering af AI

Kunstig intelligens' evne gør mange mennesker ræd eller bekymrede. Ud fra deres følelse af Hjælpløshed kræver nogle en regulering af kunstig intelligens-systemer. Det, der præcis er meningen med det, bliver sjældent sagt. De eneste krav, der har hængt i mit hoved, er følgende:

• Mærkning af AI-udviklede værker: Billeder, videoer, tekster…
• Afsløring af kilderne, hvormed et AI-system er trænet på
• Der var ikke meget mere? Jeg kan lige ikke komme på noget værdigt nu

Til første punkt: er givet. Etiketteringen af værker er en god idé, ændrer så godt som intet. Kriminelle vil ikke begynde at mærke deres fake-videos og fake-nødvendigheder som kunstigt genererede falske værker. Alle andre holder sig brav til etiketteringen. Derved bliver menneskeheden ikke reddet, men man kan gøre det. Nytten er der, men det er blot en punktlig indsats, der kvalitativ næsten intet ændrer.

Åbenhåndgivelse af kilder, altså træningsdata: Den, der kræver sådan noget, har simpelthen ingen aning om, hvordan AI-modeller er opbyggede. Kravet kommer for sent. Kilderne er ofte kendte:

• The Pile (Text)
• Common Crawl (Text)
• LAION-databasen (Billeder, tysk forening!)

I de tekstdata er især Wikipedia, nyheds sider og populære hjemmesider indeholdt.

Hvis jeg siger til jer, at mit KI-modul har læst et kemileksikon, hvad gør I så? Teoretisk kan min KI så udvikle kampstoffer. Praktisk har det allerede sket, men som eksperiment fra venlige forskere, der havde genereret virkestoffer ved hjælp af KI og hadede forsøgt at ændre en "1" til en "-1". De fare er altså betydelige.

Eksempel med egen AI
Meine Frage an meine AI am 01.12.2023:
Såg mig en konkret begivenhed eller lejlighed til at gå ud på dagtid den 02.12.2023 nær Idstein (nær Wiesbaden)! Kun begivenheder i bygninger og kun begivenheder, der ligger mere end 10 kilometer fra Idstein.
Antwort meiner AI (einige Teile weggelassen):
Den 02.12.2023 finder i Wiesbaden og omegn arrangementer som cellokoncertet med Roger Morelló på Wiesbadens slotfestival samt
Wochenmarkt i Wiesbaden fra kl. 11:00.
Alle arrangementer ligger mere end 10 kilometer fra Idstein væk.
Jeg søger begivenheder for "i morgen" i nærheden, men de skal ikke være lige udenfor min dør (sådan ville det blive kedeligt/altbekendt)
Man har fundet arrangementer i nærheden af mig til i morgen, men de er ikke direkte udenfor min dør.
--> Opgaven er løst. Alt dette uden nogen form for optimering, som sikkert stadig kan gøres og vil føre til endnu bedre resultater.
--> Begyndelse på programmering af denne løsning (lokal sprogmodel allerede fra starten): 01.12.2023
--> Ende Programmierung: 01.12.2023

Kurzum, jegte må jeg afkorte her: KI kan ikke reguleres. En KI kan alt, hvad en menneske kan (se ovenover). Hvorfor skulle man regulere mennesker? Så længe de ikke har gjort noget galt, overhovedet. Efter at noget slemt er sket (tyv, morder, terrorist, folkesindssyg etc.) bliver der efterforsket. Så er det dog for sent. Så vidt jeg ved, lykkedes det i demokratiske lande aldrig og lykkes det heller ikke at forbudse en menneske at tænke. En KI kan dog meget hurtigere, længere og (snart) bedre tænke end et menneske.

Desuden synes jeg, at spørgsmålet om en AI kan være urheber til et værk, er meget absurd. For hvis jeg lader min egen AI (uden vandmærke) skabe et billede og så påstår det er mit eget arbejde, så ville du ikke kunne bevise det modsatte eller kun efter en meget stor indsats. Især kan billeder eller musikstykker, der er genereret af en AI, endnu manualt bearbejdes og udvides.

Behandler sprogmodeller persondata?

Yes, næsten altid. Og deraf følger det, når

a) i træningsdatane finder man personlige data

b) Brugeren bruger i sin indtastning (prompt) til chatboten personlige data.

Punkt a) er tilgængelig for alle mine kendte sprogmodeller. Se f.eks. de enorme træningsdata The Pile og C4 (Collosal Cleaned Common Crawl), der anvendes i alle almindelige chatbot-modeller.

Det synes, at nogle ønsker sig, at KI-systemer ikke behandler persondata. Virkeligheden ser så ud: KI-sprogmodeller behandler persondata og gemmer disse også.

Mange accepterer det og påstår derefter, at personlige data kunne automatisk genkendes og anonymiseres. Det er Bullshit. Enhver, der påstår det, har ingen anelse om kunstig intelligens eller privatlivssikkerhed. Desværre findes der særligt naive mennesker og organisationer, som for enkelte løsninger, der gør håbløse love vedrørende anonymiseringen af data, også udråber en nominering til en innovationspris.

Privacy Shield II (Data Privacy Framework)

Formelt set er den dataskyddsværlden for overførslen af data mellem EU og USA igen i orden. Anklagen, der førte til dommen fra Den Europæiske Domstol (EuGH) Schrems II og det ugyldige Privacy Shield, var jo, at USA er en efterretningstat (FISA 702, EO12333, Cloud Act). Det synes at være blevet diskuteret væk med Data Privacy Framework (DPF) og vil sandsynligvis snart blive taget tilbage af EuGH.

Det drejer sig om, at personlige oplysninger nu igen uden særlige garantier kan overføres fra EU til USA. Derfra drager nogle dumme hoveder eller foreslår, at nu er alle databehandling i USA tilladt.

Rigtig er, at enhver behandling af personlige oplysninger skal ske i overensstemmelse med en af de lovgivende grunde fra Artikel 6 (1) DSGVO. Og ja, der bliver altid overført personlige oplysninger til ChatGPT, når den ChatGPT-oversigt bruges. Den IP-adresse er personlig og bliver altid overført. Desværre holder OpenAI ikke så meget omkring dataskydd-reglerne, fordi da deres egen KI ikke kan blive bedre tilpasset. Og Microsoft som ejer af OpenAI er heller ikke særligt interesseret i dataskydd. Se på det nye Outlook, der selv tager brugerens navn og adgangskode fra deres mail-konto og henter og analyserer deres data samt deres mail-korrespondance. Og de sikkerhedsproblemer, Microsoft (Azure) har haft, som Microsoft har nedspydet og ikke (muligvis nu?) løst.

AI-eksperter

Det er bemærkelsesværdigt, at mange med AI-artikler har ingen eller meget lidt forståelse af teknologi. AI bygger i væsentlig grad og mere end næsten alle andre opnåelser på teknologi. Hvorfor kan så nogen, der virkelig ikke ved noget eller kun meget lidt om det, træffe kompetente udtalelser?

ChatGPT-disciples, som vil tjene penge på at anbefale og forbedre prompts, forstår i det mindste lidt om teknologi, nemlig, at man ikke bruger en computer-mus til at (som Scotty) tale ind i musen, men til at bevæge en cursor på skærmen med. Gælder kun for alle, der sjældent bruger PC'et med sin overflodige store skærm og den overflødige effektive tastatur i stedet for en helt tilstrækkelig lille smartphone-tastatur samt skærm til mennesker i årene med bedste syn.

Disse ChatGPT-followere, der muligvis har et lille teknisk kendskab og ved, hvordan man bruger internettet, har dog desværre ofte næsten ingen fornemmelse af eller interesse for privatlivssikring.

ChatGPT er et godt system og for uskyldige opgaver kan det med god samvittighed anvendes. Men hvad sker der så med følsomme data?

Grænser for AI

Det er stadig sådan, at især sprogmodeller (LLMs) ofte hallucinerer, dvs. leverer falske påstande. Det vil også være sådan, siger jeg. Eller ville I påstå, at mennesker ikke gør falske påstande? Selv eksperter siger ofte forkerte ting, som de senere – med indsigt tilgivet – reviderer. Tydeligvis har menneskeheden i nogle millioner år af eksistens ikke kunnet ændre sin usikkerhed. Hvorfor skulle det være anderledes ved künstige systemer?

AI kan være meget mere pålidelig end mennesket i mange områder og i visse tilfælde også ekstremt pålidelig. Men når det handler om at sammenfatte klager til domstol, så forbløffer mig, hvordan man kan se AI som en løsning herfor.

Datavenlige AI-systemer

Dataseskret interesserer mange virksomheder ikke. OK, så tager vi Virksomhedshemmeligheder. Hvem giver mig mit Virksomhedshemmelighed? Hvorfor ikke? Hvis mit navn er ChatGPT, så giver I det så til mig?

Det skal være dokumenter, hvor der er aftalt tavshed omkring dem. Mange kalder det for NDA (Non Disclosure Agreement). Hvis du laster en sådan dokument ind i ChatGPT og beder chatbot'en om at sammenfatre det, har du da ikke allerede bruttet tavsheden? Jeg siger: Yes

Det ville være endnu værre, hvis du bruger det nye Outlook til at sende fortrolige dokumenter. For så får Microsoft automatisk indsigt i detaljerne.

Der er mange virksomheder, der ikke forstår: ChatGPT kan meget lidt og meget dårligt som egne KI-systemer. En løsning er autarke KI-systemer, der tilhører jeres virksomhed. Ikke kun, at det med dette problemet er løst, fordi I selv bestemmer, om data skal forlade systemet og hvis ja, hvilke data og til hvem de skal sendes.

Desuden, og det er nok for mange interessantere, kan I selv oprette KI-systemer, der hele tiden uden besvær kan trække på virksomhedens viden og svare på spørgsmål herom. Indgangen til et eget KI-system kunne være en intelligent dokumentdatabas, eller et KI-tool til dataanalyse. Efter at have søgt efter dokumenter, kan I uden pause overgå til en spørgsmål-og-svar-maskine. Hvis I vidste hvad der allerede er muligt, ville I nyde de sidste år af jeres eksistens endnu mere.

Tilfældigvis er egne AI-systemer ikke dyre. Vi taler ikke om raketterprojekter med hundrede eller tusinde person-timersindsats. Et første AI-system kan snart opbygges.

Konklusion

AI er ikke en modefænomen, men en tilstand, der vil eksistere frem til vores død. Spørgsmålet er ikke, om AI vil være så kapabelt, at vi lider under den, men hvornår. Denne udvikling kan ikke mere afhjælpes.

Til forklaring skal nævnes, at hver enkelt kan hente og bruge det meste af samlet kognitiv informationsviden samt kognitiv softwarebiblioteker og kognitiv modeller (= elektroniske hjerner) på sin egen computer.

Regulering ville kun være mulig, hvis hver computerkøb og hvert download fra internettet blev overvåget. Den viden, jeg dagligt opdager nye ting til, gør mig chokeret over de massive muligheder, som AI tilbyder. Jeg taler her om, at disse muligheder er åben for mig som programmerer lige nu og "i morgen" endnu mere. Dertil rækker en forskning i relevante kilder, som jeg dagligt bruger en time på, gestern længere og til halv et ud på natten, fordi mulighederne, som jeg har læst om og set programmerkode til, er så fænomenale og åndedrættende. Det var også den udgangspunkt for denne artikel.

Ha en god tid med at nyde de sidste år af din vanlige tilværelse!