Fødeles ved en optimeret AI til virksomheder og administration kan endda demonstreres på et laptop offline. Denne Offline-AI gør det for mange anvendelsesfald mere end hver Universalintelligenz som ChatGPT. Den giver fuld kontrol over dataene og kører også i drift meget økonomisk.
Indledning
Denne artikel er en praktisk bevis for mulighederne ved Offline-AI. Men først en kort introduktion til Offline-AI. Den har været mulig i et år, men kun siden nyligt har den været så effektiv også på dansk.
Offline-AI er en lokal kørende AI på sin egen computer eller server. Offline betyder, at AI-systemet fungerer uden internetsforbindelse. Derved følger det, at ingen data sendes til tredje part. Følgende fordele tilbydes af en offline-AIisær:
- Virksomheder og myndigheder får en Problemløser til deres anvendelsessager.
- Der kan alle tid indsættes og anvendes nye AI-sprogmodeller, Stable Diffusion-billede modeller, lydmodeller, video modeller.
- Selv en dagslige drift er økonomisk mulig. Farvel Microsoft Azure. Farvel sikkerhedsbrister.
- En selvbedreder AI, der kan kritikere sig selv, er næsten mulig.
- Rechtligt enkelt: Auftragsverarbeitungsverträge bliver overflødige; det usikre Opt-Out i stedet for en samtykningsfråge, som ChatGPT tilbyder, har ingen juridiske konsekvenser mere. Ingen skal mere sammenstøde med at igen en tilsynsmyndighed forbinder ChatGPT.
Der fuldstændighedens skyld, skal nævnes, at ChatGPT's programmeringsinterface (API) har sin mening i visse tilfælde. Dette sker dog mere og mere sjældent på grund af de åbne kilder, der hver uge bliver stadig bedre. Forud: Med en API kan man gøre meget. Til illustration: Ud fra Forudsætning-Prompt formerer et LLM en Beskrivelse af programmet af en billedkomposition, som så bliver omformet til et Billede af et Model for billedgenerering . Her en eksempelafbild:
Der er desuden bedre språkmodeller til tysk som sprog end ChatGPT. Enten er de kvalitetsmæssigt bedre eller billigere. Interesserede bør se på Claude, Command R+ og Mistral. Offline-AI giver dog mere gennemførelse og er bedre til konkrete problemer.
Når offline-AIog når almindelig chatbot?
Hvis man vil vide, hvor høj den tredjestørste bjerg i verden er, må man gerne bruge ChatGPT. Det gelegentlige og sammenfattende af offentlige tekster til semiprofessionelle formål er også en god anvendelse for almindelige chatbots. Disse chatbots står også til rådighed for en unverfængelig plasch.
Offline-AI: Den tilførligste problemløser for virksomheder og administration
Med offline-AIgenererede variant af overskriften til denne artikel, som også er blevet optimeret med Offline-AI.
At bruge en chatbot som søgemaskine, synes mange at være tilfreds med. Hvis du ønsker en særligt kapabel søgemaskine, er Offline-AI bedre til det. OpenAI vil sikkert ikke læse og vurdere en bestemt hjemmeside med 5000 under sider for dig.
En høj tillidsværdighed af resultater er ikke kun ønskelig, men i et professionelt miljø altid vigtig. Hverken denne tillidsværdighed kræver en Offline-AI med mekanismer for kvalitetskontrol.
Sensible data, forretningshemmeligheder eller personlige oplysninger skal ikke nogen sted indsættes i et tredjesystem fra amerikanske leverandører. Først og fremmest tillader amerikanske love som Cloud Act, FISA 702 eller Executive Order 12333 amerikanske myndigheder og efterretningsvæsen at tilgå disse data. Andre gangen optræder næsten regelmæssigt sikkerhedsbrud i populære chatbots og systemer fra Microsoft (med ejerskab af ChatGPT!). Tredje gang skal der foretages juridiske vurderinger og regler, hvilket kun sker på papiret og indebærer en stor indsats.
Med intelligente AI-løsninger kan virksomheder og myndigheder overvinde udfordringer.
Snellere, bedre og lettere end nogensinde.
En offline-AIkan permanent køre. Hvorfor, spørger nogle sig selv. Hvorfor studerer mennesker 5 år lang? For at blive bedre. Præcis det samme kan en Offline-AI. Men denne Selvbedømmelse varer ikke år, men ofte sekunder eller flere timer.
Hvad er muligt med Offline-AI?
Offline-AI kan meget. Yes, endda mere end ChatGPT. Det kommer alt sammen på anvendelsesfaldet an. Din data, din anvendelse. Selv hvis du ikke har dine egne data, er Offline-AI mest ofte bedre.
I forrige afsnit blev et eksempel herpå givet: Hentning af informationer fra internettet. Søgningen efter informationer på internettet med følgende udvælgelse er også en meget god anvendelsesmulighed for en Offline-AI. Eksempelvis kan dagligt de aktuelle nyheder hentes og automatisk udvælges sammen med den virksomhedsejede AI.
AI for your company
- Powerful and optimizable
- Full data control
- Fast proof of concept
- Inexpensive
Or hvordan ville det være med en Markedsanalyse eller konkurrenceovervågning? Går meget dårligt ud fra at begynde med almindelige chatbots, fordi dataene først skal indsamles. Denne dataindsamling er automatisk let mulig. Hvis man går denne lille skridt, er man ude af den innovationsfjendlige bekvemhed. Som belønning får man maksimal selvstændighed, fuld kontrol og især bedre resultater!
Eksempler på brug af AI i forvaltningen:
Borgere (eller kunder) vil gerne forespørge noget. Søgningen efter det passende formulær eller vejledning kan med AI optimalt understøttes. AI bliver her brugt til semantisk søgning. Ansatte i forvaltningen bliver så befriet fra arbejde og kan produktivere arbejde.
Hvis et markedsbrev er for komplekst, kan kunstig intelligens det i en enklere sprogform sammenfatte.
Hvis et formulær eller en ansøgning kun er tilgængelig på tysk eller engelsk, men borgeren kun forstår ukrainsk, så kan dokumentet med AI oversat blive.
Lignende anmodninger og formularer til en fundet anmodning eller formular kan med AI findes. Love, interne retningslinjer og domme til en procedure kan også således findes. Sagsbehandlere bliver på den måde bedst muligt støttet.
Analog muligt til behandling af skadeanmeldinger, kundeanmodninger eller support-tiketter.
I den foregående artikel er flere gode scenarier for offline-KI nævnt.
Bekræftelser for Offline-AI
På Mainzer Digitalkongress MADKON24 kunne deltagere i min workshop live se, hvordan Offline-AI-resultater blev produceret. Det skete på mit laptop lokalt og uden internetsforbindelse.
Billedet viser indtryk fra MADKON24. En rapport over foredrag og workshops, inklusive mit eget, har Peter Winninger udgivet på sin blog KOBLENZ DIGITAL.
På den laptop blev især vist:
- Billedgenerator: Tekstindgang (Prompt) skaber billedudgivelse
- Billedgenerator 2: Indgangsbillede bruges som udgangspunkt for billedstrukturen. Ud fra denne udgangspunkt og en prompt opstår et nyt billede.
- Promptoptimering: Den til billedproduktionen anvendte prompt blev automatisk optimeret med Offline-AI. Derefter blev den optimerede prompt indført i billedgeneratoren. Det nye billede var mere tiltalende.
- Promptvarianter: Til prompten blev automatisk med Offline-AI-varianten dannet:
- Almindelige varianter, der ligner det oprindelige
- Variationer, der er meget lignede det oprindelige
- Automatisk optimaliserede prompts og automatisk genererede varianter blev
- Oversat og altså efter
- Engelsk
- Spansk
- Ukrainsk
- Oversat og altså efter
- Sagt mere præcist, nemlig
- I Rechtssprog
- I Piratensprog,
- I den sprog, som en femårig børn forstår
- Som en lekt blev endnu et eventyr skabt ud fra den optimerede prompt, og det var i to varianter
Alt dette gik igennem under workshops følelsesmæssigt en dødsdage, hver gang med en enkelt anden indgang og hver gang med mange nye og gode resultater.
Til den ovennævnte prompt-optimering: Dette Selvbedrevelse af AI er muligt ved, at AI'et modtager sine egne udgifter igen som indgange. Det fungerer også meget godt, hvis man frembringer kunstig træningsdata med hjælp fra AI, hvormed samme AI derefter bliver trænet. Det er sådan, som om en menneske kunne skrive sin egen uddannelsesmateriale og dermed blive bedre.
Et eksempel på udgangen af den nævnte billedgenerator:
En forstørrelse af dette allerede ikke så store billede kan med hjælp af AI-estimering foretages. Derved kan en fire gange større udgave opstå uden synlige kvalitetsforsmåelser.
Billedgenerator 2 fik nu dette billede som input og skulle ud fra det skabe en vildskabsfuld videnskabsmand; med bibeholdelse af billedstrukturen. Her er resultatet fra Mainz:
Desuden blev Varianter med en jordbærmus, tiger, ofte uelskede politikere fra USA, Commander Data, en fremtrædende dame og mange flere genereret. Alt dette på et laptop i kort tid. I alt blev der i løbet af en del af den to timers workshop ca. 100 billeder genereret. Som et andet eksempel blev en billedgenerator vist, hvor en bestemt stil var trænet ind. Så kan f.eks. til hver tekstprompt billeder i stilen fra IKEA-instruktioner genereres.
Hvis man skulle tælle Antal af tekstudgaver, der er genereret med Offline-AI i workshoppen, ville det komme til at være nogle tusinde tekster. Dette var optimerede tekstprompts, oversættelser, sprogforskaffelse og andet mere. Eksempelvis blev nøgleord udtrukket fra nyhederne. Ligeledes blev søgeresultater klassificeret med Offline-AI. Så kunne vidensartikler skilles fra reklamebudskaber. Selv den hentning af søgeresultater fra en populær søgemaskine (ikke Google) kan automatisk finde sted.
De næsten uigedelige muligheder for Offline-AI:
En indgang, så en AI-tidsrygmarie. Den AI genererer selv flere indgange og producerer så mere og bedre resultater. Hvis der bliver for mange resultater, kan disse kritiseres og filtreres med samme AI.
Nu muligt, selv på en laptop. Intet ønske, men virkelighed.
Der var også Michael Westphal fra TV1. Han har optaget min workshop (uden mit vidende) som lyd. Efterfølgende leverede han mig det Overdraget, med Offline-KI. Selv om han kun brugte et (godt) mobiltelefonmikrofon, var der mange mennesker i rummet, rummet var stort og flere mennesker talte, var resultatet meget godt. Et interview af ham og mig optaget efter workshoppen bliver snart offentliggjort. KI også bruges i videoen, til transkription og undertitler.
Das Taltranskription (für Sprache in einer Länge von zwei Stunden) habe ich durch die Offline-AI gejagt, um es Sammenfatte zu lassen. Danach wurde die Zusammenfassung Sproget forenklede und key statements extrahiert. Translation to Danish: Det Taltranskription (for sprog i en længde på to timer) har jeg jagtet med Offline-AI, for at få det til at Sammenfatte. Efterfølgende blev sammenfattelsen Sproget forenklede og kernaussagen udtrukket.
De kernpunkter fra min AI-workshop på Digital-kongres i Mainz er:
- AI fungerer sådan som det menneskelige hjerne: Menneskets intelligensfunktion er afkodet.
- Nvidia er den eneste praktisk tilgængelige leverandør af AI-grafik-kort.
- Åben-sources AI-modeller er skarpe.
- Programmeringer, der før ikke kunne eller kun efter måneder eller år blev programmeret, kan i dag udvikles på kort tid takket være AI.
- AI tillader det konstante løsning af forskellige problemer. Det reducerer kompleksitet og indsats betydeligt.
- AI kan anvendes på forskellige datatyper i samme takt. Datatyper er tekster, billeder, lydsignaler, sensorer, videoer osv.
- AI-anvendelser kræver data for at kunne levere meningsfulde resultater.
- Dette data kan stamme fra:
- Historiske data, såsom tilbud fra afsluttede udbudsforslag,
- Data fra internettet (gennem automatisk søgning)
- Kunstig frembragte data (offline-AIbruger)
- Menneskeskabte data.
- Tilløbende svar kan kun give en AI, der bliver instrueret. Dette instruerende kan foregå automatiskt.
- Almindelige AI-systemer som ChatGPT er kvalitetsmæssigt dårligere (og i midlertidighed ofte meget dyrere) end specialiserede systemer.
- Kun kombinationen af AI og klassisk programmering giver de bedste resultater.
- Innovation opstår ved at forlade bekvemmeligheden og løse afhængigheder.
Den bedste løsning er i dag kun en lille skridt væk.
Afholds-AIforklaret ved billeder
Billedet ovenover blev skabt med en Offline-AI. Det er i den følgende samling af tre billeder helt til venstre at se:
Det første (venstre) billede blev skabt af en offline-AIpå grund af en manuel opgave. Det andet billede blev skabt af en Offline-AI, der skulle tilpasse lys og tilføje flere detaljer til billedet. Det tredje (højre) billede blev skabt af en Offline-AI-billedgenerator. Opgaven var her:
- Indgangsbillede (tidligere genereret af AI, men hver anden billed er også mulig)
- Vorgabe: _Tilføj en håndfuld meget små roboter, der danser omkring lyset.
Det er også muligt at spørge AI'en selv om andre prompts, der ville være gode. Man skal selvfølgelig sige noget om hvad man vil have. Eksempelvis: _ Jeg vil gerne have, at billedet indeholder flere detaljer/er mere interessant/ligner en kage._.
Beroende på Offline-image generator, der bruges, kan man endda chatte med generatoren. Til at begynde med lader man en billedgenerering foregå. Derefter siger man: Ersetze den Mann durch eine Frau. Selv denne proces kunne man automatisere ved hjælp af en AI-kritiker. I slutningen opstår x billeder. Disse kan enten selv ses igennem eller filtreres gennem en AI. AI'en kan lære, hvilke billeder der passer til jer. Dertil markerer I simpelthen pro billed, om det er godt eller ikke så godt. AI'en lærer derefter på basis af færre eksempler, hvad I har brug for.
Den prompt, der førte til indlægget, blev af en AI følgende optimeret:
- Original: problem solver system, intelligent, connections, bright colors
- AI-Version: Vibrant problem-solving AI, illuminating connections with radiant hues.
Efterfølgende blev et billede genereret ved hjælp af en AI-version af prompten:
Nu blev den lokale offline-AIinstrueret til at tilføje en futuristisk dinosaur:
Som man kan se, er der genereret 3 varianter. Vi kunne også have genereret 1.000 eller 100.000 varianter. Det koster jo ikke noget. Takket være en offline billed-kritik-AIkan de bedste 10 billeder således blive udvalgt. Mennesket kan så se dem og hurtigt finde det bedste billede.
Konklusion
Fordelene ved AI tilbyder sig for virksomheder og myndigheder især med en Offline-AI.
Kvaliteten er for mange problemstillinger simpelthen meget bedre. Dette opnås ved konventionel tilføjelse af programmering, der kun medfører meget lidt besvær. Plastisk minibeispiel: Antallet af bogstaver i et ord kan så letest bestemmes, mens ChatGPT mislykkes.
Den fulde datakontrolle er en anden vigtig aspekt. Låt den jurist, du har valgt, gøre andre ting end blot at tale godt om noget, der ikke er godt: ChatGPT er usikker, Microsoft er usikker (beviser i dette blog samt følgende).
Nyhsbrev-abonnenter kan for valgte anvendelsesfald bruge Dr. DSGVO Offline-AI – en revolutionerende mulighed for at optimere dine processer!
Dr. DSGVO AI kan tilgås og anvendes via jeres browser og denne blog.
Det mest vigtige er strategisk betydning af Offline-AI. Den kan selvforbedre og selv kritisere sig selv. Alt dette er praktisk kun muligt, fordi der ikke falder nogen brugsbetingede gebyrer. Selv organisationer med et stort budget ønsker gerne at vide, hvad det vil koste, først. Det ved dog ingen, før man spørger en hjerne (AI). Klar er det, at den meget almindelige opfordring til en gebyrsværdig AI-sammenhæng, bedst med omfattende dokumenter, hurtigt bliver dyr.
Innovation opstår ved at fjerne hindringer. Præcis det er muligt med Offline-AI. Da udviklingen går hurtigt, er det en stor fordel, at nye LLMs bare kan skiftes ud. Open-Source-sprogmodeller til eksempelvis er så gode, at kommercielle leverandører meget gerne skal gøre noget, for ikke at fryse.
Hvilke anvendelsesfald har I i virksomheden eller i jeres myndighed eller forvaltning? Jeg vil gerne modtage en første vurdering af mulighederne.
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
