Offline-AI som mulighed for alle størrelser af virksomheder

En offline-AItilbyder ofte bedre resultater end de bedste AI-modeller, fuld kontrol over data og er i mange tilfælde væsentligt billigere end løsninger med ChatGPT eller Microsoft Azure. Hva' er en offline-AIog hvilke chancer giver den?

Den fremtidige udvikling af Kunstig Intellect

I dette indlæg beskrives en mulighed for virksomheder, der med egen AI-system kan opnå meget gode resultater og samtidig have fuld kontrol over egne data. Selv ved intensiv brug af denne virksomhed-AIbliver omkostningerne lav.

Denne form for kognitiv itning bliver her kaldt Offline-kognitiv itning.

Fordelene ved offline-kunstig intelligens

Førmåenhed

En Offline-AI udskiller sig ved sin kapacitet. Den kan behandle og analysere store mængder af data, for at trække værdifulde indsigt ud af det. Derved kan virksomheder træffe bedre beslutninger og processe optimere. Ved kombinationen med konventionelle metoder kan AI også komplekse opgaver løse og prædictioner trække. Især vanskelige problemstillinger kan gennem tilføjelse af procedurer fra Machine Learning løses.

Eksempel:

En virksomhed deltager i Tenders og har en række data fra tidligere Tenders samlet. For den næste tender vil virksomheden gerne vide, hvilken offer price med en god sandsynlighed vil føre til, at de bliver valgt.

Denne type af problem kan løses meget bedre ved hjælp af en offline-AIend ved almindelige intelligens som ChatGPT. Årsagen er især:

• Specifik opgave, der ikke kan løses universelt (og hvis det en gang sker, så er mennesket ikke længere den mest intelligente eksistensform på denne planet).
• Form for tekster og begreber, der er specifikke for dit firma og din branche.
• Store mængde data, der skal flyde ind i AI. Derved opstår spørgsmålet om udgifter ved brug af cloud-tjenester som Microsoft Azure eller ChatGPT-API'et.
• Muligvis: Behov for at holde dine data hemmelige eller være sikker på, at dine data er fortrolige.

Rule of thumb: Den høje ydelsesevne af Offline-AI kommer især til gavn ved anvendelse til sagsfald, der ikke synes så trivialt som at indtaste en tekst eller flere tekster i en chatboks.

Datakontrol

En Offline-AI beskytter dataene, der tilhører dig. Det kan være patentansøgninger eller forretningshemmeligheder. Men ofte er også en aftale om fortrolighed for bestemte data blevet indgået. Disse data skulle bedst ikke lande hos amerikanske selskaber (Cloud Act, EO 12333, FISA 702). Nogle kunder vil ikke have, at deres data, som gives til dig, lander hos tredje partier som Google, Microsoft, Meta eller OpenAI. Alle disse virksomheder bruger brugerdata til at træne deres egen AI.

En Offline-AI håller dataene ved dig. Derfor kommer også navnet på denne AI: Den er i princippet uden internetsforbindelse afviklingsfærdig. Det betyder, at alle datastrømme er fuldt kontrollerede. Du bestemmer selv, hvilke data der skal flyde hvorhen. Selvfølgelig har AI-systemet adgang til internettet, hvis nødvendigt. Eksempelvis hvis videoer skal automatiseret downloades for AI eller hvis AI skal foretage internetrecherger.

Så bliver mange juridiske spørgsmål afgjort. Aftale om udarbejdelse af opgaver med amerikanske koncerner behøves ikke længere at blive indgået og ikke længere at blive juridisk vurderet. Opt-outs på grund af brugen af indtastedata af AI-leverandørerne falder væk.

Da en Offline-AI ikke har brug for at videresende indlæste indhold først, kan man undgå problemer med ophavsret og GDPR. En generativ AI som ChatGPT, der ikke er "blokeret", er næsten et garanti for ophavsretsforbrydelser.

Billige omkostninger

En selvstændig Offline-AI er ikke kun effektiv og sikker, men også økonomisk gennemført. Når den er sat op, er det uigenværende, om dit AI-system kun bruges 3 timer pr. uge eller 24 timer døgnet rundt og hver dag i året med fuld last.

Den, der har set en gang omkostningerne for cloud-platforme som Azure, finder måske denne kostaspect særligt tiltrækkende.

Try Offline-AI now

Optimizable and with full data control. Economical even in continuous operation.
Fully-controlled data center, no third-parties.

Try now

Aber allerede brugen af ChatGPT-API'et bringer spørgsmål vedrørende omkostningerne på, selvom de kan betegnes som lavprægede. Eftersom en AI er noget uskarpt, er det a priori ikke klart, hvor ofte og med hvilket data materiale AI'et skal blive opkaldt for at nå ønsket resultat. Sådan spiller det ingen rolle, om 100 opkald koster 1 euro eller 10 euro. Alene usikkerheden vedrørende omkostningerne er en hindring.

Hvis et system skal behandle mange data, f.eks. dine virksomhedsdokumenter eller alle hessiske love, så bliver også ofte tilkald af en meget gunstig API hurtigt for dyrt og uden plan.

Fra den økonomiske aspekter følger også næste fordel ved en offline-AItil virksomheder.

Innovationsevne

Innovation er en proces. En god proces kører så vidt muligt kontinuerligt og hver gang der skal være brug for det.

En 24/7 drift er den perfekte forudsætning for innovation. 24/7 betyder, at virksomhedens AI altid og i fuld udstrækning er til rådighed og fungerer bedst permanent.

Teknisk set kan alle cloud-tjenester bruges permanent. Kostene herfor er dog ofte usædvanligt høje og ofte uforudsigelige. Ved siden af dit pengebeløb leverer du også dine data til cloud-leverandøren, der ikke engang takker dig.

En offline-AIkoster altid lige så lidt, uanset hvor ofte den bruges. Omkostningerne består i hovedsagen af:

• supply af hardware: Entweder leje eller køb (eget datacenter eller colocation, altså eget server i et fremmed datacenter). En professionel AI-server er allerede tilgængelig for 5000 Euro. Ved leje opstår der omkring 1000 Euro pr. måned i udgifter. For nogle AI-anvendelsesfald er server-lejekostnigene endda næsten ubetydelige.
• Indstillings System: Denne enkeltidsindsats er afhængig af dit anvendelsesfald. Den er overskuelig. Hvis du lejer en færdig AI-server, er omkostningerne endnu lavere.
• Programmering af AI: Afhængigt af dit anvendelsesfald. Ofte meget effektiv mulig. Se venligst følgende eksempel: Forfatteren til dette indlæg blev interviewet i en 3sat-dokumentation. Til dokumentationen blev fra forfatterens side indenfor få timer et AI-system programmeret, der kan identificere og markere inbreder i overvågningsvideoer. Se 3sat-Dokumentation fra minuttet 33:16.

Et par eksempler på innovative projekter, der med en offline-AIer muligt:

• Document search: Dokumenter kan også være support-tiketter eller e-mails fra kunder. Find de dokumenter, der passer bedst til din søgning. Søgningen kan også foretages ved at stille en naturlig sprogformuleret spørgsmål.
• Verdensviden finde og værdere: Over en baggrundproces bliver internettet efter din søgning igennemgået. Målet er at få flere treffere, end der ville være relevant. I næste skridt bliver disse ofte 1000 treffere givet til en Offline-AI. I et merefleksigt proces, der let kan programmeres, bliver først de offensivt irrelevante treffere fjernet. Så følger crawlen af de tilbageblevne treffere. Der læses så også de fulde resultater ud og givet tilbage til Offline-AI'en. Denne analyserer så verdensviden-tekster efter din anvisning. Eksempler:
  • SEO-analyse
  • Adresse udtrække
  • Konkurrenceanalyse
  • Aktuelle innovationer identificere
  • Tendenser genkende
  • Find bygningsprojekter
• Oversættelse til andre sprog: Tilfældigvis får du en kapabel oversætter. For perfektion bør du bruge DEEPL o.sv. Hvis dog meget gode (!) resultater er tilstrækkeligt, så får du disse gratis og i uendeligt antal med en Offline-AI givet. Tænk på manuelle eller AI-genererede arbejdsresultater, der skal være forståelige for en kollega i Spanien, Frankrig eller Ukraine.
• Lydtransskription: Omdanne sprog fra videoer eller podcasts til tekst. Funktionerer bedre end hvilken som helst tilgængelig AI-løsning. Den Offline-AI bruger et eget ordbog. Den kan automatisk hente og transskribere uendeligt mange videoer eller podcast-afsnit. Et prompt-tuning er ikke nødvendigt.
• photos generere: I modsætning til tjenester som Midjourney eller DALL-E kan din Offline-AI oprette tusinder af billeder. Egen stil og automatisk optimering af dit billed-prompt er muligt. Ting som urheberretspåklagelse er også godt integreret.
• Objekterkendelse: Entweder vil du gerne på videoer eller billeder genkende bestemte objekter. Det er også muligt at findes produktionsfejl i fremstillingen. Herfor er en enkelt træning af din offline-AImed billederne af dine fremstillingsdele vigtig. Du ser her allerede, at dette ville være svært med en cloud-løsning. Såvel en specifik optimering synes at være sinnvægtig og kan spare betydelige penge.

Det måske vigtigste aspekt, der ligger over alle konkrete problemstillinger, er dog en anden.

Selvbedrevelse ved selvkritik af AI

Med en offline-AIer selvforbedring af dit AI-system endda mulig.

For at forstå det, skal man vide, at AI-systemer næsten er lige så usikre som mennesket selv. Selv de højt intelligente mennesker kan være dumdristigt uvidende i mange fagområder eller livsområder. Tag Albert Einstein. Hvis han stadig var i live og du spurgte ham, hvordan man bedst håndterer træ til udendørsbrug, ville du måske ikke få en god svar.

Man skal også regne med, at svaret fra et AI-sprogmodel ikke er godt nok. Det er dog tilstrækkeligt, hvis AI-svaret er halvt så godt, og måske endda (endnu) forkert.

Tag Extraktion af viden fra hvilke som helst tekster. Sådanne tekster kan være dokumenter fra jeres virksomhed eller myndighed, eller også kan de findes på internettet.

Særligt charmerende er udtrækningen af viden fra Internet. Den store datamasse er uendelig. Det eneste, der herfor kræves, er en interface til en søgemaskine. Denne interface findes, og den er lige så økonomisk som Offline-AI selv tilbyder.

Således kan teoretisk set permanent internet efter interessante indhold abgrast blive. Permanent kan disse indhold derefter med en Offline-AI analyseres. Den Offline-AI korregerer hermed selv sine egne svar, hvis nødvendigt. Permanent kan resultaterne derefter oversættes til andre sprog.

Til illustration, her et eksempel, hvor en liste med Kernaussagen skal udtrækkes fra et dokument. AI leverer f.eks. en liste på 5 kernaussager til et dokument (fra internettet eller fra dit firma). En af de kernaussager, der er udtrukket af AI, til Dr. DSGVO-blogartiklen Cookies er ikke tekstfiler lyder således:

"I dokumentet beskrives hvorfor cookies ikke er tekstfiler og at cookies i stedet er dataindstillinger.

En version af en kernbesked, der er udtrukket med en offline-AIfra nævnte dokument.

Denne svar er dog korrekt, men kan ikke bruges selvstændigt, fordi svaret henviser til det læste dokument. Det vi her vil have, er selvstændige kernaussagn.

Således ville man stille følgende spørgsmål til AI'en: "Tjek, om den følgende svar er selvstændigt forståeligt. Hvis svar er selvstændigt forståeligt, svare med 'OK'. Hvis svar ikke er selvstændigt forståeligt, formuler svar så, at det selvstændigt er forståeligt."

Den Offline-AI svarer så med en omformuleret svar:

"Kiks er ikke tekstfiler. Kiks er dataindstillinger."

Version af en kernbesked, der er udtrukket med en offline-AIfra nævnte dokument.

Dette centrale udtryk er korrekt udtrukket og selvstændigt forståeligt. På samme måde kunne man AI-svar fra samme AI

• Tjekke på retskrivning og lad AI selv korrigere fejl
• Oversætte til andre sprog, (her virkelige resultater, hurtigt oprettet med samme AI):
  • Kiksene er ikke tekstfiler. Kiksene er en samling af data._
  • Ukraninisch: _Kukí ikke tekstfiler. Kukí er en samling af data.
  • Ciasteczka ikke er tekstfiler. Ciasteczka er dataindstillinger._
  • Aserbaidschanisch: Kukilər mətn faylları deyil. Kukilər məlumat dəstləridir. (DEEPL kennt diese Sprache nicht! Quer-Check fand mit weiterem AI-Sprachmodell statt)
• i en enklere sprogform udgive
• Lad være at sammenfatte
• i stil og længde af en social medie-indlæg
• …

Man kan også læse flere blogindlæg og deraf fremstille et indlæg, alt uden omkostninger.

Nogle svar ville man få direkte fra ChatGPT, for hvilke den Offline-AI kræver 2 prompts. Forskellen er, at den Offline-AI uden tilføjelse af yderligere omkostninger tillader 100 flere prompts pr. dokument, mens brugerbare platforme som OpenAIs eller Microsofts for hver opkald kræver mere penge. Den anden forskel er sikringen af data. Den Offline-AI arbejder på din server og giver ikke data til andre, der ville være glade og stadig stærkere.

Sammenfør hvad selvbedrevelse betyder:

• Deres virksomhedskunstig intelligens genererer svar i realtid.
• Deres virksomhedskunst prøver sig selv ("Selv-kritik")
• Deres virksomhedskunst forbedrer sig selv, hvis nødvendigt ("Selvforbedring")

Man kan tage det hele til en højere niveau ved Selvbedrevelse af AI selv (dvs. ikke kun individuelle svar). Dette er allerede muligt, og det sker faktisk på en AI-Laptop. For at gøre dette, indsættes resultatet, der blev genereret og selvbedret af AI'en, som træningsdata i samme AI. Træningsdataene bruges så til at oprette en ny version af AI'en. Dette kaldes Finetuning. Den nye, bedre version af AI'en bedrer sig selv igen. Processen stopper, når der ikke længere er noget at forbedre på grund af de tilgængelige data og opgaven eller da AI-modellen har nået sine grænser. Den første situation, nemlig tilgængeligheden af data eller opgivelsen, er den mest sandsynlige årsag til slutningen af selvbedrevelseprocessen. Efter "perfekt" kommer "?".

En yderligere enorm fordel ved Offline-AI: I kan hele proceskæder kombinere. Forsøg at beordne ChatGPT til at læse en hel hjemmeside med 500 under sider og derefter udtrække alle relevante nøgleord, emner og kernaussagen fra de indlæste indhold. Dette mislykkes allerede på grund af, at OpenAI ikke er villig til at for 20 dollars om måneden "helt internettet" scanne op for dit firma. Selv brugen af ChatGPT-API til 500 mere omfattende dokumenter (efter du selv har læst dem) gør lidt sjov, da udgiften følger med intensiteten i brug.

Konklusion

En offline-AItilbyder uendelige muligheder og chancer for tyske virksomheder. AI-sprogmodeller er nu også fremragende på dansk. Især findes mindre sprogmodeller, der udviser disse fordele.

Således kan virksomheder i meget økonomisk og datavenlig måde drive egne AI-systemer. Disse AI-systemer er værd at investere i, når det ikke kun drejer sig om at indtaste en prompt i en chatbox fra tid til anden. Levestridigheden af et eget AI-system er ofte langt højere end den af de bedste almindelige AI-systemer i verden.

Offline-AI er værd at investere i, når det handler om mange data eller dokumenter, når det handler om en intensiv brug, når det handler om fuld kontrol over dataene, når det handler om at læse viden ind fra internettet eller (!) når dit specifikke anvendelsesfald bedst muligt kan løses med AI

Allerede realiserede Showcases for Offline-AI (udplukket):

• Sammenfatte og forenkle lovgivningstekster
• Opret billeder (på AI-laptop)
• Intelligent kommunikation gøre enklere
• Spørgsmaal-svar-system med tillidelige svar

Kort sagt, er det værd at have en Offline-AI til din virksomhed, hvis du har en udtrykkelig problemstilling. Spørg gerne efter mere om muligheden for din problemstilling.