Avkopplad AI som möjlighet för företag av alla storlekar

En offline-AIerbjuder ofta bättre resultat än de bästa AI-modellerna, full kontroll över data och är i många fall betydligt billigare än lösningar med ChatGPT eller Microsoft Azure. Vad är en offline-AIoch vilka möjligheter erbjuder den?

Den artificiella intelligensens framtid

I detta inlägg beskrivs en möjlighet för företag att uppnå mycket goda resultat med ett eget AI-system och samtidigt ha full kontroll över sina egna data. Även vid intensiv användning av denna företags-AI håller kostnaderna låga.

Denna form av kognition blir här Offline-AI kallad.

Fördelar med en offline-AL (Artificiell Intelligens)

Förmåga

En Offline-AI utmärker sig genom sin prestation. Den kan hantera och analysera stora mängder data för att dra värdefulla slutsatser. Med hjälp av detta kan företag fatta bättre beslut och optimera processer. Genom kombinationen med konventionella metoder kan AI även komplexa uppgifter lösa och göra prognoser. Särskilt svåra problemställningar kan lösas genom att lägga till procedurer från Machine Learning.

Exempel:

Ett företag deltar i Tenders och har en mängd data från tidigare utlysningar. För den nästa utlysningsrundan vill företaget nu veta, vilken offer price med god sannolikhet kommer att leda till anställning.

Denna typ av problem kan lösas bättre med en offline-AIän med allmänt intellekt som ChatGPT. Orsakerna är särskilt:

• Specifik uppgift som inte kan lösas universellt (och om det någon gång ska kunna ske, så är människan då inte längre den mest intelligenta existensformen på denna planet).
• Form av texter och begrepp som är specifika för ditt företag och din bransch.
• Stora mängder data som måste strömma in i AI. Detta leder till frågor om kostnader hos molntjänster som Microsoft Azure eller ChatGPT-API:et.
• Kanske: Behov av sekretess med dina uppgifter eller förtroende för dina uppgifter.

Rule of thumb: Den höga prestandan hos Offline-AI kommer framförallt till nytta i användningsfall som inte syns så triviala som att skriva in ett text eller flera texter i en chattbox.

Dataskydd

En offline-AIskyddar dina data. Det kan vara patentansökningar eller affärshemligheter. Men ofta har man också avtalat om sekretess för vissa data. Dessa data borde inte hamna hos amerikanska företag (Cloud Act, EO 12333, FISA 702). Vissa kunder vill inte att deras data, som ges till er, hamnar hos tredje part som Google, Microsoft, Meta eller OpenAI. Alla dessa företag använder användardata för att träna sin egen AI.

En Offline-AI håller data på din enhet. Därför har denna AI också ett namn: den är i princip driftklar utan internetuppkoppling. Det innebär att alla datatrafikflöden är fullständigt kontrollerbara. Du bestämmer vilka data som ska gå dit. Naturligtvis har det här AI-systemet tillgång till internet när det behövs, till exempel om man vill ladda ned videor för att automatiskt lära ut dem åt AI:en eller om AI:en ska genomföra en sökning på nätet.

Så upplöses många juridiska frågor. Avtalsuppgifter med amerikanska koncerner behöver inte längre ingås och inte heller bedömas juridiskt. Opt-outs på grund av användningen av inmatningsdata av AI-leverantören upphör att gälla.

Eftersom en offline-AIinte behöver återge tidigare lästa innehåll, kan man undvika problem med upphovsrätten eller GDPR. En generativ AI som ChatGPT, som inte är "gated", är nästan ett garanti för upphovsrättsintrång.

Billiga kostnader

En egen Offline-AI är inte bara kapabel och säker, utan också kostnadseffektiv. När den en gång har installerats spelar det ingen roll om ditt AI-system bara används 3 timmar per vecka eller 24 timmar om dygnet och varje dag under året med full last.

När man en gång har sett kostnaderna för molnplattformar som Azure kan detta kostnadsspektrum kanske tyckas särskilt lockande.

Try Offline-AI now

Optimizable and with full data control. Economical even in continuous operation.
Fully-controlled data center, no third-parties.

Try now

Redan användningen av ChatGPT-API:n väcker frågor om kostnaderna, även om den kan beskrivas som lågprisad. Eftersom en kI är något osäker är det inte förenligt med att förutse hur ofta och med vilket data material AI:an måste anropas för att uppnå ett önskat resultat. Därmed spelar det ingen roll om 100 anrop kostar 1 euro eller 10 euro. Bara osäkerheten kring kostnaderna är en hindersten.

Om ett system ska hantera många data, till exempel era företagsdokument eller alla hessiska lagar, kommer även frekventa anrop av en mycket fördelaktig API snart att bli dyrt och oplanerbart.

Från kostnadssynvinkel följer också nästa fördel med en offline-AIför företag.

Innovationskraft

Innovations är en process. En bra process fungerar så smärt som möjligt och alltid när det behövs.

En 24/7 drift är den perfekta förutsättningen för innovation. 24/7 innebär att företagets AI alltid och i full utsträckning är tillgänglig och fungerar på bästa sätt permanent.

Tekniskt sett kan alla molntjänster användas på lång sikt. Men kostnaderna för detta är ofta obefogade och oförutsägbara. Dessutom lämnar ni vidare era data till molntillhandlaren, som inte ens tackar er.

En offline-AL kostar alltid lika lite oavsett hur många gånger den används. Kostnaderna består i huvudsak av:

• Upphandling av hårdvara: Antingen leasing eller inköp (egen datacenter eller colocation, dvs. egna servrar i ett främmande datacenter). En professionell AI-server är redan tillgänglig för 5000 euro. Vid leasing uppkommer kostnader på under 1000 euro per månad. För några AI-användningsfall är serverleasingens kostnader faktiskt obetydliga.
• Inställning System: Denna enstaka kostnad är beroende av ditt användningsfall. Den är överskådlig. Om du hyr in en färdig AI-server, är kostnaden ännu lägre.
• Programmering AI: Beroende på ditt användningsfall. Ofta mycket effektivt möjligt. Se följande exempel: Författaren till detta inlägg intervjuades för en 3sat-dokumentär. För dokumentären programmerades ett AI-system av författaren inom några timmar, som kan identifiera och markera inbrott i övervakningsfilmer. Se 3sat-dokumentären från minuten 33:16.

Ett par exempel på innovativa projekt som är möjliga med en Offline-AI:

• Dokumentssökning: Dokumenten kan också vara support-tiketter eller e-post från kunder. Hitta de bästa passande dokument till din sökfråga. Söket kan också ställas i form av en naturligt språkformulerad fråga.
• Hitta och värdera världskunskap: Efter en bakgrundsprocess sökas internet efter din sökfråga. Målet är att få fler träffar än vad som är relevant. I följande steg ges dessa ofta 1000 träffar till en Offline-AI. I ett flertaggat process, som lätt kan programmeras, sorteras först de uppenbart irrelevanta träffarna ut. Därefter följer crawlen av de kvarvarande träffarna. Således läses fullständiga resultat ut och ges åter till Offline-AI:et. Den analyserar sedan världskunskapstexterna enligt dina anvisningar. Exempel:
  • Sökoptimeringanalys
  • Uppge adresser
  • Konkurrensanalysera
  • Aktuella innovationer identifiera
  • Identifiera trender
  • Hitta byggprojekt
• Översättning till andra språk: Bland annat får du en kraftfull översättare. För perfektion bör du använda DEEPL o.s.v. Men om mycket bra (!) resultat räcker, så får du dessa gratis och i vilken mängd som helst med en Offline-AI. Tänk på manuella eller AI-genererade arbetsresultat som en kollega i Spanien, Frankrike eller Ukraina ska få och förstå.
• Ljudtranskription: Omvandlar språket från videor eller podcast till text. Fungerar bättre än någon tillgänglig AI-lösning. Den offline-AIanvänder ett eget ordbok. Den kan automatiskt ladda ned och transkribera obegränsat många videor eller podcast-avsnitt. Ett prompt-tuning är inte nödvändigt.
• photos generera: I stället för tjänster som Midjourney eller DALL-E kan din Offline-AI generera tusentals bilder. Egna stilar och automatisk optimering av ditt bild-prompt är möjliga. Saker som upphovsrättskontroll är också bra integrerade.
• Objektigenkning: Antingen vill ni identifiera vissa objekt på videor eller bilder. Det är också möjligt att hitta produktionsfel i tillverkningsprocessen. För detta är ett enstegs-träning av er offline-AImed era tillverkningsdelar viktigt. Ni ser redan här att detta kommer att vara svårt med en molnlösning. Dessutom verkar en specifik anpassning vara meningsfull och kan spara betydande kostnader.

Det viktigaste aspekten, som ligger över alla konkreta problemställningar, är dock ett annat.

Egenutveckling genom självkritik av AI

Med en offline-AIär till och med Selbstverbesserung av ditt AI-system möjlig.

För att förstå det måste man veta att AI-system är nästan lika orediga som människan. Även högintelligenta människor är i många kunskapsområden eller livsområden dumma. Ta Albert Einstein till exempel. Om han fortfarande levde och ni frågade honom hur man bäst behandlar trä för utomhusanvändning, skulle ni kanske inte få en bra svar.

Man måste också räkna med att svaret från ett AI-språksmodell inte är tillräckligt bra. Det räcker dock om AI-antworten är halvvägs bra, och kanske även (ännu) felaktig.

Låt oss ta kunskapsutvinning från vilka texter som helst som exempel. Sådana texter kan vara dokument från ert företag eller er myndighet, eller hittas på internet.

Särskilt charmigt är utvinningen av kunskap från Internet. Datamassan är oändlig. Det enda som behövs för detta är en gränsyta till en sökmotor. Denna gränsyta finns, och den erbjuds i lika kostnadssnål form som den offline-AIsjälv.

Så kan teoretiskt sett permanent internet sökas efter intressanta innehåll. Dessa innehåll kan sedan permanent analyseras med en Offline-AI. Offline-AI korregerar då självständigt och permanent era egna svar, om det behövs. Resultaten kan sedan permanent översättas till andra språk.

För att illustrera detta, här ett exempel där man vill extrahera Kernuppgifter från ett dokument. AI ger till exempel en lista med 5 kärnuppgifter för ett dokument (från internet eller från er företag). En av de kärnuppgifter som AI har extraherat till Dr. DSGVO-bloginlägget Cookies är inte textfiler lyder:

"I dokumentet beskrivs varför cookies inte är textfiler och att cookies snarare är uppsättningar av data.

En version av en kärninformation som har hämtats från det nämnda dokumentet med hjälp av en offline-AL.

Denna svar är visst rätt men kan inte användas självständigt eftersom svaret på det lästa dokumentet hänvisar till. Vad vi här vill ha är självständiga kärnuppgifter.

Således skulle frågan till AI vara: "Kontrollera om följande svar är självständigt förståeligt. Om svaret är självständigt förståeligt, svara med 'OK'. Om svaret inte är självständigt förståeligt, formulerar du svaret på så sätt att det blir självständigt förståeligt."

Den offline-beräkningskraften svarar då med en omformulerad svar:

"Kakor är inte textfiler. Kakor är datamängder."

Version av en kärnkälla som har hämtats från det nämnda dokumentet med hjälp av en offline-ki.

Denna kärnuppgift är korrekt utdraget och självständigt förståelig. På samma sätt kunde man AI-svar från samma AI

• kontrollera stavfel och låta AI själv rätta dessa fel
• översätta till en annan språk, (här verkliga resultat, snabbt med samma AI genererade):
  • Spanisch: Cookies är inte textfiler. Cookies är samlade data
  • Ukraninisch: _Kukis är inte textfiler. Kukis är en uppsättning data.
  • Ciasteczka_ är inte textfiler. Ciasteczka är en uppsättning data_
  • Aserbaidschanisch: Kukilər mətn faylları deyil. Kukilər məlumat dəstləridir. (DEEPL kennt diese Sprache nicht! Quer-Check fand mit weiterem AI-Sprachmodell statt)
• Ist på en enklare språk att ge ut
• Sammanfatta
• I ett språk och längd som är typiskt för en sociala medias inlägg
• …

Man kan också läsa in flera blogginlägg och sedan skapa ett inlägg av dem. Allt med kostnad 0 euro.

Många svar skulle man få direkt från ChatGPT, för vilka den offline-AIbehöver två prompts. Skillnaden är att den offline-AIutan tilläggsutgifter fortfarande tillåter 100 ytterligare prompts per dokument, medan användningsbaserade plattformar som OpenAIs eller Microsofts kräver mer pengar för fler anrop. Den andra skillnaden är dataskyddet. Den offline-AIarbetar på din server och delar inte data med någon annan, något som skulle uppskattas av dem som gillade det och blev allt mäktigare.

Sammanfattning av vad självförbättring betyder:

• Företagets AI genererar svar i realtid.
• Företagets AI granskar sig själv ("självkritik")
• Företagets AI förbättrar sig själv när det behövs ("självbeteende")

Man kan ta det hela till en höjdpunkt genom Självförbättring av AI själv (inte bara enskilda svar). Det är nu redan möjligt, och det går att göra på ett AI-laptop. Därmed används resultatet som AI genererat och förbättrat har, som träningsdata i samma AI. Träningsdatumen används sedan till att skapa en ny version av AI:et. Detta kallas Finetuning. Den nya, förbättrade versionen av AI:et förbättrar sig själv igen. Processen upphör när det inte finns något mer att förbättra med tanke på de tillgängliga datumen och den givna uppgiften eller om AI-modellen har nått sin gräns. Den första situationen, tillgängligheten av data respektive uppgiftsformuleringen, är den mest sannolika orsaken till att processen upphör. Efter "pefekt" kommer "?".

En ytterligare enorm fördel med Offline-AI: Ni kan kombinera hela processkedjor med det. Försök en gång att befalla ChatGPT att läsa igenom en hel webbplats med 500 underwebbsidor och sedan utvinna alla relevanta nyckelord, ämnen och kärnuppgifter från de inlästa innehållena. Det här misslyckas redan med att OpenAI inte är villiga att för 20 dollar per månad "scanna hela internet" åt er företag. Även om ni använder ChatGPT-API:et för att bearbeta 500 mer omfattande dokument (efter att ni själva läst igenom dem) så blir det inte särskilt kul, eftersom kostnaderna beror på intensiteten i användningen.

Sammandrag

En offline-AIerbjuder oändliga möjligheter och chanser för tyska företag. AI-språkmodeller fungerar nu även bra på svenska. Särskilt finns det mindre språkmodeller som har dessa fördelar.

Så kan företag i mycket kostnadseffektiv och datavänligaste form driva egna AI-system. Dessa AI-system är lönsamma när det inte bara handlar om att ibland skicka en prompt till en chattbox. Prestandan hos ett eget AI-system är ofta betydligt högre än den hos de bästa allmänt tillgängliga AI-systemen i världen.

Offline-AI är då värt det när det gäller många data eller dokument, när det gäller en intensiv användning, när det gäller fullständig kontroll över data, när det gäller att läsa in kunskap från internet eller (!) när ert specifika tillämpningsfall ska lösas med hjälp av AI

Redan genomförda show cases för offline- AI (utdrag):

• Sammanställa och förenkla lagtexter
• Skapa bilder (på AI-dator)
• Sammanhållande kommunikation förenkla
• Fråge-svar-system med tillförlitliga svar

Kort sagt, är det värt att ha en Offline-AI för ditt företag om du har en definierad problemställning. Fråga gärna efter för att få veta mer om huruvida detta kan tillämpas på din specifika problemställning.