Offline-AI är ofta bättre än ChatGPT, erbjuder fullständig kontroll över data och är billig. De mest vanliga frågorna och svar till Offline-AI nämns i videointervjun och i detta inlägg. Videon skapades på Mainzer Digitalkongress MADKON24.
En optimerad AI som ger bättre resultat än ChatGPT är inte en vision, utan verklighet. Denna typ av AI kallas Offline-AI och den fungerar utan internetuppkoppling, skickar inga data till tredje part och kan drivas på ett permanent sätt med obetydliga kostnader.
Mer nöje med Offline-AI!
Avsynnings- och kunskapsdatorer kan för företag och myndigheter göra mer än ChatGPT.
Mer information i videon och artikeln.
I följande video besvaras viktiga frågor om Offline-AI. För AI går vi till och med in i källaren. Vi är Michael Westphal från TV1/videotaxi och Dr. Klaus Meffert (författare till detta inlägg, IT Logic GmbH).
En första inblick i offline-ki ges av följande information även utanför videon.
Vad är Offline-AI?
En offline-AIär ett kognitivt system som installerats på egen hårdvara.
Den här hårdvaran kan hyras eller köpas. Vid inköp av hårdvara kan AI-servern antingen integreras i en egen IT-infrastruktur eller placeras via Colocation i ett datacenter.
Även på utvalda arbetsstationer kan Offline-AI köra. Även på laptops är detta möjligt.
Som programvara används mycket kapabla öppen källkodsbaserade AI-modeller och AI-bibliotek. Ni behöver inte oroa er. När de är installerade kan ni använda era AI-servrar.
Vad kan offline-AIgöra?
Allt som är möjligt med AI idag. Det fungerar nu (lite sen!) till och med väldigt bra även för tyska.
Offline-AI kan optimeras. Det är er användningsfall och därmed era lösning. Era lösning kan vara den bästa, i motsats till ett universellt system som ChatGPT.
Vilka är fördelarna med offline-Intelligens?
Här är de viktigaste fördelarna:
- Avstängd intelligens ger bättre resultat än allmänt intelligenta system.
- De har full kontroll över data (även era affärshemligheter är säkra).
- Om det behövs kan nya och bättre AI-modeller enkelt sättas in.
- Kostnaderna är fasta och låga.
- Ditt AI-system kan fungera på lång sikt och bli ännu bättre.
- De är oberoende av OpenAI och andra (prisökningar, användarvillkor med mera).
- ChatGPT-gränsen kan också användas för oskyldiga data.
Många tror kanske inte på det, men med litet arbete kan en offline-AIge betydligt bättre resultat än något stort hjärn som ChatGPT. De hemliga ingredienserna är: Finetuning med träningssamlingar samt ett ramprogram som tar hand om den icke-kreativa delen. Träningsdata finns antingen redan tillgängligt eller skapas – nästan en under, av AI själv.
En offline-AIkan förbättra sig själv.
Möjliggjord genom att kraften skapar utbildningsdata själv och genom självrättelse.
Är offline-Intelligens frånslagen från omvärlden?
Nej. Offline gäller för själva AI:en. Den behöver ingen internetuppkoppling och måste inte skicka några data någonstans.
En offline-AIkan hämta data från internet, kommunicera med andra IT-system eller skicka data till tredje part när behovet finns. Vad som händer med data och om de får stanna lokal (måste) bestämmer du själv.
Vad är skillnaden till ChatGPT?
ChatGPT är ett universellt system som körs på hundratals servrar samtidigt för att kunna ge svar. Det innehåller mycket ballast som generellt sett bara är ballast för alla. Till exempel många språk eller mycket kunskap som ingen behöver i sin helhet.
ChatGPT kan ofta svara på allmänna frågor. Å andra sidan misslyckas ChatGPT med specifika problem, vet inte om företagskunskap och kan inte söka internet för dig eller hallucinera. Inget under, eftersom Albert Einstein kunde nog inte förklara hur man bäst fäster ett skåp mot väggen.
Framtiden för artificiell intelligens är offline: Hög säkerhet och prestanda utan moln.
ChatGPT är en molntjänst från ett amerikanskt företag där även Microsoft har del i det. Säkerhet, sekretess, kostnad och oberoende är nyckelord som ställer frågor i detta sammanhang. Den som behöver allmänna svar på allmänna frågor kan använda detta system. För allt annat erbjuds det mindre värde.
What kostet Offline-AI?
AI-servrar kan redan för några hundra euro i månaden hyras i tyska datacenter.
För att köpa en AI-server bör företag beräkna ca 6000 euro. Det blir dyrare om man vill öka belastningen per server. Då kan man sätta in ca 2000 euro för att öka prestanda med 100%. Allt är kostnader som håller sig inom ramen. Vem som helst som känner till SAP-systemen vet andra siffror.
AI for your company
- Powerful and optimizable
- Full data control
- Fast proof of concept
- Inexpensive
Den professionella inrättningen av ditt AI-system kostar en gång till ett par tusen euro. Därmed är det medföljande rådgivning, programvaruinstallationer, AI-bibliotek och AI-modeller.
För ditt användningsfall kan mycket snabbt och kostnadseffektivt en prototyp skapas. Ofta erbjuder sig webbgränssnitt som möjlighet till hantering. Kostnaderna för prototypen är låga och beror på användningsfallet.
I motsats till "förr" (för 2 år sedan) är ett AI-projekt i första hand en tidsmässigt mycket begränsad affär. Medan man tidigare kunde räkna med att ett minimalprodukt (MVP) skulle kräva flera månader, är det nu bara dagar.
Hur kan er ett företag eller en myndighet starta?
Tänk efter på vilka tillämpningar du vill ha lösta. Här hittar du några verkliga AI-exempel:
- Lagtext i enklare språk och sammanfattat
- Kommunikation med intelligenta system ska förenklas: kundförfrågningar, skadeanmälningar, support-tiketter,
- Bildgenerering, till och med snabbt som en pil på ett laptop. Även möjligt:
- Ge ett stilistiskt uttryck
- Ytanspecifikationer
- Förbättra schema
- Ljudtranskription i toppkvalitet (bara cirka 5 korrektioner behövs för 30 minuter tal)
- Tillförlitligt kunskapsystem för ert företagskunskap
Ni får gärna en första rådgivning med uttalanden om genomförbarhet och kostnad.
En workshop i er företag kan vara till nytta. I en 2- eller 4 timmar workshop kan man skapa första klarhet.
En första prototyp kan ofta snabbt skapas både i tid och vad gäller arbetsinsats. Det färdiga produkten är grundligt inte långt ifrån, beroende på tillämpningsfall. Det går alltid (i själva verket alltid) snabbare än du vet från andra programprojekt.
Det är värt att investera i Offline-AI. Ditt system kan så snabbt som möjligt tillföras nytta och processer i företaget enklagras. Följden är kostnadsbesparingar. Till exempel eftersom dokument hittas snabbare och bättre eller kundfrågor besvaras bättre och snabbare.
Nyhsbrevspremiarer kan snart prova en offline-artificiell intelligens-applikation direkt på Dr. GDPR.
Svarna skickas dock inte offline, utan till din webbläsare.
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
