DeepSeek: AI-revolutionen fra Kina også som en sikker variant

DeepSeek er både usikker (cloud-appen) og meget sikker (open source-modellen). Dette fokuspapir om DeepSeek, som udspringer af AI-ekspertgruppen i IT Klub Mainz & Rheinhessen, ser på baggrunden for DeepSeek, appen og de forskellige DeepSeek-modeller. Først og fremmest: Enhver virksomhed kan opnå mere med open source AI end med ChatGPT.

Hvad er DeepSeek?

Med "DeepSeek" henvises især til det ekstraordinær sprogmodel R1, der er udgivet af en kinesisk virksomhed ved navn "DeepSeek". AI-språkmodel er også kendt som LLMs, hvilket står for "Large Language Model".

Det, der er muligt med en DeepSeek open source-model, er stort set også muligt med andre udbyderes stærke open source-modeller (også fra Europa).

Med R1 har DeepSeek lykkes at oprette et sprogmodel, der er lige så godt som "ChatGPT". DeepSeek har været i ophidselse, fordi deres app på grund af kvaliteten af R1 brød alle rekorder og fik maksimal opmærksomhed.

Hvad gør DeepSeek så speciel?

På grund af en række fremragende egenskaber har DeepSeek AI-Markedet i ovevægt. Den DeepSeek-App blev hurtigt til den mest nedladede app. Nogle af årsagerne til succesen:

Høj intelligensfaktor

DeepSeek-modeller kan have et meget stort antal neuroner, mens de kun kræver en brøkdel af dem pr. opgave. DeepSeek har også opfundet sofistikerede træningsmetoder.

Mere effektiv træning og responsadfærd

Gennem den selektive aktivering af eksperter reduceres Beregningsindsats betydeligt i forhold til modeller, hvis neurale netværk altid er fuldt aktiverede.

Lavere omkostninger

Gennem den selektive modelarkitektur er Omkostninger for driften betydeligt lavere end ved modeller som ChatGPT fra OpenAI.

Open source og sikker

Hverken kan blive til "OpenAI": DeepSeek-Modelle er frit tilgængelige og kan lokalt driftes. Den lokale version kommer uden nogen dataoverførsel ud. Følgende grafik illustrerer dette:

Open source AI-modeller kan implanteres i AI-systemer ved blot at downloade en fil. Modellen sender ingen data nogen steder hen. Som en analogi kan man forestille sig en tekstfil, der ikke kan kommunikere med nogen eller noget.

Opskrift på succes udgivet

Som prikken over i'et har DeepSeek afsløret, hvordan alle kan skabe deres egen AI-model, der kan konkurrere med ChatGPT.

Hvad betyder "DeepSeek"?

Udtrykket "DeepSeek" bruges ofte som et synonym for forskellige udtryk, der har forskellige betydninger:

Er DeepSeek sikker at bruge?

App til smartphones (cloud-version)

DeepSeek-appen anses for at være ekstremt usikker. Den bør generelt ikke bruges, ikke engang til rent private formål.

Open-Source Varianten

DeepSeeks open source-modeller, inklusive de praktiske destillatmodeller, kan downloades og betjenes helt lokalt/autonomt på din egen hardware. Som følge heraf tilbyder de fuldstændig datasikkerhed. Dataoverførsel til tredjeparter kan udelukkes. Det betyder, at DeepSeeks AI-modeller er mere sikre i open source-versionen end cloud-løsninger som f.eks. dem fra OpenAI eller Microsoft.

Opbevaret viden

En enorm mængde viden om verden lagres i alle AI-modeller via træningsdata. DeepSeek, et kinesisk firma, fordrejede nogle fakta af politiske årsager og lagrede dem på en tvivlsom måde i flagskibsmodellen R1, der tilbydes. Der findes nu modeller, som har rettet op på dette.

I tilfælde af AI-applikationer, der søger efter virksomhedsviden, favoriseres virksomhedsviden generelt i udbredte processer som RAG, og det kinesiske imperativ undertrykkes og gøres uskadeligt.

What bedeutet „Mixture of Experts“?

Mixture of Experts" (MoE) er en arkitektur for neurale netværk, hvor flere specialiserede undernetværk ("eksperterne") eksisterer parallelt, mens en routing-mekanisme ("gatekeeperen") beslutter, hvilke eksperter der skal aktiveres til den aktuelle opgave.

Transformator-tilgangen

Transformer er en udbredt AI-tilgang til "intelligente" modeller. I konventionelle Transformer-modeller bruges alle modellens parametre til hver forespørgsel. MoE-modeller opdeler derimod deres kapacitet i flere specialiserede undernet, som hver især er optimeret til specifikke typer input eller opgaver.

Optimeret arkitektur

Når en MoE-model modtager et input, bruger den først en router (også kendt som et "gating-netværk"). Routeren beslutter, hvilke af de tilgængelige eksperter der er bedst egnet til denne specifikke opgave. Typisk aktiveres kun en eller to eksperter pr. token, mens de andre forbliver inaktive.

Andre MoE-modeller

DeepSeek opfandt ikke MoE-tilgangen (men den skabte andre innovationer). For eksempel leverede det franske firma Mistral en model med denne arkitektur i slutningen af 2023.

Hvordan er DeepSeek R1 opbygget?

DeepSeek-modeller behandler input ved kun at aktivere nogle få dele af den elektroniske hjerne – de såkaldte eksperter – afhængigt af det spørgsmål, der stilles.

Denne arkitektur giver flere væsentlige fordele i forhold til konventionelle modeller med en tæt struktur og forklarer, hvorfor MoE-modeller som DeepSeek-MoE kan være meget kraftfulde med en forholdsvis lille computerindsats. Princippet kan sammenlignes med den menneskelige hjerne: Når man taler, bruges talecentret overvejende, og andre dele er næsten ikke eller slet ikke aktive.

Vigtige komponenter i en MoE-model

MoE-modeller som DeepSeek R1 bruger følgende nyskabelser:

1. Router-netværk: Afgører, hvilke AI-eksperter skal være aktive for hvilken del af indtalen (Token).
2. Ekspertnetværk: Specialiserede neurale netværk, der hverken er trænede til bestemte opgaver.
3. Ekspertvægte: De af routeren beregnede vægt, der bestemmer, hvor meget hver ekspert bidrager til slutresultatet.
4. Vægtet sum: Sammenlæg udgifterne fra forskellige eksperter baseret på de af routeren tildelede vægt.

Opsummeret

• Open source AI-modeller bliver bedre og mere effektive.
• Modeller som DeepSeek R1 kan betjenes med billig hardware.
• Lokale implementeringer forbedrer kvaliteten af resultaterne og sparer omkostninger, når de bruges mere intensivt.
• DeepSeek-appen (Cloud) bør ikke bruges under nogen omstændigheder.
• Instruktionerne til at skabe "ChatGPT 2.0" er offentligt tilgængelige og gratis at bruge.
• Open source-modeller skaber uafhængighed af cloud-tjenester og tredjepartsapps.

Om IT-klubbens AI-ekspertgruppe

IT-klubben kan demonstrere koncentreret IT-ekspertise. AI-ekspertgruppen yder støtte med praktiske tilbud og anbefalinger om tekniske og juridiske aspekter. Fokus er på skræddersyede løsninger til intelligente AI-assistenter og målrettet videreuddannelse.

Om IT-klubben

IT Klub Mainz & Rheinhessen blev grundlagt med det formål at repræsentere branchen for virksomheder i regionen. Som netværk tilbyder IT-Klub sine medlemmer vidensoverførsel, videreuddannelse, fremme af unge talenter og markedsføring af stedet.

Randnotiz

Denne artikel blev oprettet ved hjælp af AI som et uddrag fra PDF'en (men ikke kun med AI).

Tekstuddraget til dette indlæg, som kun søgemaskiner kan se, kaldes et "excerpt". Det blev også skabt ved hjælp af AI.

Billedet til artiklen blev genereret med AI. De to diagrammer blev også genereret med AI-support.

PDF'en til download blev, bortset fra indholdet, igen skabt ved hjælp af AI:

Denne mini-illustration "AI-assisteret skabelse" blev også genereret med AI. Det er langsomt ved at blive kedeligt (men på en positiv måde!) …

Alle, der taler om AI og tilbyder AI-rådgivning og AI-løsninger, bør også selv bruge AI. Det er præcis, hvad der sker her. Flere eksempler vil følge i fremtidige artikler, f.eks. den meget effektive generering af programkode af AI-assistenter (AI-programmering).