Vertrouwelijke gegevens horen niet in vreemde of Amerikaanse handen, zoals bijvoorbeeld ChatGPT, de clouds van Microsoft, Google of AWS. Gelukkig zijn eigen AI-systemen mogelijk en betaalbaar. Eindelijk hoeven bedrijfsgeheimen niet meer in ChatGPT of enige cloud te worden opgeslagen. Een experiment voor een vraag-antwoordassistent voor dit privacy-blog, Dr. DSGVO.
Inleiding
Wij vonden het tot nu toe niet erg om ons te bekommeren over de bescherming van onze persoonlijke gegevens, maar misschien legt men wel waarde op het houden van Geschäftsgeheimnissen voor zichzelf. Er zijn mogelijk zelfs rechtelijke bindende Geheimhoudensovereenkomsten getroffen voor bepaalde documenten. Of de vertrouwelijkheid wordt gewaarborgd als een document in de cloud van ChatGPT of Google wordt geplaatst, dat twijfel ik aan.
Gegevensvriendelijk: Veilig voor alle soorten gegevens, ongeacht of het gaat om persoonsgegevens (gegevensbescherming), vertrouwelijke gegevens of bedrijfsgeheimen.
Gegevensvriendelijk is meer dan gegevensbeschermingsvriendelijk.
Een niet zo vaak gewaardeerde bescherming van persoonsgegevens komt weer in het bewustzijn van veel mensen. Terwijl zoekmachines gegevens zonder tussenkomst verwerken mochten en mogen, mogen dezelfde gegevens door AI-systemen niet zonder toestemming van de privacyautoriteiten worden verwerkt. Komisch. Ligt het ook aan de mogelijkheden die kunstmatige intelligentie biedt, maar net zo goed aan de herdersdrift (als een autoriteit controleert, dan kunnen we dat ook doen, zonder direct als spelbreker te worden gezien, denken zichzelf waarschijnlijk sommige ambtenaren. Alleen zo is het mij verklaarbaar waarom het onproductiefste land van de bescherming van persoonsgegevens ter wereld (Hessen) ook een voorzichtige stap in de vorm van een verzoek aan ChatGPT heeft aangekondigd).
Een veelgebruikte toepassing van de inzet van kunstmatige intelligentie is het zoeken naar documenten. Meer complex zijn vraag-antwoord systemen of zoekmachines die direct samenvattingen van treffers met meesturen. Mijn plan what, een vind-systeem voor de Dr. DSGVO privacy-Blog te maken, en dat gegevensvriendelijk.
De zoekhulp voor Dr. DSGVO moet op natuurlijke taalvragen een antwoord geven. Hier is een voorbeeld:
Bent mijn website verplicht aan een cookie-pop-up?
De antwoord van de AI is beter dan dat van de meeste mensen. Antwoord Dr. DSGVO AI: zie hieronder.
Wanneer men de vraagstelling kan raden, zijn sommige vragen wellicht anders geformuleerd dan het academisch correct zou zijn. Veel mensen vragen bijvoorbeeld of iets conform is met de privacywetgeving. Meestal wordt bedoeld of een bepaalde gegevensverwerking in overeenstemming is met de AVG.
De antwoord moet mijn AI in eigen woorden geven, en dat op basis van de artikelen die tot nu toe zijn gepubliceerd onder Dr. DSGVO. Hierbij moeten hallucinaties worden vermeden, het gaat immers om feiten en juridisch relevante kennis. Hallucinaties zijn gefabriceerde aangiftes die niet bestaan. Hoe hallucinaties tot stand komen, zal ik concreet in een toekomstig artikel bespreken. Men kan deze namelijk op een fundamentele manier uitleggen en hoeft niet terug te grijpen naar speculaties.
Prototype bewijst haalbaarheid
Dat eigen AI-systeem geprogrammeerd en lokaal op eigen servers gedraaid kan worden, heb ik door een prototype bewezen. De eenvoudige weg zou een van de volgende mogelijkheden geweest zijn:
- Gebruik de interface van ChatGPT, of
- Veel geld op het probleem gooien en de Amerikanen behagen (Cloud), of
- Nog meer geld op het probleem gooien en dure hardware kopen.
Duurzaam hardware kopen is voor grotere bedrijven een acceptabele optie, maar niet voor veel KMO's. Daarom heb ik een ander Instellingen gekozen. Bij de keuze van het hardware werd rekening gehouden met de Kosten. Hiervoor moet je weten dat berekeningen op basis van kunstmatige intelligentie plaatsvinden op graphics cards. De grafische kaart wordt hier niet gebruikt voor het weergeven van afbeeldingen of tekst. In plaats daarvan worden de duizenden mini-processorunits van een grafische kaart misbruikt om de rekenintensieve taak van kunstmatige intelligentie sneller te voltooien dan wat een enkele Einstein-processor in staat is, zelfs als het gaat om een zeer goed computer. Helaas kosten grafische kaarten met veel geheugen heel veel geld. Een grafische kaart met 48 GB geheugen kostte nog maar een paar maanden geleden 15.000 euro. Voor goede kunstmatige intelligentiemodellen worden echter liever 96 GB of zelfs 400 GB duurder geheugen van meerdere grafische kaarten (niet schijfgeheugen en niet goedkope RAM van een computer!) nodig.
Mijn AI-systeem draait op Minimale hardware, als je de term in het kader van kunstmatige intelligentie begrijpt. Een voorbeeld: De zoektocht naar (eigen) documenten uit het bedrijfs-intranet via natuurlijke taalvragen werkt op een huur-server van de mini-klasse. Uiteraard kan ook een eigen bedrijfs-server worden gebruikt. Dat lukt dankzij het gebruik van optimalisatieprocedures, die je verkrijgt door extra technische complexiteit te accepteren. Eenmaal opgelost, is het complexiteitsprobleem uit de wereld geholpen.
Effectieve AI-toepassingen en taalmodellen
Voor vraag-antwoordassistenten is echter iets meer nodig dan voor de intelligente zoektocht naar documenten. Want niet alleen moet gezocht worden naar documenten, maar ook inhoud uit deze documenten moeten worden geëxtraheerd en als antwoord gepresenteerd worden. De eenvoudige mogelijkheid is een extraktieve antwoord. Dat is een woordgetrouwe citaat uit het originele tekst. Moeilijker en beter zijn abstraktive antwoordsystemen. Ze leveren een antwoord in eigen woorden en kunnen zelfs het kennis uit meerdere documenten combineren, om een antwoord in nieuwe woorden te leveren. Het antwoord zou met één document alleen niet haalbaar geweest zijn. De mens had zig documenten moeten vinden, lezen en intellectueel verwerken. De AI neemt deze onprettige, tijdrovende en vooral door veel mensen helemaal niet uit te voeren prestatie over en lost het probleem op.
Mijn kunstmatige intelligentiesystemen hebben de ambitie om datavriendelijk te zijn. Bovendien moeten ze op zo min mogelijk kostbare hardware draaien. Beide is mogelijk, zoals de praktijk aantoont.
Dieper doorgedreven toepassingsgebieden tot nu toe: documentenzoeken, tekstbegrijpen, afbeeldingen genereren, afbeeldingen analyseren, audio-toepassingen.
Viele Artikel in PDF-Form · Kompakte Kernaussagen für Beiträge · Offline-KI · Freikontingent+ für Website-Checks
My name is Klaus Meffert. I have a doctorate in computer science and have been working professionally and practically with information technology for over 30 years. I also work as an expert in IT & data protection. I achieve my results by looking at technology and law. This seems absolutely essential to me when it comes to digital data protection. My company, IT Logic GmbH, also offers consulting and development of optimized and secure AI solutions.
