Häufige Fragen zu günstiger, sicherer KI + Antworten

Kategorien: Datenschutz

In einer Umfrage auf Dr. DSGVO wurden Themen im Kontext KI und DSGVO ermittelt, die Leser interessieren und bewegen. In diesem Beitrag werden diese Themen und Fragen dazu aufgegriffen und beantwortet.

Einleitung

Die Umfrage zu KI und Datenschutz („Welche Themen interessieren Sie“) lieferte spannende Erkenntnisse über Themen, die Unternehmen und Behörden bewegen.

Insbesondere wurde nach souveräner KI und nach bezahlbaren KI-Systemen gefragt. Es ging aber auch darum, wie die KI von OpenAI oder Anthropic DSGVO-konform genutzt werden kann.

Die relevantesten Fragen werden in diesem Beitrag aufgegriffen und beantwortet. Der Fokus liegt in diesem Beitrag auf KI (meist in Verbindung mit Datenschutz und Datensicherheit). In einem weiteren Beitrag werden die Fragen zum Datenschutz (ohne Bezug zu KI) aufgegriffen.

Die oben genannte Umfrage ist weiterhin aktiv und kann genutzt werden, um Ihre Fragen und Wünsche einzukippen.

Ihre Fragen und Antworten auf Ihre Fragen

Themenfeld "Sichere KI"

Die meisten Fragen und Impulse gab es zur sicheren KI. Viele sagen auch "DSGVO-konforme KI" oder "datenschutzkonforme KI" oder "lokale KI". Alle meinen das gleiche:

Ein sicheres KI-System verarbeitet Daten zu wohldefinierten, legitimen Zwecken, die ausschließlich vom Verantwortlichen (dem Betreiber der KI) bestimmt werden.

Datenschutzkonform bedeutet nicht automatisch sicher:

• Zum einen gilt die DSGVO "nur" für personenbezogene Daten, nicht für Geschäftsgeheimnisse, vertrauliche Daten (NDA) oder sensible Daten ("Wir wollen nicht, dass diese Daten an Wettbewerber gelangen", o.ä.).
• Zum anderen ist "DSGVO-konform" eine rein virtuelle Definition, die aktuell auf dem TA-DPF (= informelles transatlantisches Datenschutzabkommen zwischen der EU und den USA) basiert. US-Gesetze zur Ausländerspionage erlauben den USA, US-Unternehmen wie Microsoft zu zwingen, Ihre Daten herauszurücken, um sie zu misshandeln – ohne dass Microsoft Ihnen dies gegenüber erwähnen darf.

Um Missverständnisse auszuräumen, hier ein paar Fakten:

• Die US-Spionagegesetze, die es erlauben, Deutsche und Europäer geheim (und DSGVO-widrig( zu durchleuchten, sind insbesondere Cloud ACT, EO12333, FISA 702, SCA.
• Ein US-Mechanismus namens IEEPA / OFAC erlaubt es, Unternehmen und Einzelpersonen durch US-Stellen zu durchleuchten, wenn diese Unternehmen oder Einzelpersonen ihre Rechnung in US Dollar (USD) bezahlen.
• Der Standort eines Servers ist nahezu irrelevant, wenn es um die Frage der Datensicherheit geht. Im Gegensatz zu einem Auto kann jeder, der die Zugangsdaten hat, auf den Server zugreifen – egal, wo der Server steht. Auch Kundenverschlüsselungsschlüssel (Bring Your Own Key etc.) sind kein effektiver Schutz: Sobald in der Cloud auf den Daten gearbeitet werden muss, muss der Schlüssel in die Cloud geladen werden. Somit ist der Schlüssel nicht mehr geheim.

Frage: Wie kann KI datenschutzkonform eingesetzt werden?

Die formale Antwort lautet: Anbieter mit Firmensitz in Ländern (plus Unterauftragsverarbeiter als weitere Datenempfänger), die als sicher definiert wurden, können für rein formale DSGVO-Konformität an sich geeignet sein. Dazu muss ein rechtsgültiger Auftragsverarbeitungsvertrag (AVV) abgeschlossen worden sein und alle Datenempfänger müssen als sicher eingestuft sein. Im Falle von Datenempfängern in den USA müssen diese beim TA-DPF registriert sein. Diese Registrierung ist eine Selbstregistrierung. Alleine daran sieht man schon, was der Unterschied zwischen formaler und realer Sicherheit ist.

Die meisten AVVs außereruopäischer Anbieter dürften nicht mit der DSGVO vereinbar sein. Versuchen Sie, einmal Microsoft-Verträge zu verstehen und zu interpretieren. Fragen Sie bei Microsoft nach, ob Ihre Interpretation zutrifft.

Die Wahrheit ist:

Ein KI-System kann wohl nur datenschutzkonform sein, wenn es lokal (nur in Deutschland oder Europa) betrieben wird.

Das schließt jegliche Verbindungen, auch über Muttergesellschaften, in Länder wie die USA aus.

Ob es isländische KI-Anbieter gibt, die alle Anforderungen erfüllen, sei dahingestellt. Wohl eher nicht.

Lokaler KI Einsatz bedeutet: Die KI läuft auf Ihrer eigenen Hardware, die Sie gekauft haben, oder auf einer Miet-Hardware, die ausschließlich in Deutschland verortet ist (inklusive des Rechtsrahmens und Rechtsverständnisses).

Frage: Wie kann die KI von Anthropic oder OpenAI DSGVO-konform genutzt werden?

Kurze Antwort: Gar nicht, oder wenn, dann nur formal (siehe vorige Frage + Antwort).

Faktisch ist jedenfalls eine sichere Datenverarbeitung über die Systeme von US-Anbietern wie Anthropic, Google, Microsoft, Amazon oder OpenAI nicht möglich.

Die Wahrheit ist:

Wer KI von US-Anbietern unbedingt nutzen will, der gibt sich automatisch mit formalen Garantien zufrieden.

Technische Sicherheit ist etwas anderes.

Nebenbei: Wem Sie Ihre Geschäftsgeheimnisse oder eigenen Daten anvertrauen, ist völlig alleine Ihre Entscheidung bzw. die Entscheidung Ihres Unternehmens. Manche haben offenbar kein Problem damit, eigene Geheimnisse auszuplaudern und sich somit selbst zu entwerten.

Kurzfristig ist kein Nachteil daraus zu spüren, dass man sensible Daten an vertrauensunwürdige Dritte weitergibt (die sich US-Spionagegesetzen unterwerfen müssen). Nachhaltig kann dieses Vorgehen nicht sein, wie die Lebenserfahrung zeigt.

Dieser Beitrag soll niemanden bekehren (bringt nichts und ist zu anstrengend). Tun Sie, was immer Sie wollen und leben Sie mit den Konsequenzen.

Frage: Wie kann sichere KI im Unternehmen eingesetzt werden, wenn wenig Geld da ist?

Kurze Antwort: Gar nicht.

Gegenfrage: Warum sollte Ihnen jemand hohe Garantien plus eine tolle Funktionalität zum Nulltarif geben?

Für eine längere Antwort sind zwei Fälle zu unterscheiden:

1. Ihr Anwendungsfall ist allgemeiner Art, also so gestaltet, dass er für viele interessant ist.
2. Ihr Anwendungsfall ist spezifischer Art, also speziell in Ihrem Unternehmen verortet

Die Wahrheit ist:

Spezifische Anwendungsfälle können mit KI nur durch einen Kapitaleinsatz realisiert werden.

Die Kosten sind im vierstelligen Bereich anzusiedeln, für komplexere Anwendungen höher.

Für allgemeine Anwendungsfälle könnten Sie Glück haben und auf dem Markt eine KI-Lösung als Service (SaaS) finden, die von einem Anbieter aus Deutschland oder Europa stammt.

Jedoch sollte bedacht werden, dass der Betrieb von KI-Servern nicht vergleichbar mit dem Betrieb von gewöhnlichen Servern ist. Herkömmliche Server haben geringere Kosten als KI-Server. KI-Server basieren meistens auf NVIDIA-Grafikkarten, für die Kosten ab 2000 Euro anzusetzen sind.

Mittlerweile gibt es leistungsfähige KI-Computersysteme, die für ca. 4000 Euro erhältlich sind. Diese sind aber nicht als Einsatz im Rechenzentrum gedacht, sondern zum Aufstellen auf einen Schreibtisch. Diese Systeme, deren Preise sich regelmäßig ändern, sind insbesondere:

• NVIDIA DGX Spark
• AMD Strix Halo
• Apple Workstations, etwa mit M4 oder M5 Chip

Alle Systeme haben eines gemeinsam: Einen vereinheitlichten Speicher für RAM und VRAM (Video RAM). Dazu muss man wissen: VRAM ist für KI-Berechnungen wichtig, weil zufällig Gamer-Grafikkarten für die vielen Milliarden (simplen) KI-Berechnungen aufgrund ihrer vielen Tausend Kerne am besten geeignet sind. Zum Vergleich: Ein sehr guter Intel-Prozessor hat 48 Kerne, kann also nur 48 Berechnungen statt mehrerer tausend gleichzeitig ausführen. Bei Milliarden von Berechnungen ist der Unterschied extrem.

Der Speicher einer Grafikkarte (GPU) ist sehr teuer und nicht erweiterbar. Anders als der gewöhnliche RAM-Speicher, der sehr günstig ist/war und nahezu beliebig erweiterbar ist.

Der vereinheitlichte Speicher (unified Memory) ist eine Zwischenlösung:

• Halbwegs günstig
• Sehr viele Speicher, so dass eine Erweiterung meist nicht nötig ist
• Halbwegs schnell

Insbesondere bei der Geschwindigkeit macht sich der Unterschied zu einem vollwertigen KI-Server schon bemerkbar. Für Forschungszwecke und weniger zeitkritische Anwendungen ist der unified Memory eine vertretbare Lösung.

Allerdings werden KI-Modelle immer kleiner und leistungsfähiger. Das bedeutet: der Bedarf an VRAM sinkt. Wer viel VRAM auf ein Problem wirft, handelt meist aus Verzweiflung.

Die Wahrheit ist:

Gute KI-Lösungen konzentrieren sich auf einen Anwendungsfall und brauchen dementsprechend weniger Ressourcen.

Für viele Fälle reicht ein vollwertiger KI-Server für 7000 Euro aus.

Wer eine Low-Cost Lösung sucht, dem bleibt ein weiterer Weg:

Installieren Sie ein lokales KI-System auf Ihrem PC oder Notebook. Schauen Sie (bei der PC Lösung), ob Sie eine ältere NVIDIA-Grafikkarte haben, die KI-fähig ist (Stichwort ist CUDA, als Technologie von NVIDIA). Für das lokale KI-System nutzen Sie eine Basis wie llama.cpp, vllm oder ollama. Verwenden Sie nur Modelle mit nicht mehr als 4B (=4 Milliarden Parametern).

Frage: Was ist mit Copilot (Details)?

Microsoft Copilot ist, genau wie ChatGPT von OpenAI oder Claude von Anthropic oder Gemini von Google, ein Universalsystem.

Solche Universalsysteme können vieles halbwegs gut, aber nichts richtig gut oder nicht wirklich zuverlässig.

Diese KI-Systeme wissen nicht, was Ihr Anwendungsfall oder Ihre Frage sein wird. Dementsprechend können diese Systeme nicht auf Ihre Bedürfnisse hin optimiert werden. Daraus folgt, dass die Antworten an sich unzuverlässig sind. Was bei kreativen Arbeiten wie dem Schreiben von Texten oft noch halbwegs akzeptabel ist, wird bei der Analyse von Rechnungen oder bei der Arbeit mit sensiblen Daten schnell untragbar.

Microsoft hat Copilot selbst als System nur für Unterhaltungszwecke gekennzeichnet. Mehr muss man dazu wohl nicht sagen.

Themenfeld "Einsatzgebiete von KI"

KI kann für diverse Zwecke eingesetzt werden. Oft geht es um die Verarbeitung oder Erzeugung von Texten. Aber auch die Analyse von Bildern oder die OCR-Erkennung sind mittlerweile sehr gute Anwendungsfälle!

Frage: Sollte KI für die Software-Entwicklung eingesetzt werden?

Kurze Antwort: Ja, unbedingt, aber richtig.

Wer KI nicht für die Programmierung einsetzt, macht etwas falsch!

Wer Agentic Coding für die Programmierung einsetzt, gibt die Kontrolle über sein Leben ab und entmündigt sich selbst.

Die Wahrheit ist:

Software-Entwicklung ohne KI muss als falsch bezeichnet werden.
Richtig ist allerdings nur der optimierte KI-Einsatz, nicht das Agentic Coding

Agentic Coding ist etwas wie "Claude Code".

Die richtige Programmiermethode wurde seit Jahren in zahlreichen Projekten gefunden. Sie erlaubt Produktivitätssteigerungen um den Faktor 5. Wichtig ist der richtige Ansatz und das Vorhandensein von Entwicklerkenntnissen. Was der genaue Ansatz ist, erfahren Sie gerne in einem Workshop.

Frage: Wie kann man mit KI Geschäftsprozesse automatisieren?

Kurze Antwort: Durch den optimierten Einsatz von KI.

KI-Agenten sind kein optimierter Einsatz, sondern Bequemlichkeit oder mangelnde Kenntnisse.

Die richtige Lösung eines Problems ist kein Zweizeiler. Der anfänglich etwas höhere Aufwand amortisiert sich später vielfach.

Bei der Automatisierung von Geschäftsprozessen ist es wichtig, dass die Automatisierungsschritte (Teilschritte) perfekt ineinander greifen. Denn nur wenn das Getriebe zuverlässig verzahnt ist, kann es dauerhaft unbeaufsichtigt laufen.

Der Weg zur Automatisierung ist also:

• Was soll automatisiert werden?
• Welche Anforderungen haben Sie?
• Gibt es Beispiele? Ein Beispiel ist ein Input und das dazu erwünschte (erdachte) Ergebnis!

Die ersten beiden Fragen sollten beantwortet werden können, wenn Sie eine KI-Erstberatung in Anspruch nehmen. Die dritte Frage ist nicht für alle Anwendunsgfälle relevant.

Frage: Wie kann KI in öffentlichen Verwaltungen eingesetzt werden?

Die Einsatzmöglichkeiten sind zahlreich. Am schnellsten gelingt der Einstieg, wenn mit Hilfe von KI nach Informationen gesucht wird. Hierfür wäre sogar der Einsatz herkömmlicher Hardware (ohne KI-Grafikkarten) möglich, sofern Trefferlisten mit Quellenangaben ausreichen. Der Ansatz kann leicht zum vollwertigen Chatbot ausgebaut werden, der generative Antworten liefert.

Weitere mögliche Anwendungsfälle könnten sein:

• Zusammenfassen von Texten (in verschiedenen Längen und Sprachen)
• Übersetzen von Texten
• Erstellen von Beschreibungen und Anleitungen
• OCR-Erkennung von gescannten Dokumenten

Insbesondere bei der OCR-Erkennung mit Hilfe von KI gibt es ganz erhebliche Fortschritte. Wir haben mittlerweile ein System am Laufen, mit dem sehr oft eine 100%-Qualität bei der Erkennung von Scans verzeichnet werden kann.

Selbst stark zerknüllte Kassenbons, die für die Marktforschungs von einem Kunden ausgewertet werden, können oft perfekt erkannt werden.

Wenn Sie für Ihre Wünsche oder Anforderungen nicht wissen, ob und wie mit KI machbar, melden Sie sich gerne für ein unverbindliches, kostenfreies Erstberatungsgespräch.

Frage: Kann man mit KI Beschäftige und neue Mitarbeiter schulen?

Kurze Antwort: Ja, ziemlich gut.

Wichtig ist, dass Sie die Dokumente zusammentragen können, die das nötige Hintergrundwissen enthalten. Sofern es sich um externe Quellen, wie etwa Gesetze, handelt, sollten Sie diese benennen können.

Die Dokumente sind idealerweise in einem maschinell gut lesbaren Format vorhanden. Am besten eignen sich Rohtextdokumente (oder Word). Auch PDFs sind geeignet, aber am besten nur einspaltige. Je besser Ihre Daten, desto besser werden die KI-Antworten sein.

Frage: Gibt es KI-Lösungen zur Pseudonymisierung von Daten?

Kurze Antwort: Ja, aber diese funktionieren nicht.

Niemand (weder ein Mensch noch eine KI) kann zuverlässig Daten psseudonymisieren. Die kritischen Fälle sind oft Schreibfehler oder eine Verletzung von Konventionen, oder dokumentübergreifender Kontext.

Die Wahrheit ist:

Die automatisierte Pseudonymisierung von Daten funktioniert generell nicht.

Das bedeutet: Für beliebige Dokumente gibt es keine Pseudonymisierungslösung. Es wird diese Lösung nie geben (Begründung).

Die Wahrheit ist:

Viele möchten unbedingt unsichere KI-Systeme wie ChatGPT oder Copilot nutzen. Also muss die Pseudonymisierungslösung funktionieren.

Diese Lösung gibt es aber nicht. Hoffnung und Realität sind disjunkt.

Eine sichere Datenverarbeitung erreichen Sie nur mit einem sicheren KI-System.

Sofern es um schematisch bekannte Dokumente geht, ist eine zvuerlässige automatisierte Pseudonymisierung denkbar. Beispielsweise für Gerichtsurteile. Aber auch hier lauern erhebliche Fallstricke. Natürlich gelingt es, die Namen der Prozessparteien aus der ersten Einleitung eines Urteils herauszulöschen. Aber wenn dann Nummernschilder oder (im falschen Format geschriebene) IP-Adressen oder sehr seltene Krankheiten (in Verbindung mit dem Wohnort) genannt werden, versagen diese Ansätze schnell.

Zusammenfassung

KI liefert aus mehreren Gründen neue Möglichkeiten, die vorher unvorstellbar oder unwirtschaftlich waren:

• Dank KI kann Software um einen Faktor 5 effizienter entwickelt werden.
• KI hilft bei der Erstellung von Dokumenten un Illustrationen und macht den normalen Entwickler zum Designer
• Mit KI-Modellen können komplexe Aufgaben intelligent gelöst werden. Intelligent ist das, was der Mensch bisher für sich beansprucht hat.

Damit KI zuverlässig funktioniert, muss sie auf einen konkreten Anwendungsfall hin optimiert werden.

Eine Universal-KI kann nie besonders zuverlässig sein.

Sichere Datenverarbeitung gibt es nur mit lokaler KI, die zudem für konkrete Anwendungsfälle optimiert werden kann.

Kostenlos (oder nahezu kostenlos) und sehr gut schließen sich grundsätzlich aus. Eine leistungsfähige KI-Lösung kann nur dann besonders günstig und sicher sein, wenn sie ein häufiges Problem löst und wenn der Anbieter aus Deutschland oder Europa stammt. Spezialisierte KI kann viel mehr als allgemeine KI, erfordert aber auch einen einmaligen Aufwand in vier- oder niedrigen fünfstelligen Euro-Bereich.

Strategisch wertvoll ist nur "Ihre KI", nicht "deren KI". Nur "Ihre KI" kann Ihr Wissen verinnerlichen und Ihnen auch in 5 Jahren zur Verfügung stellen. Cloud-KI vergisst spätestens dann alles, was Sie ihr beigebracht haben, nachdem Sie den Anbieter gewechselt haben. "Ihre KI" hingegen kann einfach das Modell wechseln und alle Erinnerungen behalten.

Gerne erhalten Sie für Ihr Unternehmen oder Ihre Behörde ein kostenfreies und produktneutrales Erstberatungsgespräch.