KI-Verordnung: Nachweis KI-Kompetenz und Einstufung angebotener KI

Sobald die KI-Verordnung (AI Act) gültig erlangt und sofern diese für die Dr. DSGVO KI relevant ist, sind hier Angaben gemäß KI-VO dokumentiert. Auch die optimierte KI-Plattform von Dr. DSGVO profitiert von der Einhaltung der KI-Verordnung. Sie wird allerdings nicht über diese Webseite angeboten.

Nachweis der KI-Kompetenz

Gemäß Art. 4 KI-VO ist die KI-Kompetenz für Anbieter und Betreiber von KI-Systemen nachzuweisen.

Dies wird für den verantwortlichen Anbieter, in Person Dr.-Ing. Klaus Meffert als Geschäftsführer der IT Logic GmbH, wie folgt getan:

• Technische Kompetenz: Promovierter Diplom-Informatiker, Fähigkeit zur Programmierung und Anpassung von KI-Systemen (siehe beispielsweise optimierte KI)
• Fachliche Kompetenz: Referent zahlreicher KI-Vorträge und KI-Workshops sowie Autor von KI-Beiträgen. Die detailliertere Aufstellung enthält beispielhaft konkrete Nennungen.

Der in Art. 4 KI-VO erwähnte Kontext des KI-Einsatzes ist dem Anbieter/Betreiber zugänglich. Es handelt sich um allgemeine Anwendungen zur Demonstration oder um spezifische Lösungen, die in der Erfahrungssphäre des Autors liegen. Konkret sind dies Lösungen für die Gewährleistung eines qualitativ hochwertigen Textverständnisses, für Bildanalysen, die Bilderzeugung, die Transkription von Sprache in Text, Klassifikatoren für Dokumente und Bilder und ähnliches.

Einstufung der KI-Systeme

Sofern die KI als Anbieter bereitgestellt wird, wird diese als Anwendung deklariert, die nicht in die Kategorie Hochrisiko-KI fällt.

Es werden möglicherweise mehrere verschiedene KI-Systeme oder KI-generierte Inhalte angeboten. Dazu gehören:

• KI-Programmierschulung: Hierbei werden zu Schulungszwecken KI-Systeme verwendet und einigen Teilnehmern zu Testzwecken bereitgestellt
• Demo-Anwendung für Offline-KI
• KI-News: KI-Generierte Inhalte zu realen Nachrichten

Begründungen KI-Programmierschulung:

• Nicht alle Teilnehmer erhalten Zugang zu eigenen KI-Systemen. Der Zugang ist auf Teilnehmer mit hoher Schulungsintensität beschränkt.
• Der Zugang dient ausschließlich zu Testzwecken; das Erstellen produktiver Anwendungen wird nicht unterstützt.
• Die bereitgestellte KI verspricht keine besonderen Eigenschaften, weil sie als rein technisches Testsystem gedacht ist, um KI-Programmieren zu lernen.
• Teilnehmer werden im Rahmen des KI-Kurses über Risiken aufgeklärt.

Begründungen Demo-Anwendung:

• Die Demo-Anwendung dient nicht zur automatisierten Entscheidungsfindung und auch nicht für kritische Empfehlungen.
• Die Demo-Anwendung greift entweder auf eine lokale Wissensbasis zu oder auf allgemeine Nachrichten. Im letzten Fall werden die Nachrichten im Original (Anreißertext) ausgegeben. Eine kurze Zusammenfassung dieser Nachrichten, die zusätzlich generiert wird, kann anhand der Originalquellenangaben leicht verifiziert werden. Jede Quelle kann aufgerufen werden.
• Für Social Media Posts werden Ideen generiert und für Überschriften werden optimierte Varianten gefunden. Beide Anwendungsfälle sind dem kreativen Bereich zuzuordnen. Üblicherweise wird niemand eine recht knappe Ausgabe aus einer Demo-Anwendung unreflektiert und unverändert verwenden, um sie einem breiten Publikum zugänglich zu machen. Die Kürze der Ausgabe erlaubt es dem Nutzer, diese in kurzer Zeit vollständig prüfen zu können.
• Die angebotenen KI-Funktionen sind harmlos: Es handelt sich ausschließlich um die Suche von öffentlich zugänglichem Wissen und Textanwendungen (kreatives Schreiben, Zusammenfassungen)

Begründungen KI-News:

• Die zusammengestellten Nachrichten basieren ausschließlich auf öffentlich zugänglichen Nachrichten.
• Zu jeder Nachricht sind die Quellen angegeben.
• Jede Quelle ist verlinkt und kann aufgerufen werden.
• Der Gesamtbeitrag ist explizit als KI-generiert gekennzeichnet.
• Die KI-News sind eine Nur-Lese-Seite. Funktionen, die auf KI-basieren, können auf dieser Seite nicht ausgeführt werden.

Weitere KI-Anwendungen, die nicht öffentlich zugänglich sind (eigene KI-Systeme, Entwicklungen für Kunden) werden an entsprechender Stelle dokumentiert.

Keine verbotenen Praktiken

In Art. 5 KI-VO sind verbotene Praktiken genannt. Die Überprüfung angebotener KI-Systeme ergab, dass diese nicht vorliegen.

Begründungen:

• Eine unterschwellige Beeinflussung von Nutzern der angebotenen KI liegt nicht vor. Dark Patterns wurden nicht eingesetzt. Eingabefelder wurden nicht in einer den Nutzer beeinflussenden Weise hervorgehoben oder anderweitig kritisch beschriftet.
• Schutzbedürftige Gruppen sind durch die angebotene KI nicht negativ beeinträchtigt. Es gibt keine für bestimmte vulnerable Personengruppen spezifischen Ausprägungen.
• Das soziale Verhalten von Nutzern wird nicht analysiert. Die KI protokolliert den Nutzer nicht. Üblicherweise werden auch Eingaben nicht protokolliert (und falls doch, dann nur im konkreten und informierten Fall – etwa zur Qualitätssicherung – und ohne Nutzerbezug, oder unter Erlaubnis eines Nutzers).
• Risikobewertungen werden mithilfe der angebotenen KI nicht vorgenommen.
• Eine Gesichtserkennung durch die angebotene KI findet nicht statt.
• Emotionen von Personen werden durch die angebotene KI nicht abgeleitet.
• Eine biometrische Kategorisierung von Personen durch die angebotene KI findet nicht statt.
• Die angebotene KI wird nicht für Strafverfolgungszwecke verwendet.

Die angebotene KI wird somit als Allgemein-KI angesehen.

Das Beitragsbild wurde von einem KI-Bildmodell erzeugt.