De EU AI-verordening: verplichtingen voor bedrijven

Vanaf 2 februari 2025 moeten Duitse bedrijven voldoen aan de algemene regels en verboden van de AI-wet als ze AI-systemen gebruiken zoals ChatGPT, Copilot of het AI-spamfilter van Outlook. Dit omvat bewijs van AI-expertise en een risicobeoordeling van de gebruikte AI. Een overzicht met aanbevelingen.

Inleiding

Duitse bedrijven moeten vanaf 2 februari 2025 iets doen als ze AI gebruiken:

In artikel 113 van de KI-Verordening is geregeld dat enkele voorschriften van deze verordening per 02 februari 2025 van toepassing zijn. De AI-verordening wordt met AI-VO afgekort en in het Engels aangeduid als AI Act.

Artikelen 1 tot en met 4 AI-VO vormen het eerste hoofdstuk. Daarin zijn algemene voorschriften vastgelegd.

Artikel 5 AI-VO vormt hoofdstuk II en bevat verboden.

Vanaf 2 februari 2025 moeten Duitse bedrijven daarom voldoen aan algemene regels en verboden als er AI-systemen worden gebruikt in het bedrijf. Het gebruik van ChatGPT, Copilot of AI-systemen van andere aanbieders is al een relevant gebruik in de zin van de AI-verordening.

Volgens art. 113, lid a, van de AI-VO zijn de algemene bepalingen (artikelen 1 tot en met 4) en de verboden (artikel 5) van de AI-VO vanaf 2 februari 2025 van toepassing.

Wanneer zijn de verplichtingen van toepassing?

Vanaf 2 augustus 2025 worden verdere bepalingen uit de AI-verordening van kracht, die met name gevolgen hebben voor AI-modellen met een algemeen doel. Tot deze laatste behoren bekende AI-systemen zoals ChatGPT, Microsoft Copilot of de AI-modellen van Mistral.

Als overweging 12 van de AI-verordening als maatstaf wordt genomen, moeten softwaresystemen die AI gebruiken ook als AI-systemen worden beschouwd. Voorbeelden hiervan zijn zoekmachines die aanbevelingen genereren op basis van AI of spamfilters op basis van AI. Wat spamfilters betreft, zou de vereiste opleiding minimaal moeten zijn; werknemers zouden echter op zijn minst moeten worden geïnstrueerd. Grote zoekmachines vallen daarentegen onder een andere verordening, namelijk de Digital Services Regulation, volgens overweging 118 van de AI-verordening.

Welke verplichtingen gelden vanaf 2 februari 2025?

De verplichtingen vloeien voort uit de artikelen 4 en 5 van de AI-verordening. Artikel 3 bevat belangrijke definities van begrippen. De eerste twee artikelen bevatten informatie over het toepassingsgebied en het onderwerp van de verordening.

Bewijs van AI-vaardigheid

Artikel 4 van de AI-verordening gaat uitsluitend over het bewijs van AI-vaardigheid. Dit betekent dat elk bedrijf waarvan de werknemers met AI-systemen gaan werken, dit bewijs moet leveren.

Werknemers moeten dienovereenkomstig worden geïnstrueerd door het bedrijf. Dit omvat ook training. Hoe een bedrijf het bewijs van AI-expertise levert, is niet voorgeschreven. Er zijn goede manieren om dit verstandig en efficiënt te doen.

Een voorbeeld van de bewijsvoering van AI-kompetentie is op Dr. GDPR genoemd. De bewijsvoering bestaat uit:

• Technical expertise
• Expertise

Technical expertise moet op zijn minst beschikbaar zijn en aannemelijk worden gemaakt als er AI-systemen worden aangeboden of AI-programmering plaatsvindt. Dit laatste kan al het geval zijn door gebruik te maken van een application programming interface (API), zoals die wordt aangeboden door ChatGPT.

Categorisering van de gebruikte AI-systemen

Art. 5 van de AI-verordening bevat tal van verboden, d.w.z. doeleinden waarvoor AI-systemen wel of niet mogen worden gebruikt. Het subliminaal beïnvloeden van personen door AI is bijvoorbeeld verboden. Ook het beoordelen of classificeren van natuurlijke personen of groepen van personen gedurende een bepaalde periode op basis van hun sociale gedrag is verboden. Artikel 5 bevat tal van andere verboden.

Om de verboden doelen van een AI-systeem dat in gebruik is uit te sluiten, moet het AI-systeem worden geanalyseerd en beschreven. Vervolgens kan het worden gecategoriseerd en getoetst aan de bepalingen van de AI-verordening.

Ook kan in dat kader worden bepaald of een bedrijf alleen maar eigenaar is van een AI-systeem of zelfs leverancier. Leveranciers van AI-systemen moeten veel meer verplichtingen vervullen dan eigenaren.

Raden

Bedrijven moeten hun werknemers vertrouwd maken met het werken met AI-systemen en in hun eigen belang instructies geven. De manier waarop bedrijven te werk gaan is aan hen.

Een inleiding is een instructie voor medewerkers. Ze kan schriftelijk of in de vorm van een persoonlijke of digitale opleiding plaatsvinden. De inleiding dient om medewerkers te bevoordelen. Uiteindelijk is AI voor bedrijven middel tot doel. In zoverre moet er worden gezorgd dat AI-systeem een nut oplevert voor het bedrijf.

Een instructie is daarentegen meer een regulerende maatregel. Ze dient om medewerkers bij het werk met AI-systeem in goede banen te leiden. Want niet elke gebruik van AI is gewenst of zinnig.

Algemene informatie verrijkt met gerichte informatie wordt aanbevolen voor een briefing. Concreet betekent dit:

• Training van werknemers op locatie, bij u op locatie of in een trainingscentrum
• De initiële training kan ook online plaatsvinden, bijvoorbeeld in de vorm van een webinar
• Het opstellen van een handleiding die onderdeel kan zijn van AI organisatorische instructie. De handleiding dient om medewerkers te ondersteunen. Ze kan ook levendig zijn, dus regelmatig geactualiseerd worden. Daarom zou er over de inzet van een online aanbod moeten worden nagedacht.

De instructies voor werknemers die in het bedrijf met AI werken, omvatten in het bijzonder:

• Vereisten voor geautoriseerd professioneel gebruik van AI
• Richtlijnen voor ongeoorloofd professioneel gebruik van AI
• Contactpersoon (zoals de functionaris voor gegevensbescherming)
• De instructie kan ook onderdeel zijn van een AI-organisatieinstructie

Een AI-organisatie-instructie als compleet document bevat daarom

• Informatie voor de briefing van werknemers en
• Informatie voor de instructie van werknemers.

Typen AI-gebruik

AI-systemen kunnen voor verschillende taken worden gebruikt. Er zijn ook verschillende AI-systemen, zoals verschillende soorten AI-modellen. De bekendste zijn spraakmodellen ("chatbots"). Er zijn ook beeldgeneratoren, videogeneratoren, audiomodellen, enz.