Uw AI-chatbot, de AVG en de AI Act: wat moet u als ondernemer regelen?

Eerst dit: geen juridisch advies

Blackbox Cyber test de techniek; wij zijn geen juristen. Dit artikel helpt u de juiste vragen te stellen. Of en hoe de regels voor uw situatie gelden, laat u beoordelen door een jurist of privacyspecialist. Waar we een artikel uit een wet noemen, staat de bron onderaan.

Wanneer geldt de AVG voor uw AI-chatbot?

Zodra een bezoeker iets intypt waaruit blijkt wie hij is. Bijvoorbeeld een naam, e-mailadres of ordernummer. Dat zijn persoonsgegevens. Uw chatbot verwerkt ze, en meestal worden de gesprekken ook opgeslagen. Dan gelden de regels van de AVG, net als voor uw contactformulier.

In de praktijk gaat het bijna altijd zo. Klanten vragen naar hun bestelling, en noemen dan hun naam of ordernummer. Ook als uw chatbot daar niet om vraagt. De AVG is dus vrijwel altijd van toepassing op een AI-chatbot voor klanten. Voor de zwaarste overtredingen gelden boetes tot € 20 miljoen of 4% van de jaaromzet wereldwijd (artikel 83 AVG).

De verwerkersovereenkomst voor uw chatbot (artikel 28 AVG)

Een verwerkersovereenkomst is een schriftelijke afspraak tussen u en uw leverancier over hoe die persoonsgegevens voor u verwerkt. Draait uw chatbot bij een leverancier, dan verwerkt die leverancier persoonsgegevens voor u. Artikel 28 AVG schrijft voor dat u daarover schriftelijke afspraken maakt: een verwerkersovereenkomst. Lid 3 noemt wat daar minimaal in moet staan. Onder meer dit. De leverancier verwerkt de gegevens alleen in uw opdracht en houdt ze geheim en goed beveiligd. Andere partijen schakelt hij alleen met uw toestemming in. Hij helpt u bij verzoeken van klanten. Na afloop verwijdert of retourneert hij de gegevens.

Let op de keten. Uw chatbotleverancier gebruikt vaak een taalmodel van een andere partij, zoals OpenAI, Anthropic of Google. Vraag welke partijen de gesprekken te zien krijgen en in welk land. En een chatbot die draait op het persoonlijke abonnement van een medewerker heeft meestal geen geldige verwerkersovereenkomst.

Wat zegt de AI Act over chatbots?

De Europese AI-verordening (AI Act, Verordening (EU) 2024/1689) deelt AI in naar risico. Een gewone klantenservicechatbot valt meestal niet onder hoog risico. Dat verandert als de AI beslissingen neemt over bijvoorbeeld kredieten of sollicitanten.

Wat wel voor vrijwel elke chatbot geldt: artikel 50, de transparantieplicht. Die geldt sinds 2 augustus 2026. Mensen moeten weten dat ze met een AI-systeem praten, tenzij dat voor een redelijk geïnformeerde persoon al duidelijk is. Die informatie moet duidelijk en herkenbaar zijn, en uiterlijk bij het eerste contact worden gegeven.

Formeel ligt deze plicht bij de aanbieder van het AI-systeem. Laat u een chatbot onder uw eigen naam bouwen, of bouwt u hem zelf, dan kunt u zelf aanbieder zijn. Laat dat door een jurist beoordelen. Een duidelijke melding bovenaan de chat, zoals "U praat met een AI-assistent", is in elk geval een kleine moeite.

Wat is er veranderd aan de termijnen?

De AI Act gaat in stappen in. Volgens artificialintelligenceact.eu en AI Compliance Hub schuift de Digital Omnibus een deadline op. Voor hoog-risico-AI uit bijlage III gaat die van 2 augustus 2026 naar 2 december 2027. Denk aan kredietbeoordeling en het filteren van sollicitanten. Voor AI in producten met eigen productregels (bijlage I) is dat 2 augustus 2028. De transparantieplicht van artikel 50 geldt wel al sinds 2 augustus 2026.

Moet u een DPIA doen?

Een DPIA (gegevensbeschermingseffectbeoordeling) is verplicht bij een waarschijnlijk hoog risico voor de betrokkenen (artikel 35 AVG). Voor een eenvoudige klantenservicechatbot is dat niet altijd zo. Verwerkt uw chatbot gevoelige gegevens, zoals over gezondheid? Of veel gegevens over veel mensen? Dan is de kans groter. Ook als het niet verplicht is, helpt een DPIA om de risico’s op een rij te zetten. Vraag uw jurist of privacyspecialist of het voor u nodig is.

Een praktische lijst voor uw chatbot

1. Schrijf op welke gegevens in de chat terechtkomen en waar ze worden opgeslagen. 2. Sluit een verwerkersovereenkomst met uw chatbotleverancier en vraag naar de andere partijen in de keten. 3. Zet een duidelijke AI-melding aan het begin van de chat. 4. Werk uw privacyverklaring bij. 5. Spreek een bewaartermijn af voor gesprekken. 6. Vraag in de chat niet om gegevens die u niet nodig heeft, zoals een BSN of medische informatie.

7. Laat de technische kant testen: kan de chatbot gegevens van andere klanten lekken of tot ongewenste acties worden verleid? Dat is prompt injection, zie ons artikel daarover. Een lek via uw chatbot kan een datalek zijn dat u binnen 72 uur moet melden bij de Autoriteit Persoonsgegevens. 8. Laat de juridische punten toetsen door een jurist.

Wat Blackbox Cyber wel en niet doet

Wij testen of uw chatbot of AI-koppeling technisch te misbruiken is, volgens de OWASP Top 10 for LLM Applications. Dat valt onder De Inbraaktest Totaal (vanaf € 4.950 excl. btw, met hertest). Lijkt een AI-melding of verwerkersovereenkomst te ontbreken? Dan noemen we dat in het rapport als aandachtspunt.

Wij geven geen juridisch advies en beoordelen niet of u aan de AVG of de AI Act voldoet. Daarvoor verwijzen we u naar een jurist. Wij testen alleen na schriftelijke toestemming van de eigenaar van het systeem. Bij een chatbot van een leverancier blijven we binnen de afspraken met die leverancier.