Wanneer blijven persoonsgegevens in een AI-model persoonsgegevens?

Veel ondernemers gaan ervan uit dat een AI-model geen persoonsgegevens meer bevat zodra het getraind is. De gegevens staan immers niet als tabel in het model, maar zijn omgezet in getallen. De Europese privacytoezichthouders kijken daar genuanceerder naar. In Opinie 28/2024 van 17 december 2024 beantwoordt het Europees Comité voor gegevensbescherming (EDPB) drie vragen die voor iedereen die AI bouwt of inkoopt praktisch zijn: wanneer is een model anoniem, wanneer kunt u zich beroepen op een gerechtvaardigd belang, en wat gebeurt er als er bij de training iets mis is gegaan.

Eerst de anonimiteit. Volgens het EDPB is een model dat met persoonsgegevens is getraind niet automatisch anoniem. Dat wordt per geval beoordeeld. Een model kan pas als anoniem gelden als twee kansen allebei verwaarloosbaar zijn: de kans dat persoonsgegevens uit de trainingsdata rechtstreeks of via waarschijnlijkheden uit het model te halen zijn, en de kans dat zulke gegevens via vragen aan het model naar boven komen, ook als niemand daar bewust naar zoekt. Daarbij telt mee welke middelen de aanbieder en anderen redelijkerwijs kunnen inzetten, de maatstaf uit overweging 26 van de AVG.

Wie stelt dat zijn model anoniem is, moet dat kunnen aantonen. De Opinie geeft geen verplichte checklist, maar noemt wel wat meeweegt: hoe de bronnen zijn geselecteerd, of gegevens vóór de training zijn gefilterd en beperkt, welke technische keuzes het onthouden van gegevens tegengaan en of het model is getest tegen bekende technieken om gegevens uit een model te halen. Zonder die documentatie is de claim dat een model anoniem is weinig waard.

Dan de grondslag. Het EDPB is duidelijk dat een gerechtvaardigd belang (artikel 6, eerste lid, onder f AVG) geen standaardgrondslag is voor het ontwikkelen of gebruiken van AI. Het kan wel, als u drie stappen doorloopt: er is een legitiem belang, de verwerking is daarvoor noodzakelijk, en de belangen van de betrokkenen wegen niet zwaarder. Bij die laatste stap spelen de redelijke verwachtingen van mensen een grote rol. Dat iemand iets openbaar online heeft gezet, betekent niet dat diegene verwacht dat het als trainingsmateriaal wordt gebruikt.

Maatregelen kunnen die afweging in uw voordeel laten uitvallen. De Opinie noemt onder meer pseudonimisering, meer openheid over welke gegevens en bronnen zijn gebruikt, en de mogelijkheid om vooraf bezwaar te maken of zich af te melden. Dat zijn waarborgen die per situatie meewegen. Er is geen vaste lijst waarmee u automatisch aan de AVG voldoet.

De derde vraag gaat over modellen die zijn getraind op gegevens die onrechtmatig zijn verwerkt. Het EDPB onderscheidt drie situaties. Blijven de persoonsgegevens in het model en gebruikt dezelfde partij het model verder, dan kan het gebrek uit de trainingsfase doorwerken in het latere gebruik. Neemt een andere partij het model in gebruik, dan moet die zelf passend nagaan of het model rechtmatig is ontwikkeld. Is het model daarna aantoonbaar anoniem gemaakt, dan valt het verdere gebruik van het model niet meer onder de AVG. Persoonsgegevens die u tijdens het gebruik nieuw verwerkt, vallen daar wel gewoon onder.

Stelt een toezichthouder vast dat er bij de ontwikkeling een overtreding is begaan, dan kan die onder meer een boete opleggen, de verwerking tijdelijk beperken of het onrechtmatig verwerkte deel van de dataset laten wissen. Kan dat niet, dan kan de toezichthouder, als dat evenredig is, het wissen van de hele trainingsdataset of van het model zelf bevelen. Of zo'n zware maatregel evenredig is, hangt mede af van wat de organisatie zelf doet om het gebrek te herstellen, bijvoorbeeld het model opnieuw trainen. Verwijdering van het model is dus een mogelijkheid, geen automatisch gevolg.

Voor de meeste ondernemers is de tweede situatie de belangrijkste. U bouwt zelf geen model, maar u gebruikt een chatbot, een HR-tool of een schrijfassistent van een leverancier. Volgens het EDPB kunt u zich dan niet volledig achter die leverancier verschuilen. Vraag daarom vóór de aanschaf op welke grondslag het model is getraind, welke bronnen zijn gebruikt, of er een anonimiteitsbeoordeling bestaat en of een toezichthouder of rechter zich al over het model heeft uitgesproken. Leg de antwoorden vast in uw inkoopdossier en maak er afspraken over in het contract.

Praktische aanbeveling van REZA Legal: houd per AI-toepassing een korte registratie bij met de grondslag, de herkomst van de gegevens, wat de leverancier over anonimiteit zegt en welke waarborgen er gelden. Dat kost weinig tijd en het is precies wat u nodig heeft als een klant, werknemer of toezichthouder vragen stelt. Dit is een aanbeveling van REZA Legal en geen letterlijke eis uit de Opinie.

Wilt u weten waar uw organisatie nu staat? De Reality Scan geeft u snel een eerste beeld van uw aandachtspunten rond AI en privacy. Dit artikel is algemene informatie en geen juridisch advies voor uw specifieke situatie.