De Consumentenbond vraagt toezichthouders en de politiek om de rechten van consumenten centraal te stellen bij de ontwikkeling en toepassing van kunstmatige intelligentie (AI) en met name generatieve AI. Die laatste categorie omvat bekende systemen als ChatGPT. Bij de inzet van AI-systemen moeten consumenten erop kunnen vertrouwen dat er geen sprake is van praktijken als misleiding en manipulatie, discriminatie, fraude en misbruik van persoonlijke informatie.
Aanleiding voor de oproep is een onderzoek van de Noorse zusterorganisatie van de Consumentenbond Forbrukerrådet dat de belangrijkste risico's van AI op een rij zet. Daarom roepen consumentenorganisaties in Europa en de Verenigde Staten nu op om te zorgen dat AI veilig is. De oproep van de Consumentenbond is gericht aan de Autoriteit Consument & Markt (ACM), de Autoriteit Persoonsgegevens (AP) en staatssecretaris Van Huffelen van digitalisering.
Niet op kunnen vertrouwen
De Consumentenbond zegt de voordelen van zowel AI als generatieve AI te zien en is daar zeker niet tegen. 'Maar', zegt directeur Sandra Molenaar, 'transparantie moet de basis zijn. Consumenten moeten weten wanneer ze met AI te maken hebben en waar ze verhaal kunnen halen als ze nadeel ondervinden van AI.
Aanleiding van de oproep is te zorgen dat er duidelijke regels komen voor dergelijke systemen. Molenaar: 'Helaas heeft de geschiedenis aangetoond dat we er niet op kunnen vertrouwen dat de grote techbedrijven deze zaken zelf vooropstellen.'
Goed geïnformeerd
De AP geeft in een reactie aan de zorgen van de Consumentenbond te delen en maakt zich in het bijzonder zorgen om de omgang met persoonsgegevens. De waakhond zegt al verschillende acties te ondernemen. De ACM zegt de huidige regelgeving al te gebruiken om AI-bedrijven aan te pakken. 'We vinden het vooral belangrijk dat mensen goed geïnformeerd worden. We zien ook het risico dat deze systemen heel menselijk overkomen en tot misleiding kunnen leiden.'
Een woordvoerder van Van Huffelen zegt dat de staatssecretaris al bezig is met het beschermen van consumentenrechten als AI wordt gebruikt. Dat doet ze onder meer door te onderzoeken of deze systemen voldoen aan privacyvoorwaarden en of mensen- en kinderrechten worden nageleefd. 'Daarnaast moet het voor mensen altijd duidelijk zijn of ze te maken hebben met een mens of een systeem.' De bewindsvrouw verwacht meer te kunnen doen als de Europese wet om AI te reguleren is afgerond.
Bron: ANP
Plaats als eerste een reactie
Ook een reactie plaatsen? Word lid van Adformatie!