De Europese consumentenorganisatie BEUC heeft bezorgdheid geuit over de mogelijke schade voor individuen veroorzaakt door ChatGPT en andere chatbots op basis van kunstmatige intelligentie, en roept EU-beschermingsinstanties op om de technologie te onderzoeken.
ChatGPT, gesteund door Microsoft-eigenaar Open AI, is steeds populairder geworden vanwege zijn vermogen om menselijke taal na te bootsen en tekst en afbeeldingen te genereren op basis van aanwijzingen. Dit heeft andere grote spelers in de technologiesector, waaronder Google, Amazon en Meta Platforms, ertoe aangezet vergelijkbare tools te ontwikkelen.
BEUC, een overkoepelende groep van 46 consumentenorganisaties uit 32 landen, heeft brieven gestuurd naar zowel het netwerk van autoriteiten voor consumentenveiligheid (CSN-netwerk) als het netwerk van autoriteiten voor consumentenbescherming (CPC-netwerk) waarin zij hun bezorgdheid uiten.
De lobbygroep heeft gewaarschuwd dat de door deze chatbots gegenereerde inhoud misleidend en feitelijk onjuist kan zijn, wat kan leiden tot misleidende reclame en mogelijk schadelijk kan zijn voor kwetsbare consumenten, met name kinderen.
Volgens BEUC ligt het probleem bij deze chatbots in het feit dat ze inhoud kunnen produceren die er waar en betrouwbaar uitziet, maar niet noodzakelijk feitelijk accuraat is. Hierdoor kunnen ze consumenten misleiden en bijdragen aan misleidende reclamepraktijken.
BEUC-adjunct-directeur-generaal Ursula Pachl heeft de autoriteiten voor consumentenbescherming opgeroepen om dringend de risico’s van AI-chatbots te onderzoeken, hun aanwezigheid op consumentenmarkten te identificeren en corrigerende maatregelen te nemen om consumenten te beschermen tegen schade. Dit zou maatregelen kunnen omvatten zoals verbeterde regulering, sterkere consumentenrechten en betere educatie voor consumenten.
De groep heeft ook opgeroepen tot een onderzoek naar de veiligheidsrisico’s van deze producten door het consumentenveiligheidsnetwerk en het starten van een uitwisseling van informatie over het onderwerp. Ze geloven dat consumenten het recht hebben om geïnformeerd te worden over de risico’s van deze technologieën, en dat er meer moet worden gedaan om ervoor te zorgen dat chatbots veilig, betrouwbaar zijn en consumenten niet misleiden of schaden.
De bezorgdheid van BEUC is niet uniek. Andere organisaties, waaronder het Europees Parlement en de Amerikaanse Federal Trade Commission, hebben ook opgeroepen tot een grotere regulering en toezicht op AI-chatbots. Met de technologie die steeds geavanceerder en wijdverbreider wordt, is het belangrijk dat beschermingsinstanties voor consumenten actie ondernemen om ervoor te zorgen dat consumenten geen risico lopen.
