In een belangrijke ontwikkeling heeft het Europees Parlement een reeks amendementen op de ontwerp-AI-wetgeving goedgekeurd in een recente stemming. Onder de wijzigingen zijn de leden van het Europees Parlement overeengekomen om een reeks eisen op te stellen voor grondleggende modellen die generatieve AI-technologieën ondersteunen, zoals OpenAI’s ChatGPT. Deze amendementen verplichten aanbieders van grondleggende modellen om veiligheidscontroles uit te voeren, maatregelen voor gegevensbeheer te implementeren en risico’s te beperken voordat ze hun modellen op de markt brengen. Bovendien moeten aanbieders mogelijke risico’s voor de gezondheid, veiligheid, fundamentele rechten, milieu, democratie en de rechtsstaat in overweging nemen.
Naast veiligheidsmaatregelen wordt van makers van grondleggende modellen verwacht dat ze het energieverbruik en het gebruik van hulpbronnen verminderen, terwijl ze ook hun systemen registreren in een EU-database die is opgezet onder de AI-wet. Aanbieders van generatieve AI-technologie, zoals ChatGPT, moeten voldoen aan transparantieverplichtingen, gebruikers bewust maken van door machines gegenereerde inhoud, waarborgen toepassen op de gegenereerde inhoud en een samenvatting verstrekken van auteursrechtelijk beschermde materialen die zijn gebruikt bij de training van hun AI.
Opmerkelijk is dat leden van het Europees Parlement zich hebben gericht op het voorkomen dat AI voor algemene doeleinden zich onttrekt aan regelgevende vereisten. Het Europees Parlement heeft intensieve debatten gevoerd over biometrische surveillance en heeft ingestemd met amendementen gericht op versterking van de bescherming van fundamentele rechten.
Leden van de commissies interne markt en burgerlijke vrijheden hebben gestemd over duizenden amendementen en hebben uiteindelijk een ontwerpmandaat voor de AI-wet aangenomen met brede steun. Het doel van het Parlement is ervoor te zorgen dat AI-systemen worden gecontroleerd door mensen en zich houden aan beginselen van veiligheid, transparantie, traceerbaarheid, non-discriminatie en milieuvriendelijkheid.
De aangenomen amendementen omvatten ook een uitgebreide lijst van verboden praktijken, waarbij indringend en discriminerend gebruik van AI-systemen wordt verboden. Dit omvat real-time en post-remote biometrische identificatiesystemen, biometrische categorisatiesystemen die gevoelige kenmerken gebruiken, voorspellende politie-systemen, emotieherkenningsystemen en indiscriminatie gegevensverzameling van biometrische gegevens voor gezichtsherkenningdatabases.
Hoewel de stemming in de commissies een grote stap betekent naar het vaststellen van het onderhandelingsmandaat van het Parlement, worden er tijdens de triloogbesprekingen met de Raad verdere discussies verwacht. Regeringen van lidstaten kunnen bezwaar maken tegen bepaalde bepalingen, met name die met betrekking tot nationale veiligheidsoverwegingen.
De amendementen die door de leden van het Europees Parlement zijn voorgesteld, sluiten nauw aan bij de eisen van maatschappelijke organisaties. Er blijven echter zorgen bestaan, met name met betrekking tot het gebruik van AI in migratiecontrole en de zelfevaluatie van AI-ontwikkelaars om het risiconiveau van hun systemen te bepalen. Organisaties voor digitale rechten benadrukken de noodzaak van sterkere verboden op bepaalde AI-praktijken en verbeterde handhavingsmechanismen.
Ondanks deze zorgen vertegenwoordigen de amendementen een aanzienlijke vooruitgang bij het tot stand brengen van een uitgebreid regelgevend kader voor AI in de Europese Unie. De komende plenaire stemming in het Parlement zal cruciaal zijn om het mandaat definitief vast te stellen en triloogonderhandelingen te starten. Met de AI-wet wil de EU vooroplopen bij het creëren van AI die mensgericht, betrouwbaar en veilig is, terwijl fundamentele rechten worden beschermd, democratisch toezicht wordt gegarandeerd en een effectief systeem van AI-bestuur en handhaving wordt opgezet.
