De verkiezingen volgend jaar in Groot-Brittannië en de VS kunnen te maken krijgen met een aanzienlijke uitdaging, omdat experts waarschuwen voor de opkomst van door AI aangedreven desinformatie. Gegenereerde afbeeldingen, tekst en deepfake-video’s kunnen viraal gaan, aangedreven door zwermen van AI-gestuurde propagandabots, die op grote schaal gebruikers manipuleren en overtuigen.
Tijdens een hoorzitting in het Amerikaanse Congres in Washington uitten Sam Altman, CEO van OpenAI en de maker van ChatGPT, zijn zorgen over de modellen achter de nieuwste generatie AI-technologie. Hij benadrukte het potentieel van deze modellen om gebruikers te misleiden. Altman benadrukte de noodzaak van regulering, publieksvoorlichting en transparantie om deze problemen effectief aan te pakken.
Rishi Sunak, de premier van het VK, beloofde het voortouw te nemen bij het minimaliseren van de gevaren van AI. De zorgen rondom AI zijn toegenomen na doorbraken in generatieve AI, zoals blijkt uit tools als ChatGPT en Midjourney, die op verzoek overtuigende tekst, afbeeldingen en zelfs stemgeluid kunnen produceren.
In tegenstelling tot eerdere golven van propagandabots, die afhankelijk waren van voorgeprogrammeerde berichten of “betaalde trollen” om handmatig met mensen in contact te treden, openen technologieën zoals ChatGPT de deur naar interactieve verkiezingsbeïnvloeding op een ongekende schaal. Een AI die getraind is om specifieke standpunten te verspreiden, kan tegenstanders betrekken in eindeloze debatten en tegelijkertijd toeschouwers overtuigen via duizenden social media-accounts.
Professor Michael Wooldridge van het Alan Turing Institute in het VK identificeerde door AI aangedreven desinformatie als de grootste zorg met betrekking tot AI-technologie. Hij uitte bezorgdheid over het vermogen van chatbots zoals ChatGPT om op maat gemaakte desinformatie te genereren die gericht is op specifieke groepen kiezers, waardoor valse nieuwsverhalen eenvoudig kunnen worden gecreëerd.
Hoewel er zorgen zijn geuit over het gebruik van gegenereerde afbeeldingen om verwarring te zaaien en misleiding te verspreiden, veegde Altman deze bezorgdheid van tafel door een parallel te trekken met de eerste impact van Photoshop, waarbij mensen steeds sceptischer werden over gemanipuleerde beelden. Echter, naarmate AI-capaciteiten blijven verbeteren, wordt het steeds moeilijker om online waarheid van leugens te onderscheiden, of het nu gaat om per ongeluk verspreide misinformatie of opzettelijke desinformatiecampagnes.
Stemklonering, geïllustreerd door een gemanipuleerde video van de Amerikaanse president Joe Biden, is ook een prominent probleem geworden. In dit geval werd spraaksimulatietechnologie gebruikt om Bidens toespraak over het sturen van tanks naar Oekraïne om te vormen tot een aanval op transgender personen. De video werd snel viraal en leidde tot andere parodieën, wat bezorgdheid wekte over het misbruik van stemkloneringstechnologie.
Cybersecuritybedrijf Recorded Future waarschuwde dat malafide actoren al stemkloneringsservices online verkopen, inclusief de mogelijkheid om de stemmen van bedrijfsleiders en publieke figuren te klonen. Ze benadrukten de noodzaak van algemene educatie en bewustwording om het dreigingsniveau te verlagen in aanloop naar de Amerikaanse presidentsverkiezingen.
Een onderzoek uitgevoerd door NewsGuard, een organisatie die misinformatie en desinformatie monitort, toonde aan dat zowel ChatGPT als Google’s Bard-chatbot in staat waren om valse nieuwsverhalen te genereren. De toenemende prevalentie van door AI gegenereerde nieuws- en informatiewebsites vergroot de urgentie om dit probleem aan te pakken.
Steven Brill, mede-CEO van NewsGuard, maakt zich zorgen over het potentieel misbruik van chatbot-technologie om verschillende varianten van valse verhalen massaal te produceren. Het opzettelijk verspreiden van valse narratieven vormt een aanzienlijk gevaar dat snel moet worden aangepakt door de technologiesector en regeringen.
Al met al staan de aankomende verkiezingen in het VK en de VS voor een formidabele uitdaging als gevolg van door AI aangedreven desinformatiecampagnes. De proliferatie van door AI gegenereerde inhoud, waaronder afbeeldingen, tekst en deepfake-video’s, heeft het potentieel om de publieke opinie op een ongekende schaal te manipuleren, wat effectieve regulering, publieksbewustzijn en transparantie vereist.
