De politie in China heeft een man gearresteerd voor het gebruik van de AI-chatbot, ChatGPT, om nepnieuws te creëren en te verspreiden, wat volgens staatsmedia de eerste strafzaak van het land is met betrekking tot het gebruik van een AI-chatbot. De verdachte, met de achternaam Hong, gebruikte naar verluidt ChatGPT om een nepnieuwsbericht over een treinongeluk te genereren, dat hij vervolgens online plaatste om er winst uit te halen. Het artikel kreeg ongeveer 15.000 views, aldus een verklaring die zondag door de politie in de noordwestelijke provincie Gansu is vrijgegeven.
ChatGPT, ontwikkeld door Microsoft-ondersteunde OpenAI, is verboden in China, hoewel gebruikers er toegang toe kunnen krijgen via virtuele particuliere netwerken (VPNs). Treinongelukken zijn een gevoelig onderwerp in China sinds 2011, toen autoriteiten onder druk stonden om uit te leggen waarom staatsmedia geen tijdige updates hadden verstrekt over een botsing van hogesnelheidstreinen in Wenzhou die resulteerde in 40 doden.
Volgens een verklaring van de Gansu-politie vond de arrestatie van Hong plaats op 5 mei in Dongguan, een stad in de zuidelijke provincie Guangdong. In de verklaring stond dat Hong werd ondervraagd over zijn vermeende gebruik van “moderne technologie om valse informatie te fabriceren en deze op internet te verspreiden, wat wijdverspreid was.” De politieverklaring stelde ook dat Hong beschuldigd werd van “ruzie maken en problemen veroorzaken”, wat het misdrijf is waarvan hij beschuldigd wordt.
Deze arrestatie volgt nadat de Chinese regering verschillende stappen heeft genomen om het gebruik van AI- en deepfake-technologieën te reguleren. In januari vaardigde China’s Cyberspace Administration nieuwe regelgeving uit om het gebruik van deepfakes te beperken. Deepfakes verwijzen naar hoogst realistische tekst- en visuele inhoud gegenereerd door kunstmatige intelligentie. De nieuwe wetgeving verbiedt gebruikers om deepfake-inhoud te genereren over onderwerpen die al verboden zijn door bestaande wetten op het zwaar gecensureerde internet van China. Het schetst ook procedures voor het verwijderen van inhoud die als vals of schadelijk wordt beschouwd.
In maart lanceerden internetreuzen Baidu en Alibaba hun eigen versies van de ChatGPT-service in een poging OpenAI bij te benen. Baidu onthulde “Wenxin Yiyan” of “ERNIE Bot”, terwijl Alibaba twee maanden later “Tongyi Qianwen” lanceerde (wat ruwweg vertaalt naar de waarheid zoeken door duizend vragen te stellen).
De Chinese cyberspace-regulator heeft ook ontwerprichtlijnen uitgegeven die vereisen dat generatieve AI-services beveiligingscontroles ondergaan voordat ze kunnen werken, en serviceproviders moeten de echte identiteit van gebruikers verifiëren en details verstrekken over hun technische informatie, inclusief het type en de omvang van de gegevens die ze gebruiken. De richtlijnen staan open voor feedback van het publiek.
De arrestatie van Hong vond ook plaats tijdens een 100-daagse campagne die in maart werd gelanceerd door de internettak van het Ministerie van Openbare Veiligheid om de verspreiding van internetgeruchten aan te pakken. De campagne heeft tot doel online geruchten, illegale inhoud, fraude en andere online misdrijven aan te pakken.
Het gebruik van AI-chatbots en andere geavanceerde technologieën is steeds vaker voorkomend in de verspreiding van nepnieuws en misinformatie online. De inspanningen van de Chinese regering om deze technologieën te reguleren, weerspiegelen de groeiende bezorgdheid over hun potentieel voor misbruik en de noodzaak om online onwaarheden te bestrijden.
