De systematische wreedheid die door de Colombiaanse politie werd gebruikt om nationale protesten in 2021 neer te slaan was echt en is goed gedocumenteerd. Foto’s die onlangs door Amnesty International werden gebruikt om het probleem aan te kaarten, waren dat echter niet.
De internationale mensenrechtenorganisatie heeft kritiek ontvangen vanwege het plaatsen van afbeeldingen die gegenereerd zijn door kunstmatige intelligentie (AI) om hun rapporten op sociale media te promoten en heeft ze sindsdien verwijderd. De afbeeldingen, waaronder een van een vrouw die door politieagenten wordt weggesleept, tonen scènes tijdens protesten die zich in 2021 over Colombia verspreidden. Maar een meer dan vluchtige blik op de afbeeldingen onthult dat er iets mis is.
De gezichten van de demonstranten en politie zijn afgevlakt en vervormd, waardoor de afbeelding een dystopische sfeer krijgt. De driekleur gedragen door de demonstrant heeft de juiste kleuren – rood, geel en blauw – maar in de verkeerde volgorde, en het politie-uniform is verouderd.
Hoewel Amnesty en andere waarnemers honderden gevallen van schendingen van de mensenrechten door de Colombiaanse politie hebben gedocumenteerd tijdens de golf van onrust in 2021, waaronder geweld, seksuele intimidatie en marteling, waarschuwen fotojournalisten en mediawetenschappers dat het gebruik van AI gegenereerde afbeeldingen het werk van Amnesty zelf zou kunnen ondermijnen en complottheorieën zou kunnen voeden.
“We leven in een zeer gepolariseerde tijd vol nepnieuws, waardoor mensen de geloofwaardigheid van de media in twijfel trekken. En zoals we weten, liegt kunstmatige intelligentie. Welke geloofwaardigheid heb je wanneer je begint met het publiceren van afbeeldingen die zijn gemaakt door kunstmatige intelligentie?”, zei Juancho Torres, een fotojournalist gevestigd in Bogotá.
Ten minste 38 burgers werden gedood door staatsmachten tijdens de nationale staking van 2021, die werd veroorzaakt door een impopulaire belastinghervorming en vervolgens werd aangewakkerd door de brute politierespons. In gevallen gedocumenteerd door het in Bogotá gevestigde Temblores, werden vrouwen ontvoerd, meegenomen naar donkere gebouwen en verkracht door groepen politieagenten.
Amnesty International zei dat het in eerdere rapporten foto’s had gebruikt, maar ervoor koos om de AI gegenereerde afbeeldingen te gebruiken om de demonstranten te beschermen tegen mogelijke staatsvergelding. Om het publiek niet te misleiden, bevatten de afbeeldingen tekst waarin staat dat ze door AI zijn geproduceerd.
“We hebben de afbeeldingen van social media-posts verwijderd, omdat we niet willen dat de kritiek op het gebruik van AI gegenereerde afbeeldingen afleidt van de kernboodschap in ondersteuning van de slachtoffers en hun oproepen voor gerechtigheid in Colombia”, zei Erika Guevara Rosas, directeur voor de Amerika’s bij Amnesty.
“Maar we nemen de kritiek serieus en willen de betrokkenheid voortzetten om ervoor te zorgen dat we beter begrijpen wat de implicaties zijn en wat onze rol is bij het aanpakken van de ethische dilemma’s die worden opgeworpen door het gebruik van dergelijke technologie.”
Gareth Sella werd blind aan zijn linkeroog nadat een politieagent in Bogotá hem tijdens de protesten met een rubberen kogel had neergeschoten. Hij betoogde dat het verbergen van de identiteit van demonstranten zinvol is om hen te beschermen tegen het belanden in de gevangenis op opgeblazen beschuldigingen.
“Zoals de VN heeft gedocumenteerd, blijft de staat de demonstranten achtervolgen en zitten er meer dan 100 in de gevangenis, velen met onevenredige straffen, zoals terrorisme, om een voorbeeld van hen te maken. Het verbergen van onze identiteit lijkt mij verstandig gezien het feit dat we twee jaar later nog steeds in de angst leven dat we op elk moment kunnen worden opgesloten of zelfs dat ze achter ons aan komen op straat,” zei Sella.
Het gebruik van AI gegenereerde afbeeldingen breit foto’s die eerder door mensen zijn genomen aan elkaar om nieuwe afbeeldingen te creëren, wat vragen oproept over plagiaat en de toekomst van fotojournalistiek. Torres zei dat het gebruik van AI-afbeeldingen door Amnesty een belediging is voor de fotojournalisten die protesten vanaf de frontlinie verslaan.
“De kracht van een journalist is om de realiteit en wat ze zien opnieuw te creëren – iets wat tijdens de nationale staking veel verslaggevers, fotografen en cameramannen hun leven op het spel hebben gezet om te doen. Ik heb een vriend die een oog verloor. Het gebruik van AI-afbeeldingen verliest niet alleen die realiteit, het verliest de verbinding tussen journalisten en mensen.”
Hoewel AI gegenereerde afbeeldingen enige bescherming kunnen bieden voor de identiteit van demonstranten, roept het vragen op over de geloofwaardigheid van media en de rol van technologie in de fotojournalistiek. Het gebruik van AI gegenereerde afbeeldingen roept ook ethische dilemma’s op en de vraag of het de rol van journalisten ondermijnt om de realiteit nauwkeurig te rapporteren.
Ondanks de bedoeling van Amnesty om bewustzijn te creëren over politiebrutaliteit tijdens de protesten, kan het gebruik van AI gegenereerde afbeeldingen de geloofwaardigheid van hun rapport hebben ondermijnd en hebben bijgedragen aan complottheorieën. Naarmate de AI-technologie vordert en toegankelijker wordt, is het belangrijk dat mediaorganisaties transparant zijn over het gebruik van dergelijke technologie en de implicaties ervan voor de integriteit van hun rapportage overwegen.
De aanhoudende protesten in Colombia benadrukken de noodzaak van voortdurend activisme en pleiten voor mensenrechten en gerechtigheid. Naarmate technologie een grotere rol blijft spelen in ons leven, is het essentieel om de ethische implicaties van het gebruik ervan te overwegen en het op een manier te gebruiken die de integriteit van de journalistiek handhaaft en de zoektocht naar waarheid ondersteunt.
