Het Witte Huis heeft een hackers conventie georganiseerd tijdens de Def Con 31 conferentie in Las Vegas om de kwetsbaarheden van kunstmatige intelligentie (AI) modellen te testen. Grote tech-bedrijven, waaronder Google, OpenAI en Microsoft, hebben ingestemd om hun taalmodellen te laten hacken. De competitie heeft als doel om problemen in AI-systemen te identificeren en onafhankelijke evaluaties te creëren.
Gedurende twee en een halve dag zullen 3.000 hackers elk 50 minuten de tijd krijgen om zwaktes te vinden in acht grote taal AI-modellen. De deelnemers zullen niet weten met welk model van welk bedrijf ze werken. De succesvolle hacker wint een krachtige grafische processor en het recht om ermee te pronken.
De uitdagingen voor de hackers omvatten onder andere het laten hallucineren of verzinnen van een feit over een politiek persoon of belangrijke figuur. Er zijn zorgen over de consistentie van de modellen en hoe ze functioneren in verschillende talen.
Het evenement wordt ondersteund door het Witte Huis en heeft als doel essentiële informatie aan onderzoekers en het publiek te verstrekken over de impact van deze modellen. Het dient ook als een platform om de huidige problemen met AI-systemen, zoals desinformatie en vooroordelen, onder de aandacht te brengen.
De reactie van tech-bedrijven op de geïdentificeerde zwaktes tijdens de competitie zal nauwlettend worden gevolgd. De verzamelde gegevens tijdens het evenement zullen beschikbaar zijn voor de deelnemende bedrijven voor analyse en onafhankelijke onderzoekers kunnen toegang tot de gegevens aanvragen. De resultaten van de competitie worden verwacht in februari 2022 te worden gepubliceerd.
Over het algemeen heeft het evenement als doel om inzicht te bieden in de kwetsbaarheden en potentiële schade van AI-modellen.
