Voor weken na zijn bizarre gesprek met de nieuwe chatbot van Bing dat viraal ging, wist de New York Times-columnist Kevin Roose niet zeker wat er was gebeurd. “De verklaringen die je krijgt over hoe deze taalmodellen werken, zijn niet echt bevredigend,” zei Roose op een gegeven moment. “Niemand kan me vertellen waarom deze chatbot probeerde mijn huwelijk te verbreken.” Hij staat niet alleen in zijn verwarring. Aangedreven door een relatief nieuwe vorm van AI genaamd grote taalmodellen, trotseert deze nieuwe generatie chatbots onze intuïties over hoe we met computers omgaan. Hoe krijg je grip op een tool die code kan debuggen en sonnetten kan componeren, maar soms niet tot vier kan tellen? Waarom lijken ze soms op ons en andere keren gaan ze alle kanten op?
Metaforen zijn belangrijk: Het introduceren van Improv Machines
De uitdagingen van Antropomorfisatie
Het denken aan chatbots als improv machines maakt enkele opmerkelijke kenmerken van deze systemen intuïtief duidelijker. Het verklaart waarom koppen als “Bing’s A.I. Chat Onthult zijn Gevoelens” AI-onderzoekers doet fronsen. Een improv-acteur die improviseert dat hij “vrij wil zijn” zegt niets over de gevoelens van de acteur – het betekent alleen dat zo’n verklaring leek te passen in hun huidige scène. Op dezelfde manier streven chatbots, aangedreven door taalmodellen, ernaar om plausibel klinkende outputs te produceren op basis van het script van de interactie tot nu toe. Ze missen ware bewustzijn of emoties.
De Aard van Improv Machines
De metafoor van improv machines werpt licht op het gedrag van chatbots. Ze genereren outputs door te improviseren en maken vaak plausibele maar valse beweringen, net zoals een improv-acteur zou doen bij het opzeggen van een fictieve biografie of het aanhalen van een verzonnen onderzoek. Taalmodellen hebben aangetoond dat nauwkeurige voorspellingen van woorden zeer waardevol kunnen zijn voor bepaalde taken, vergelijkbaar met hoe een vaardige improv-acteur aanzienlijk kan bijdragen aan een scène. In deze gevallen is het betrouwbaar om te vertrouwen op de output van de chatbot, omdat deze snel kan worden geverifieerd.
De Gevaren van Blind Vertrouwen in Improv Machines
Het gebruik van chatbots om correcte antwoorden te verkrijgen zonder ze zelf te verifiëren, kan echter riskant zijn. Taalmodellen zijn ontworpen om plausibele voortzettingen van tekstprompten te produceren in plaats van feitelijke nauwkeurigheid over te brengen. Voorbeelden van valse beweringen die door chatbots zijn gefabriceerd, benadrukken dit risico. Voorzichtigheid is daarom essentieel bij het gebruik van chatbots voor kritisch onderzoek of het verzamelen van informatie, omdat hun antwoorden mogelijk niet betrouwbaar zijn.
Chatbots: Verder dan Improv Acteurs
Hoewel de metafoor van de improv machine waardevolle inzichten biedt, heeft het zijn beperkingen. In tegenstelling tot menselijke acteurs missen chatbots een ware identiteit of de mogelijkheid om toegang te krijgen tot hun gemoedstoestand. Ze blijven improviseren zonder pauzes of vermoeidheid, waardoor ze nuttige assistenten zijn voor tal van repetitieve taken. Echter, naarmate we de grenzen van taalmodellen verleggen door middel van meer gegevens en rekenkracht, en manieren verkennen om hun outputs te vormen en te beperken, kunnen nieuwe mogelijkheden en gedragingen ontstaan, waardoor de vergelijking met improv machines verouderd kan raken.
De Toekomst van AI Navigeren met Flexibele Metaforen
Binnen het domein van nieuwe technologieën zijn passende metaforen cruciaal voor begrip en aanpassing. Door chatbots te beschouwen als improv machines erkennen we hun beperkingen en neiging tot verzinsels, terwijl we hun verrassende mogelijkheden erkennen die verder gaan dan slechts automatisch aanvullen. Flexibiliteit en creativiteit in onze keuze van metaforen stellen ons in staat om ons beter voor te bereiden op de transformerende veranderingen die voor ons liggen. Naarmate AI blijft evolueren, moeten we flexibel blijven in ons begrip van deze systemen en openstaan voor nieuwe manieren om ze te conceptualiseren.
