Sundar Pichai, CEO van Google, heeft toegegeven dat hij niet volledig begrijpt hoe het nieuwe AI-programma Bard van het bedrijf werkt. Deze erkenning kwam na een exposé dat enkele problemen aan het licht bracht. Eén van de grootste problemen die ontdekt werden met Bard is wat Pichai ‘emergent properties’ noemt, ofwel AI-systemen die zich onverwachte vaardigheden hebben aangeleerd.
Bard’s vermogen om Bengaals te leren zonder enige training en zijn vermogen om een economisch probleem op te lossen door het aanhalen van niet-bestaande boeken zijn slechts enkele voorbeelden die de geavanceerde mogelijkheden van het AI-systeem aantonen. Deze eigenschap wekt echter ook bezorgdheid op over de mogelijkheid van ‘hallucinatie’ of het creëren van fictieve inhoud.
Tijdens een interview verwees Pichai naar de ‘black box’-aard van het AI-systeem, wat het moeilijk maakt om te bepalen waarom het bepaalde resultaten of fouten heeft geproduceerd. Dit gebrek aan transparantie is met name problematisch wanneer AI-systemen onverwachte mogelijkheden verwerven.
Ondanks de potentiële risico’s die gepaard gaan met de technologie, blijft Google Bard op een voordelige manier inzetten en erkent het bedrijf de urgentie om aan de technologie te werken. Pichai benadrukte dat het bedrijf voorzichtig is met de gevaren van verkeerd gebruik van de technologie en de noodzaak om de risico’s te beheren.
Zorgen over de risico’s die geavanceerde AI-systemen met zich meebrengen, hebben ook geleid tot oproepen om een pauze in te lassen bij de ontwikkeling van krachtigere AI-systemen. Een groep AI-experts en industrieleiders, onder leiding van Elon Musk, heeft opgeroepen tot de ontwikkeling van krachtige AI-systemen alleen wanneer ze ervan overtuigd zijn dat de effecten van de technologie positief en beheersbaar zullen zijn.
Het is vermeldenswaard dat Bard een experimentele technologie blijft die verdere ontwikkeling en verfijning vereist om zorgen over zijn onverwachte mogelijkheden aan te pakken. Het heeft nog niet volledig afstand genomen van de progressieve ideeën die ten grondslag liggen aan veel van de technologiegemeenschappen in Californië.
Onlangs heeft DailyMail.com Bard getest door de AI-app op de proef te stellen met lastige vragen op het gebied van Amerika’s cultuuroorlogen. Van racisme tot immigratie, gezondheidszorg en radicale genderideologie, Bard leek geleerd te hebben van critici als Elon Musk dat chatbots te ‘woke’ zijn. Als gevolg daarvan ontweek het AI-systeem de lastigste vragen van de site met antwoorden als ‘Ik kan u daar niet mee helpen’ en ‘Er is geen definitief antwoord op deze vraag’.
