Sam Altman, CEO van OpenAI, heeft verklaard dat het tijdperk van het creëren van enorme kunstmatige intelligentie (AI) modellen voorbij is. OpenAI maakte indruk met ChatGPT, een chatbot gebaseerd op GPT-4, die waarschijnlijk getraind werd met biljoenen woorden en meer dan $100 miljoen kostte. Altman suggereert echter dat toekomstige vooruitgang in AI niet voortkomt uit het vergroten van modellen. Tijdens een evenement bij MIT sprak hij en zei dat ze de modellen op andere manieren beter zullen maken, zonder te specificeren wat die manieren zijn.
Veel start-ups investeren momenteel enorme middelen om grotere algoritmen te bouwen om de technologie van OpenAI bij te houden. De verklaring van Altman geeft aan dat GPT-4 de laatste grote vooruitgang kan zijn die voortkomt uit de strategie van OpenAI om modellen groter te maken en meer gegevens te geven. De schattingen van het bedrijf suggereren afnemende opbrengsten bij het opschalen van de modelgrootte, en Altman merkt op dat er fysieke beperkingen zijn aan hoeveel gegevenscentra het bedrijf kan bouwen en hoe snel het ze kan bouwen.
Nick Frosst, mede-oprichter van Cohere die eerder aan AI bij Google werkte, is het eens met Altman’s standpunt. Hij gelooft dat vooruitgang in transformers, het type machine learning-model in het hart van GPT-4 en zijn rivalen, verder gaat dan schaalvergroting. Frosst suggereert dat nieuwe ontwerpen of architecturen van AI-modellen en verdere afstemming op basis van menselijke feedback, veelbelovende richtingen zijn die veel onderzoekers verkennen.
Hoewel OpenAI de grootte en de werking van GPT-4 geheim houdt, is het waarschijnlijk dat een deel van de intelligentie van het model voortkomt uit meer dan alleen schaal. Versterkend leren met menselijke feedback, dat werd gebruikt om ChatGPT te verbeteren, is een mogelijkheid.
De verklaring van Altman suggereert een onverwachte wending in de race om nieuwe AI-algoritmen te ontwikkelen en in te zetten. Hoewel de opmerkelijke mogelijkheden van GPT-4 sommige experts hebben verbaasd en discussies hebben aangewakkerd over de potentie van AI om de economie te transformeren en desinformatie te verspreiden terwijl banen worden geëlimineerd, ontwikkelt OpenAI momenteel geen GPT-5. Dit nieuws zal voor sommigen een opluchting zijn, aangezien AI-experts, tech-ondernemers waaronder Elon Musk, en wetenschappers onlangs opriepen tot een zes maanden durende pauze bij de ontwikkeling van iets krachtigers dan GPT-4.
