OpenAI heeft vorige week hun nieuwe model O1 gelanceerd; een grote verandering ten opzichte van eerdere modellen.

Ik schreef onlangs over hoe LLM’s niet nadenken maar meteen een antwoord eruit blurten zoals Kahneman’s Systeem 1 en over hoeveel beter het zou zijn als dit soort AI modellen eerst eens rustig zouden nadenken; systeem 2 zeg maar.

Enter: O1

En prompt (pun intended) komt OpenAI de afgelopen week met hun nieuwe model: O1!
Dit model is bedoeld voor moeilijke problemen zoals lastige redenaties of wiskundige puzzels. En het model doet precies wat je zou willen: het denkt eerst eens rustig na over de vraag voordat het antwoord geeft.

Het resultaat: veel betere antwoorden op bepaalde prompts.

Dat heeft een prijs

Die extra denkkracht komt met een prijs (letterlijk). Los van dat het soms wel een minuut kan duren voordat je je antwoord hebt is O1 ook nog eens 100x zo duur per token (ongeveer een woord) als GPT4-mini. En daarbij gebruikt het nadenken intern ook nog een boel extra tokens die je ook betaalt. Dit betekent dat je zomaar eens een paar euro kwijt kan zijn voor een antwoord.

Beschikbaarheid

Gebruikers met een betaalde ChatGPT account kunnen O1 nu al meteen gebruiken door dit model te kiezen bovenin ChatGPT. Voor developers die via de API werken wordt het langzaam uitgerold waarbij de grootverbruikers eerst komen.

En is het echt zo goed?

Mijn eerste resultaten zijn wisselend. Ik kom hier in een volgende post op terug.