LLM’s denken met Kahneman Systeem 1 maar er is veel te zeggen voor een Systeem 2 LLM

Veel mensen zijn bekend met de theorie van Kahneman waarin hij ons denken onderverdeeld in Systeem 1 en Systeem 2.
Systeem 1 is hierbij het automatische brein dat dingen regelt zoals auto rijden en het soms te snel reageren op een opmerking van iemand. Systeem is het bedachtzame brein dat even wil nadenken over dingen.

LLM’s zoals ChatGPT werken eigenlijk alleen via Systeem 1. Je vraagt ze wat en ze beginnen, letterlijk terwijl je er bij staat, een antwoord te spuien.

Hoeveel beter zou ChatGPT zijn als hij zegt: “goede vraag, laat me daar eens een nachtje over slapen”?

Concreet betekent ChatGPT’s nachtje slapen dat hij zijn antwoord nog een keer kan evalueren, varianten kan bedenken en de beste kan kiezen, extra gegevens kan opzoeken en even Googlen of wat hij heeft bedacht eigenlijk wel klopt.

En, natuurlijk, vaak wil je direct het antwoord horen. Maar en zijn voldoende situaties waarin je beter een langzamer, meer doordacht, antwoord wilt hebben.

LLM’s die denken met Systeem 2 gaan een mooie stap voorwaarts worden.