De term “emergent AI” duidt op eigenschappen of vaardigheden in een AI model die plotseling en onvoorspelbaar opduiken (emerge) in AI-systemen.

Het gevolg van opschaling

OpenAI schreef in een artikel dat de prestaties van een model een schaalwet volgen: hoe meer gegevens en parameters, hoe beter de prestaties. Dit zie je als een AI model steeds groter maakt. Je voegt meer “parameter” toe zoals dat heet. Bij een eenvoudig model is de prestatie bijna willekeurig maar als het model maar groot genoeg wordt, wordt er een drempel bereikt waarop een bepaalde eigenschap wordt waargenomen (de prestatie begint merkbaar te verbeteren). Deze plotselinge opkomst van eigenschappen en verbetering van prestaties noemen we “emergent.”

Ook buiten de AI

Dit verschijnsel zie je ook buiten de kunstmatige intelligentie, van fysica tot biologie. 

Bijvoorbeeld, je kunt informatie coderen met een kleine molecule, maar DNA (een grote molecule) codeert een genoom. Of een kleine hoeveelheid uranium leidt niet tot een nucleaire reactie. De complexe structuren in sneeuwvlokken zijn ook voorbeelden van emergent gedrag.

Conclusie

Dus kort samengevat kunnen we zeggen dat een eigenschap als “emergent” wordt beschouwd als deze twee voorwaarden worden vervuld:

1. Scherpte: de overgang is plotseling en onvoorspelbaar.
2. Schaalbaarheid: de eigenschap is alleen aanwezig in grotere modellen en niet in kleinere modellen.