Kontextusablak

A modell munkamemóriája: a tokenek maximális száma, amelyet egyszerre tud fejben tartani — az utasításaid, az eddigi beszélgetés, és bármilyen dokumentum, amit beillesztettél. Ha megtelik, valamit el kell dobni vagy össze kell foglalni.

Miért számít: ezért felejtenek el a hosszú beszélgetések dolgokat, és ezért nem működik tovább az, hogy „csak illeszd be az összes dokumentumunkat.” Az ablak kezelése az ügynök-orchestráció fele munkája.

Kapcsolódó: Token