Token

Az egység, amiben a modellek olvasnak és írnak — angolul nagyjából egy szó háromnegyede. Az „orchestration” szó körülbelül négy token. A modelleket tokenenként árazzák, be- és kimenetre külön, mint egy taxaméter, ami mindkét irányban jár.

Miért számít: a token itt minden valuta. A költség, a sebesség és a modell „figyelmi kapacitása” is ebben mérhető.

Egy különálló security token (biztonsági token, egyfajta bejelentkezési belépő szoftverekhez) egészen más dolog, ami csak a szót osztja meg vele — mindkettő állandóan előkerül az ügynöki munkában.