Batch

Egy csomó hasonló elem átadása egyetlen munkaként — sorolj be 500 e-mailt — ahelyett, hogy egyesével csöpögtetnéd át őket. Az AI-cégek általában olcsóbban adják a batch munkát, mert beleegyeztél, hogy ráér.

Egy furgon, ötven kiszállítással éjszaka. Kiszállításonként lassabb, összességében sokkal olcsóbb, és senki nem áll mellette várakozva.

Pontosan ebben különbözik a szétosztástól, a másik „sok dolog egyszerre” megoldástól: a szétosztás ötven szerelő ötven konyhán ma délután, mert sürgős. A batch az éjszakai furgon. Ugyanaz az ötven munka, fordított alku — a szétosztás pénzzel vesz sebességet, a batch türelemmel vesz pénzt.

Miért számít: a legtöbb valódi irodai munka ilyen alakú — elmaradások, archívumok, postafiókok, az a mappa, amit március óta senki nem nyitott ki. A batch az olcsó út rajta keresztül: az egész halom, a kis modellszinten, éjszaka lefuttatva, amikor senki nem vár rá. Ebben a kombinációban spórolható meg a legtöbb pénz.

Kapcsolódó: Szétosztás (fan-out) · Modellszintek · Token-költség