6. Éles üzemben tartás
Sebességkorlát (rate limit)
Felső határ arra, milyen gyakran kérhetsz valamit egy szolgáltatástól egy adott időszakban. Ha átléped, a kéréseidet visszautasítják, amíg az óra újra nem indul.
A nagyker napi tíz kiszállítást vállal. A tizenegyedik holnapig vár, akármilyen szépen kéred.
Miért számít: ez az a fal, amibe a szétosztás elsőként ütközik. Indíts el ötven ügynököt egyszerre, mind ugyanazért a rendszerért nyúlva, és a saját szolgáltatásodat döntöd le — üzemzavar, amiért senkinek nem kellett megtámadnia téged. Egy flotta futtatásához tehát hozzátartozik az ütemezése is. A jó hír: ugyanezek a korlátok akadályozzák meg, hogy egy hurokba ragadt ügynök egész éjjel költse a pénzedet. A korlát fék is, nem csak plafon.
Kapcsolódó: Szétosztás (fan-out) · Token-költség
Bence K. Csernak
Alapító