---
title: "Apakah itu backoff eksponen? Cuba semula dengan jitter"
description: "Backoff eksponen mencuba semula panggilan API yang gagal selepas penantian yang makin lama, dengan jitter rawak. Cara ia berfungsi, apa dicuba semula, dan 429 LLM."
url: https://broadrouter.com/ms/glossary/exponential-backoff/
lang: ms
updated: 2026-11-16
publisher: BroadRouter (a BroadNet site); API by BroadNet Inference, https://inference.broadnet.ai
---

Diterjemahkan daripada bahasa Inggeris dengan bantuan AI. [Baca versi asal dalam bahasa Inggeris](https://broadrouter.com/glossary/exponential-backoff/) (dikemas kini 2026-11-16).

# Backoff eksponen (exponential backoff)

Dikemas kini 2026-11-16

Backoff eksponen ialah strategi cuba semula di mana klien menunggu lebih lama selepas setiap percubaan yang gagal, biasanya menggandakan kelewatan sehingga had tertentu, sebelum mencuba lagi. Menambah jitter rawak pada setiap penantian menyebarkan cubaan semula daripada banyak klien supaya mereka tidak mengenai pelayan pada saat yang sama.

Juga dikenali sebagai: backoff eksponen, cuba semula dengan backoff, backoff dan jitter, exponential backoff, backoff and jitter, retry with backoff, jittered backoff, capped exponential backoff, full jitter

Apabila API berkata “perlahankan”, mencuba semula serta-merta hanya memburukkan keadaan. Backoff eksponen menunggu lebih lama setiap kali.

## Cara ia berfungsi

Selepas kegagalan, tunggu kelewatan asas, kemudian gandakannya pada setiap kegagalan baharu, sehingga had maksimum. Dengan asas 1 saat dan had 32 saat, tempoh menunggu ialah 1, 2, 4, 8, 16, 32, 32 saat. Berhenti selepas bilangan percubaan yang tetap dan paparkan ralat.

Backoff sahaja tidak mencukupi. Jika 100 klien gagal pada saat yang sama, kesemuanya juga mencuba semula pada saat yang sama. Artikel AWS oleh Marc Brooker membandingkan “Full Jitter” (penantian rawak antara sifar dan had semasa), “Equal Jitter” dan “Decorrelated Jitter”. Equal Jitter paling lemah, dan Full Jitter “uses less work, but slightly more time.” (Terjemahan BroadRouter: “menggunakan kurang kerja, tetapi sedikit lebih banyak masa.”) Kesimpulannya: backoff dengan jitter “should be considered a standard approach for remote clients.” (Terjemahan BroadRouter: “patut dianggap pendekatan standard untuk klien jauh.”)

```python
import random, time

def call_with_backoff(fn, attempts=6, base=1.0, cap=32.0):
    for n in range(attempts):
        try:
            return fn()
        except RetryableError:
            if n == attempts - 1:
                raise
            time.sleep(random.uniform(0, min(cap, base * 2 ** n)))  # full jitter
```

## Mengapa ia penting

-   **429 juga dikira.** Panduan had kadar OpenAI memberi amaran bahawa “unsuccessful requests contribute to your per-minute limit, so continuously resending a request won’t work.” (Terjemahan BroadRouter: “permintaan yang gagal dikira dalam had seminit anda, jadi menghantar semula permintaan secara berterusan tidak akan berhasil.”) Terus mengasak [had kadar](https://broadrouter.com/ms/glossary/rate-limit/) hanya membuatkan anda terus disekat.
-   **Cubaan semula berganda.** Builders’ Library AWS menyatakan cubaan semula bersifat “selfish” (mementingkan diri) dan mengesyorkan cuba semula di satu titik sahaja dalam tindanan; mencuba semula di setiap lapisan boleh menggandakan beban berkali-kali.
-   **Kesan sampingan.** Mencuba semula panggilan yang mengenakan bayaran hanya selamat dengan [kunci idempotensi](https://broadrouter.com/ms/glossary/idempotency-key/).
-   **Pencegahan lebih baik daripada cuba semula.** Hadkan permintaan serentak di bawah had [keserentakan](https://broadrouter.com/ms/glossary/concurrency/) anda supaya 429 jarang berlaku sejak awal.

## Di BroadNet Inference

Jadual ralat BroadNet menyarankan agar 429 dijawab dengan “response details and bounded backoff” (Terjemahan BroadRouter: “butiran respons dan backoff yang terhad”) dan 500, 502, 503 serta 504 dicuba semula “with bounded exponential backoff.” (Terjemahan BroadRouter: “dengan backoff eksponen yang terhad.”) Kunci bayar ikut guna membenarkan 30 permintaan seminit dan 4 serentak. Untuk 400, 401, 403, 413 dan 422, betulkan puncanya dahulu. Simpan pengepala `X-Request-ID` untuk sokongan. [Panduan ralat dan cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/) menetapkan bilangan cuba semula SDK, dan [cara mengendalikan 429 API LLM](https://broadrouter.com/ms/blog/handle-llm-api-429-rate-limits/) mengandungi kod pengehad dan baris gilir. [Kalkulator had kadar](https://broadrouter.com/tools/llm-rate-limit-calculator/) menunjukkan berapa banyak trafik yang muat di bawah sesuatu had.

## Soalan lazim

### Ralat manakah yang patut saya cuba semula dengan backoff?

Had kadar (429), ralat pelayan (5xx), tamat masa dan sambungan yang terputus. Jangan cuba semula 400, 401, 403, 413 atau 422 tanpa perubahan; betulkan permintaan atau kunci terlebih dahulu.

### Mengapa perlu menambah jitter?

Tanpanya, klien yang gagal bersama akan mencuba semula bersama dan membebankan pelayan sekali lagi. Jitter merawakkan setiap penantian supaya cubaan semula tersebar.

### Adakah SDK OpenAI sudah membuat backoff?

Ya. SDK OpenAI rasmi mencuba semula ralat sambungan serta respons 429 dan 5xx dengan backoff eksponen yang singkat. Tetapkan max\_retries secara jelas, lebih tinggi untuk kerja kelompok yang panjang, dan tambah pengehad anda sendiri di atasnya.

## Lihat juga

-   [Had kadar (rate limit)](https://broadrouter.com/ms/glossary/rate-limit/) (istilah)
-   [Kunci idempotensi (idempotency key)](https://broadrouter.com/ms/glossary/idempotency-key/) (istilah)
-   [Keserentakan (concurrency)](https://broadrouter.com/ms/glossary/concurrency/) (istilah)
-   [Kunci API (API key)](https://broadrouter.com/ms/glossary/api-key/) (istilah)
-   [Tamat masa permintaan (request timeout)](https://broadrouter.com/ms/glossary/request-timeout/) (istilah)
-   [Fallback model (model sandaran)](https://broadrouter.com/ms/glossary/model-fallback/) (istilah)
-   [Kod ralat BroadNet Inference dan bila perlu cuba semula](https://broadrouter.com/ms/guides/errors-and-retries/) (panduan)
-   [Cara guna OpenAI Python SDK dengan BroadNet Inference](https://broadrouter.com/ms/guides/openai-python-sdk/) (panduan)
-   [Cara mengendalikan ralat 429 API LLM: backoff, jitter dan pengehad](https://broadrouter.com/ms/blog/handle-llm-api-429-rate-limits/) (artikel)
-   [Ejen yang berjalan lama: tamat masa, cubaan semula dan checkpoint](https://broadrouter.com/ms/blog/long-running-agents-timeouts-retries/) (artikel)

Cuba dengan beban kerja sebenar anda. Akaun baharu bermula dengan kredit US$5 untuk Gemma dan transkripsi. DeepSeek, GLM dan Qwen3.8 memerlukan tambah nilai.

[Mulakan](https://inference.broadnet.ai/account/?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-glossary-exponential-backoff&utm_content=page-cta) ·

**Sumber**

-   [AWS Architecture Blog, Exponential Backoff And Jitter (Marc Brooker)](https://aws.amazon.com/blogs/architecture/exponential-backoff-and-jitter/)
-   [AWS Builders' Library, Timeouts, retries and backoff with jitter](https://builder.aws.com/content/3EumjoZascWd1oZiEgL8ORlv3qE/timeouts-retries-and-backoff-with-jitter)
-   [OpenAI, panduan had kadar (cuba semula dengan backoff eksponen)](https://developers.openai.com/api/docs/guides/rate-limits)
-   [Rujukan API BroadNet Inference, ralat, ID permintaan dan cuba semula (Bahasa Inggeris)](https://inference.broadnet.ai/docs?utm_source=broadrouter&utm_medium=referral&utm_campaign=ms-glossary-exponential-backoff&utm_content=sources#errors)
