Sebelum sambung DeepSeek API ke sistem CRM atau chatbot PKS, fahami dulu pengurusan kunci dan had kadar — ini mengelakkan 429 berulang selepas go-live. Jika anda sudah menerima had kadar, baca juga strategi ulang cuba 503/429.
Mohon & simpan API Key
- Log masuk DeepSeek Developer Platform, cipta projek, dan jana API Key.
- Kunci hanya dipaparkan sekali; simpan ke Secret Manager (GitHub Secrets, Vault, atau storan awan).
- Jangan letak Key dalam JavaScript frontend atau repo Git awam.
- Guna Key berbeza untuk staging dan production supaya mudah putar semula.
Fahami rate limit
429 bermaksud kadar permintaan atau token melebihi kuota. Dimensi biasa:
- Permintaan seminit (RPM)
- Token seminit (TPM)
- Had token setiap panggilan
Semasa pembangunan:
- Log medan
x-ratelimit-*jika API menyediakan. - Queue kerja batch — jangan hantar ratusan permintaan serentak.
- Pecahkan teks panjang; rujuk asas prompt untuk kawal panjang output.
Apabila 429 muncul
- Hentikan retry berterusan — ia memanjangkan tempoh sekatan.
- Baca Retry-After dalam header respons jika ada.
- Backoff eksponen: 1s → 2s → 4s, maksimum 3–5 cubaan. Contoh kod penuh ada dalam panduan ulang cuba.
- Downgrade: waktu puncak, guna model lebih kecil atau cache jawapan serupa.
Pantau penggunaan & kos
- Rekod
prompt_tokensdancompletion_tokenssetiap panggilan. - Asingkan statistik mengikut modul (chat, ringkasan dokumen, dll.).
- Putar Key secara berkala dan padam Key lama yang tidak digunakan.
Senarai semak sebelum production
- [ ] Key tidak terdedah di frontend
- [ ] Timeout ditetapkan (30–60 saat)
- [ ] Retry 429/503 dan circuit breaker siap (lihat panduan retry)
- [ ] Log asas: status, masa, token
Data sensitif tidak sesuai ke awan? Mulakan PoC dengan Ollama tempatan. Untuk perkhidmatan production, API masih disyorkan. Lebih banyak konteks Malaysia ada di laman utama.