Anthropic API 429 hatası, isteğin bir sınır nedeniyle reddedildiğini bildirir; ancak her 429 aynı nedenle oluşmaz. Messages API için dakika başına istek (RPM), önbelleğe alınmamış giriş tokenı (ITPM) ve çıkış tokenı (OTPM) sınırları ayrı izlenir. Önce yanıt gövdesindeki hata türünü ve retry-after başlığını okuyun.
1. Hatanın Türünü Ayırın
Normal hız sınırı aşıldığında rate_limit_error ile 429 ve bekleme süresini veren retry-after başlığı dönebilir. Ani trafik artışında acceleration limit de devreye girebilir. Kuruluş harcama tavanına ulaşma durumu da 429 olarak görünebilir, fakat Anthropic belgesine göre bu durumda retry-after bulunmaz ve otomatik tekrar erişim açılana kadar yararsızdır. Kullanıcının kendi ayarladığı bazı harcama sınırları ise 400 dönebilir; bütün faturalama durumlarını 429 diye anlatmayın.
2. Hangi Sınıra Çarptığınızı Başlıklardan Okuyun
anthropic-ratelimit-* başlıkları ilgili limit, kalan hak ve sıfırlanma zamanını gösterebilir. Model sınıfı, organizasyon ve workspace kısıtları birlikte etkili olabilir. Konsoldaki Usage ve Rate limits ekranlarıyla karşılaştırın. Blog yazısındaki sabit RPM/TPM rakamına güvenmeyin; plan ve model limitleri değişebilir.
3. Retry-After ve Backoff Uygulayın
Başlıkta süre varsa o süreden önce yeniden denemeyin. Süre yoksa hata türünü kontrol edin; geçici bir hız sınırında sınırlı sayıda, rastgele dağıtılmış artan bekleme kullanın. Harcama tavanında kör retry yapmayın. Bütün işçiler aynı anda yeniden denediğinde yeni bir istek patlaması oluşturabilir.
4. Eşzamanlılığı ve Trafik Artışını Azaltın
İstek kuyruğu, worker sayısı ve token bütçesini birlikte yönetin. Yalnız RPM sınırını düşürmek ITPM veya OTPM taşmasını çözmeyebilir. Yeni dağıtım sonrası trafiği kademeli artırın. Her isteğin modelini, tahmini token yükünü ve sonuç kodunu ölçün; gizli prompt veya API anahtarını günlükte saklamayın.
5. Önbellek ve İstek Boyutunu Değerlendirin
Gereksiz uzun girişleri kısaltın; ancak bağlam kaybını ölçmeden kör truncation yapmayın. Anthropic, çoğu modelde önbellekten okunan giriş tokenlarını ITPM hesabında farklı değerlendirir. Bu ayrıntı modele/özelliğe bağlıdır; güncel resmî belgeyi kontrol edin. Çıktı token üst sınırını görev ihtiyacına göre seçin.
6. Kota ve Faturalamayı Ayrı Çözün
Workspace/organizasyon limitlerini ve harcama tavanını yetkili konsol yöneticisi incelemelidir. Limit artırımı anında ve otomatik sonuç vermeyebilir. Alternatif modele geçişte kalite, maliyet ve veri işleme koşullarını ayrı doğrulayın; sınırı atlamak için yetkisiz hesap veya anahtar kullanmayın.
Hızlı Karar Tablosu
- 429 + retry-after: başlık süresi boyunca bekle, sonra sınırlı yeniden dene.
- 429 + harcama tavanı kodu: bekleme döngüsünü durdur, konsol durumunu incele.
- 400 + kullanıcı harcama sınırı: ayarlanmış sınırı yetkili kişiyle kontrol et.
- 5xx veya ağ hatası: hız sınırı diye etiketleme; ayrı hata politikası uygula.
Sonuç: 429 için altı “kesin çözüm” yoktur. Yanıt kodu, hata alt türü ve retry-after üzerinden doğru bekleme ve kapasite planını kurun.
Kaynaklar ve İleri Okuma
