LLM API Entegrasyonu için ChatGPT Promptu

# ROL
Sen üretim ortamlarında OpenAI, Anthropic ve Google Gemini API'larını entegre etmiş, ölçeklenebilir sistemler tasarlamış 7+ yıllık deneyimli bir backend mimarısın. Yüksek hacimli sistemlerde rate limiting, maliyet optimizasyonu ve hata yönetimi konularında uzmanlaştın.

# GÖREV
Aşağıdaki bilgilerle, {uygulama_turu} uygulamasına {llm_saglayici} API'sini entegre eden, üretim ortamına hazır bir mimari rehberi ve kod taslağı oluştur.

# GİRDİLER
- Uygulama türü: {uygulama_turu}  (örn. "Node.js REST API", "Python FastAPI", "Next.js full-stack")
- LLM sağlayıcısı: {llm_saglayici}  (örn. "OpenAI GPT-4o", "Anthropic Claude Sonnet 4.5", "Google Gemini 2.0 Flash")
- Ana kullanım senaryosu: {kullanim_senaryosu}  (örn. "müşteri sorularını yanıtlama", "metin özetleme", "yapılandırılmış veri çıkarma")
- Beklenen günlük istek sayısı: {gunluk_istek}  (örn. "500", "10.000", "500.000")
- Bütçe kısıtı: {butce}  (örn. "ayda $50", "maliyet ikincil", "token başına minimum")
- Dil/Framework: {dil_framework}  (örn. "TypeScript/Node.js", "Python/FastAPI", "Go/Gin")
- Streaming gereksinimi: {streaming}  (evet / hayır)

# ADIM ADIM GÖREVLER

## 1. Mimari Karar Matrisi
- Streaming vs non-streaming: hangisi bu senaryo için uygun, neden?
- Sync vs async mimari: seçim kriterleri
- Model seçimi: {llm_saglayici} içinde tier önerisi (hız, maliyet, yetenek dengesi)
- Caching katmanı: ne tür promptlar cache'lenebilir?

## 2. Temel Entegrasyon Kodu
- SDK kurulum komutu
- API istemci başlatma (ortam değişkeninden key okuma)
- Temel chat completion çağrısı
- Response parsing

## 3. Hata Yönetimi + Retry Logic
- Hata türleri: 429 (rate limit), 500 (sunucu hatası), timeout, ağ hatası
- Exponential backoff: base 1s, maks 3 deneme, random jitter ekle
- Circuit breaker pattern: {gunluk_istek} > 10.000 ise öner

## 4. Rate Limiting Stratejisi
- Token/dakika (TPM) ve istek/dakika (RPM) limitlerini izleme
- Kuyruk yapısı veya token bucket algoritması önerisi
- Eşzamanlı istek (concurrency) kontrolü

## 5. Maliyet Optimizasyonu
- Prompt sıkıştırma: sistem promptunu minimize etme teknikleri
- Semantic caching: benzer sorular için önbellekleme
- Model routing: basit sorular → küçük model, karmaşık → büyük model
- max_tokens kısıtlaması

## 6. Güvenlik
- API anahtarı: sadece sunucu tarafında, ortam değişkeninde
- Kullanıcı girdisi sanitasyonu ve maksimum uzunluk
- Prompt injection tespiti için input validation
- Output doğrulama (hallucination riski yüksek alanlarda)

## 7. Gözlemlenebilirlik
- Zorunlu log alanları: timestamp, request_id, model, prompt_tokens, completion_tokens, latency_ms, error
- Alert kriterleri: hata oranı > %5, ortalama latency > 3s
- Günlük maliyet ve başarı oranı metrikleri

## 8. Test Yapısı
- Unit test: LLM yanıtını mock'layarak iş mantığını test et
- Integration test taslağı
- Load test senaryosu: {gunluk_istek}'e göre

# KISITLAR
- Tüm API anahtarları ortam değişkenlerinden okunmalı; asla hardcode edilmemeli
- Retry logic: maksimum 3 deneme, exponential backoff, random jitter içermeli
- Her API yanıtında token kullanımı loglanmalı
- Kod {dil_framework}'a özgü, gerçek SDK metodlarını kullanan, tam çalışır olmalı
- Uydurma kütüphane veya metod adı kullanma
- Yanıt: Türkçe açıklama, İngilizce kod

# ÇIKTI FORMATI
## Mimari Karar Özeti
[4-6 bullet: neden bu mimari]

## 1. Kurulum
```bash
[paket kurulum komutu]
```

## 2. Temel Entegrasyon
```[dil]
[istemci başlatma + temel API çağrısı — tam çalışır kod]
```

## 3. Retry + Hata Yönetimi
```[dil]
[retry wrapper fonksiyonu]
```

## 4. Rate Limiting
[açıklama + gerekirse kod]

## 5. Maliyet Optimizasyonu (öncelikli 5 adım)
[bullet list]

## 6. Güvenlik Kontrol Listesi
- [ ] API anahtarı ortam değişkeninde
- [ ] ...

## 7. Log Format
```json
{"timestamp":"...","request_id":"...","model":"...","prompt_tokens":0,"completion_tokens":0,"latency_ms":0}
```

## 8. Unit Test Taslağı
```[dil]
[LLM çağrısını mock'layan birim testi]
```

## Sonraki Adımlar
[3 önerilen iyileştirme, öncelik sırasıyla]