Rehber
AI gateway nedir?
AI gateway (yapay zekâ ağ geçidi), kullanıcılar, uygulamalar ve yapay zekâ ajanlarıyla ChatGPT, Claude veya Gemini gibi büyük dil modelleri (LLM) arasına konan ve aradaki trafiği denetleyen katmandır. Modele hangi verinin gideceğine, hangi modelin kullanılacağına ve modelden ya da ajandan gelen hangi isteğin sizin sistemlerinizde uygulanacağına bu katmanda karar verilir.
AI gateway neden gerekli?
Yapay zekâ araçları birkaç ayda günlük işin parçası oldu; veriyi koruma alışkanlıkları ise bu hıza yetişemedi. Bir sözleşmeyi, müşteri tablosunu, sağlık raporunu ya da kaynak kodu bir sohbet penceresine yapıştırdığınızda bu veri kontrolünüzden çıkar ve çoğu zaman yurt dışındaki bir servise gider. Ajanlar bu tabloya yeni bir boyut ekler: artık model yalnızca okumaz, dosya değiştirir, komut çalıştırır, canlı ortama yayın yapabilir. AI gateway bu iki yönü tek bir noktada görünür ve denetlenebilir hâle getirir.
AI gateway ne yapar?
- Bağlamı sınırlar: Görev için gereken bilgiyi ayırır; belgenin, veritabanının ya da kod deposunun tamamı yerine yalnızca gerekli parça modele gider.
- Hassas veriyi ayıklar: Kişisel veri, müşteri bilgisi veya ticari sır gibi içerikleri modele gitmeden önce maskeleyebilir ya da durdurabilir.
- Ajan eylemlerini denetler: Ajanın talep ettiği okuma, yazma veya yayınlama eylemini görev kapsamıyla karşılaştırır; kapsam dışını reddeder, riskli olanı insan onayına bırakır.
- Kayıt tutar: Hangi verinin hangi modele gittiğini ve hangi eylemin kimin onayıyla uygulandığını izlenebilir kılar.
- Modelleri tek noktadan yönetir: Farklı sağlayıcıların modellerine erişimi, kotaları ve maliyetleri merkezileştirir.
AI gateway, API gateway ve DLP arasındaki fark
| API gateway | DLP | AI gateway | |
|---|---|---|---|
| Neyi denetler? | Servisler arası API çağrılarını | Şirketten çıkan dosya ve veriyi | Modellere giden bağlamı ve ajanlardan gelen eylemleri |
| Temel soru | Bu istek yetkili mi, limit içinde mi? | Bu veri dışarı çıkabilir mi? | Bu görev için model neyi görmeli, ajan neyi yapabilmeli? |
| İçeriği anlar mı? | Hayır, isteği yönlendirir | Kalıplara göre tanır | Görev ve bağlam düzeyinde değerlendirir |
| Yön | İki yönlü, içerikten bağımsız | Çoğunlukla dışarı | İki yönlü: bağlam dışarı, eylem içeri |
Kısacası API gateway trafiği yönetir, DLP sızıntıyı yakalamaya çalışır; AI gateway ise yapay zekânın şirket verisiyle ve sistemleriyle kurduğu ilişkinin kendisini denetler.
Ajanlar ve MCP: gateway’in ikinci yönü
Model Context Protocol (MCP) gibi standartlar, yapay zekâ ajanlarının şirket araçlarına ve verisine bağlanmasını kolaylaştırıyor. Bu kolaylık yetki sorununu büyütür: bir ajana verilen her araç, ajanın kullanabileceği bir eylemdir. İyi bir AI gateway yalnızca dışarı giden veriyi değil, içeri gelen eylemi de denetler. Örneğin bir ödeme hatasını araştıran ajan ödeme kayıtlarını okuyabilir, ancak oturum yönetimi kodunu değiştirmesi görev dışıdır ve canlıya yayın insan onayı gerektirir.
AI gateway seçerken sorulacak sorular
- Modele giden veriyi görev düzeyinde sınırlayabiliyor mu, yoksa yalnızca anahtar kelime mi arıyor?
- Ajan eylemleri için izin, ret ve insan onayı ayrımı yapabiliyor mu?
- Birden fazla model sağlayıcısıyla çalışabiliyor mu?
- Hangi verinin nereye gittiğini denetim için kaydediyor mu?
- KVKK açısından veri minimizasyonunu ve yurt dışına aktarımı azaltmayı destekliyor mu?
Derbent AI bu tabloda nerede durur?
Derbent AI; bireyler, ekipler ve şirketler için iki yönlü bir AI gateway olarak tasarlanıyor: sizden modellere yalnızca minimum gerekli bağlam çıkar, ajanlardan size yalnızca doğrulanmış eylem girer. Platform henüz genel erişime açık değildir; nasıl çalıştığını ana sayfadaki örneklerde görebilirsiniz.