Rehber
Gölge yapay zekâ nedir?
Gölge yapay zekâ (shadow AI), çalışanların şirketin onaylamadığı, görmediği ya da denetleyemediği yapay zekâ araçlarını iş için kullanmasıdır. Kişisel bir ChatGPT hesabına yapıştırılan müşteri listesi, ücretsiz bir çeviri aracına yüklenen sözleşme veya izinsiz kurulan bir kod asistanı bunun tipik örnekleridir.
Gölge yapay zekâ neden ortaya çıkar?
Çünkü yapay zekâ gerçekten işe yarıyor. Çalışanlar rapor yazmayı, kod hatası ayıklamayı ve e-posta taslağı hazırlamayı hızlandıran araçları kendileri buluyor. Şirketin resmî bir seçeneği yoksa ya da resmî seçenek yavaş ve kısıtlıysa, insanlar tarayıcıdaki en yakın aracı kullanır. Gölge yapay zekâ çoğu zaman kötü niyetten değil, iş yapma isteğinden doğar.
Riskler
- Veri sızıntısı: Müşteri bilgileri, finansal tablolar, kaynak kod ve stratejik belgeler şirketin dışındaki bir servise gider. Şirket, verinin nerede saklandığını ve nasıl kullanıldığını bilemez.
- KVKK ve yurt dışına aktarım: Kişisel veri içeren bir metni yurt dışındaki bir yapay zekâ servisine göndermek, 6698 sayılı Kanun kapsamında kişisel verinin işlenmesi ve aktarılması anlamına gelebilir. Veri sorumlusu olan şirket, bu işlemden haberdar olmasa bile sorumluluk taşır.
- Görünürlük kaybı: Hangi ekibin hangi aracı hangi veriyle kullandığı bilinmediğinde risk ölçülemez, olay olduğunda iz sürülemez.
- Denetimsiz ajanlar: Kod depolarına, e-postaya veya bulut hesaplarına bağlanan ajanlar, kimse fark etmeden geniş yetkilerle çalışabilir.
Yasaklamak neden işe yaramaz?
Yapay zekâ araçlarını tamamen engellemek kısa vadede güvenli görünür, ancak kullanımı kişisel cihazlara ve hesaplara iter. Sonuçta şirket hem verimlilikten vazgeçer hem de görünürlüğü daha da kaybeder. Daha sürdürülebilir yol, yapay zekâyı güvenli bir kanaldan sunmak ve o kanalı denetlemektir.
Gölge yapay zekâ nasıl kontrol altına alınır?
- Envanter çıkarın: Hangi araçların, hangi ekipler tarafından, hangi veriyle kullanıldığını öğrenin.
- Veriyi sınıflandırın: Hangi bilginin dışarı hiç çıkmaması, hangisinin sınırlı biçimde paylaşılabileceğini belirleyin.
- Onaylı bir kanal sunun: Çalışanların ihtiyaç duyduğu modellere güvenli bir yoldan erişmesini sağlayın; aksi hâlde gölge kullanım sürer.
- Bağlamı sınırlayın: Modele belgenin tamamı yerine görev için gereken minimum bilginin gitmesini sağlayan bir katman (AI gateway) kullanın.
- Ajan yetkilerini daraltın: Ajanların yalnızca görevin gerektirdiği eylemleri yapabilmesini, riskli eylemlerin insan onayı beklemesini sağlayın.
- Politikayı yazın ve anlatın: Kuralların neden var olduğunu açıklayan kısa, anlaşılır bir kullanım politikası hazırlayın.
Derbent AI’ın yaklaşımı
Derbent AI, yapay zekâyı yasaklamak yerine verinizle modeller arasına kontrollü bir sınır koyar: belgeler içeride kalır, modellere yalnızca sınırlı ve ilgili sorular gider; ajanların eylemleri görev kapsamına göre denetlenir. Platform henüz genel erişime açık değildir; yaklaşımı ana sayfada adım adım görebilirsiniz.