# AI Gateway ve Yapay Zekâ Güvenlik Mimarisi: Prompt Firewall, DLP ve Agent Kontrolü **URL:** https://securesys.com.tr/tr/bilgi-merkezi/yazilim-ve-yapay-zeka-guvenligi/ai-gateway-yapay-zeka-guvenlik-mimarisi ![AI Gateway ve Yapay Zekâ Güvenlik Mimarisi: Prompt Firewall, DLP ve Agent Kontrolü](/images/bilgi-merkezi/covers/cover-yzguv-11.webp) ### Giriş: Kurumsal Yapay Zekâ Kullanımı Nasıl Kontrol Altına Alınabilir? Yapay zekâ teknolojileri artık yalnızca yazılım geliştirme ekiplerinin kullandığı araçlar değil. Satış ekipleri müşteri yazışmalarını hazırlamak için yapay zekâ kullanıyor. İnsan kaynakları departmanları özgeçmişleri analiz ediyor. Finans ekipleri raporlarını yorumlatıyor. Hukuk departmanları sözleşmeleri inceliyor. Yazılım geliştiriciler kaynak kodlarını yapay zekâ asistanlarına gönderiyor. Siber güvenlik ekipleri olay analizlerinde büyük dil modellerinden yararlanıyor. Bu kullanım alanları önemli verimlilik avantajları sağlayabilir. Ancak kurumların karşısına yeni güvenlik soruları çıkarır. Çalışanlar hangi yapay zekâ servislerini kullanıyor? Hangi veriler dış sistemlere aktarılıyor? Kişisel veriler ve ticari sırlar korunuyor mu? Yapay zekâ uygulamaları hangi kurumsal sistemlere erişebiliyor? AI Agent'lar kullanıcı adına hangi işlemleri gerçekleştirebiliyor? Kritik işlemler için onay mekanizmaları bulunuyor mu? Şüpheli yapay zekâ kullanımı güvenlik operasyonları tarafından izlenebiliyor mu? Bu soruların cevaplanması yalnızca çalışanlara yapay zekâ kullanım politikası göndermekle mümkün değildir. Politikaların teknik kontrollerle desteklenmesi gerekir. İşte bu noktada **AI Gateway**, kurumsal yapay zekâ güvenlik mimarisinin önemli bileşenlerinden biri olarak öne çıkar. AI Gateway; yapay zekâ uygulamaları, kullanıcılar, model sağlayıcıları ve bazı durumlarda araç entegrasyonları arasındaki iletişimin merkezi politikalarla yönetilmesine yardımcı olan kontrol katmanıdır. Ancak önemli bir ayrım vardır: **AI Gateway kullanmak, bütün yapay zekâ güvenlik risklerinin otomatik olarak ortadan kalktığı anlamına gelmez.** Etkili bir güvenlik mimarisi için AI Gateway'in kimlik yönetimi, veri koruma, uygulama yetkilendirmesi, izleme ve olay müdahale süreçleriyle birlikte çalışması gerekir. Bu makalede kurumsal AI Gateway mimarisini, güvenlik bileşenlerini ve uygulama yöntemlerini ayrıntılı olarak inceleyeceğiz. ### \1. AI Gateway Nedir? AI Gateway, yapay zekâ uygulamaları ile model servisleri arasındaki iletişimi yöneten ve belirlenen politikaları uygulayan merkezi yazılım veya güvenlik katmanıdır. Kullanım amacına göre farklı işlevler sunabilir. Örneğin: - Model erişim yönetimi. - Kullanıcı ve uygulama bazlı politika uygulama. - Prompt ve yanıt inceleme. - Hassas veri tespiti. - Veri maskeleme. - Model yönlendirme. - Kullanım kotası. - İşlem kayıtları. - Güvenlik izleme. - Araç çağrısı kontrolü. Bütün AI Gateway ürünleri bu yeteneklerin tamamını sunmaz. Bazıları yalnızca model API trafiğini yönlendirir. Bazıları maliyet ve performans yönetimine odaklanır. Bazıları ise güvenlik politikaları ve veri koruma özellikleri sunar. Bu nedenle kurumsal AI Gateway seçiminde ürünün gerçek yetenekleri teknik olarak doğrulanmalıdır. ### \2. AI Gateway Neden Gereklidir? Geleneksel kurumsal güvenlik mimarisinde farklı kontrol noktaları bulunur. Firewall ağ trafiğini kontrol eder. WAF web uygulamalarını korumaya yardımcı olur. DLP hassas verilerin yetkisiz aktarımını azaltmayı hedefler. IAM kullanıcı ve servis kimliklerini yönetir. SIEM güvenlik olaylarının izlenmesini destekler. Yapay zekâ sistemleri ise bu kontrol noktalarının tamamıyla ilişkili yeni veri ve işlem akışları oluşturur. Örneğin bir çalışan müşteri sözleşmesini harici bir LLM servisine gönderebilir. Bir yazılım geliştirici özel kaynak kodunu AI kod asistanına aktarabilir. Bir AI Agent kurumsal CRM üzerinden müşteri kayıtlarını sorgulayabilir. Bu işlemlerin her biri farklı güvenlik kontrolleri gerektirir. AI Gateway, uygun entegrasyonlarla yapay zekâ iletişiminin belirli bölümlerini merkezi olarak yönetmeye yardımcı olabilir. Ancak görünürlük, trafiğin gerçekten kontrol katmanından geçmesine bağlıdır. Doğrudan internete çıkan veya Gateway'i kullanmayan uygulamaların trafiği otomatik olarak denetlenemez. ### \3. Geleneksel API Gateway ile AI Gateway Arasındaki Fark API Gateway, uygulamalar arasındaki API iletişimini yönetmek için kullanılır. AI Gateway ise yapay zekâ kullanımına özgü ek kontroller sağlayabilir. | Özellik | API Gateway | AI Gateway | | --- | --- | --- | | API yönlendirme | Temel işlev | Genellikle mevcut | | Authentication | Desteklenebilir | Desteklenebilir | | Rate limiting | Desteklenebilir | Desteklenebilir | | Model seçimi ve yönlendirme | Özel geliştirme gerekebilir | Yaygın kullanım alanı | | Prompt analizi | Genellikle yerleşik değildir | Güvenlik odaklı ürünlerde bulunabilir | | Hassas veri maskeleme | Ek entegrasyon gerekebilir | Bazı ürünlerde bulunabilir | | LLM yanıt analizi | Genellikle yerleşik değildir | Bazı ürünlerde bulunabilir | | Token ve model maliyeti izleme | Özel entegrasyon gerekebilir | Yaygın kullanım alanı | | Agent araç politikaları | Özel entegrasyon gerekebilir | Gelişmiş çözümlerde bulunabilir | Bu karşılaştırma genel ürün kategorilerini açıklamaktadır. Gerçek yetenekler kullanılan çözüme göre değişebilir. ### \4. Kurumsal AI Gateway Mimarisi Tipik bir kurumsal AI Gateway mimarisinde kullanıcılar ve uygulamalar doğrudan model sağlayıcısına erişmek yerine merkezi kontrol katmanı üzerinden iletişim kurabilir. #### Örnek mimari KURUMSAL KULLANICILAR | v Uygulamalar / AI Agent | v AI GATEWAY | +---------------+---------------+ | | | v v v Kimlik ve Prompt / Veri Politika ve Yetki Kontrolü Güvenliği Denetim | | | +---------------+---------------+ | v Model Yönlendirme | +------------+------------+ | | | v v v Bulut LLM Özel Model On-Prem LLM | | | +------------+------------+ | v Yanıt Güvenlik Kontrolü | v Uygulama Bu mimari bir referans örneğidir. Agent araç çağrıları, MCP entegrasyonları ve kurumsal veri erişimleri için ek kontrol noktaları gerekebilir. ### \5. AI Gateway Mimarisinde Güven Sınırları Yapay zekâ güvenlik mimarisinin temel konularından biri güven sınırlarının doğru tanımlanmasıdır. Bir kullanıcıdan gelen talep ile modelin ürettiği cevap aynı güven düzeyine sahip değildir. Benzer şekilde bir PDF içerisindeki metin ile sistem yöneticisinin tanımladığı politika aynı yetkiye sahip olmamalıdır. #### Temel güven sınırları Kullanıcı ile uygulama. Uygulama ile AI Gateway. AI Gateway ile model sağlayıcısı. Model ile RAG veri kaynağı. Agent ile araçlar. Araçlar ile kurumsal sistemler. Bu sınırların her birinde farklı güvenlik kontrolleri uygulanmalıdır. Örneğin AI Gateway, Prompt Injection şüphesi taşıyan içeriği tespit edebilir. Ancak Agent'ın CRM kaydını değiştirmeye yetkili olup olmadığı güvenilir uygulama veya araç katmanında ayrıca kontrol edilmelidir. ### \6. Prompt Firewall Nedir? Prompt Firewall, yapay zekâ sistemlerine gönderilen veya sistemler tarafından işlenen içeriklerdeki belirli güvenlik risklerini tespit etmek, sınıflandırmak ya da engellemek amacıyla kullanılan kontrol mekanizmasıdır. Bu kontroller farklı yöntemlerle uygulanabilir. Kural tabanlı analiz. İçerik sınıflandırma. Güvenlik modeli kullanımı. Bağlamsal politika değerlendirmesi. Anomali analizi. #### Tespit edilmeye çalışılabilecek riskler Prompt Injection. Jailbreak girişimleri. Hassas veri içeren girdiler. Yetkisiz işlem talepleri. Politika dışı kullanım. Ancak Prompt Firewall'un bütün manipülasyon girişimlerini kesin olarak engellemesi beklenmemelidir. Doğal dilin esnek yapısı ve saldırı varyasyonlarının çeşitliliği nedeniyle yanlış pozitif ve yanlış negatif sonuçlar oluşabilir. ### \7. Prompt Firewall Nasıl Çalışır? Prompt Firewall farklı aşamalarda kontrol uygulayabilir. #### Girdi kontrolü Kullanıcının gönderdiği içerik değerlendirilir. #### Bağlam kontrolü RAG veya harici araçlardan gelen içerikler incelenebilir. #### Politika değerlendirmesi Talebin kullanıcı, uygulama ve veri sınıflandırması açısından uygunluğu değerlendirilir. #### Karar İşleme izin verilebilir. İçerik maskelenebilir. Talep engellenebilir. Ek onay istenebilir. Olay inceleme için kaydedilebilir. #### Çıktı kontrolü Modelin cevabı hassas veri veya politika ihlali açısından değerlendirilebilir. Bu kontrollerin hangi aşamalarda uygulanabileceği ürünün mimarisine bağlıdır. ### \8. Prompt Injection Korumasında Katmanlı Güvenlik Prompt Injection saldırılarına karşı yalnızca Prompt Firewall kullanmak yeterli olmayabilir. Çünkü model, güvenilmeyen içerikleri beklenmeyen biçimde yorumlayabilir. Bu nedenle farklı katmanlarda kontroller uygulanmalıdır. #### Uygulama katmanı Kullanıcı kimliği doğrulanmalıdır. İşlem yetkileri kontrol edilmelidir. #### Veri katmanı RAG dokümanlarına erişim sınırlandırılmalıdır. Güvenilmeyen içerikler uygun biçimde işaretlenmelidir. #### Model iletişim katmanı Prompt güvenlik kontrolleri uygulanabilir. #### Araç katmanı Tool Calling yetkileri bağımsız olarak doğrulanmalıdır. #### Operasyon katmanı Şüpheli olaylar izlenmelidir. Bu yaklaşım savunmanın tek bir modele veya tek bir filtreye bağımlı olmasını önlemeye yardımcı olur. ### \9. AI DLP Nedir? AI DLP, yapay zekâ kullanımında hassas verilerin yetkisiz veya uygunsuz biçimde paylaşılmasını azaltmaya yönelik veri kaybı önleme kontrollerini ifade eder. Geleneksel DLP sistemleri dosya, e-posta, ağ veya uç nokta trafiğini değerlendirebilir. AI DLP ise yapay zekâ uygulamalarına gönderilen içeriklere ve bazı durumlarda model yanıtlarına odaklanabilir. #### Korunması gereken veri türleri Kişisel veriler. Müşteri kayıtları. Finansal bilgiler. Ticari sırlar. Kaynak kod. Sözleşmeler. Kimlik bilgileri. API anahtarları. Kurumsal strateji belgeleri. #### Örnek Bir çalışan müşteri listesi içeren dokümanı harici bir yapay zekâ servisine göndermek isteyebilir. AI DLP kontrolü bu aktarımı belirlenen veri sınıflandırma politikasına göre değerlendirebilir. ### \10. AI DLP ile Geleneksel DLP Arasındaki Fark AI DLP, geleneksel veri koruma kontrollerinin yerini almak zorunda değildir. Çoğu kurum için tamamlayıcı bir katman olarak değerlendirilmelidir. Örneğin geleneksel DLP, dosyanın harici bir web servisine yüklenmesini kontrol edebilir. AI DLP ise belirli bir LLM isteğindeki hassas içerikleri değerlendirebilir. Ancak AI DLP'nin etkili olabilmesi için kullanılan yapay zekâ kanallarında görünürlük sağlanmalıdır. Kontrol edilmeyen uygulamalar ve doğrudan API bağlantıları görünürlük boşluğu oluşturabilir. Bu nedenle kurumsal veri güvenliği mimarisinde uç nokta, ağ, uygulama ve AI Gateway kontrolleri birlikte değerlendirilmelidir. ### \11. Yapay Zekâda Veri Maskeleme Veri maskeleme, hassas bilgilerin belirli kullanım senaryolarında gizlenmesini veya dönüştürülmesini amaçlar. Örneğin bir müşteri destek uygulamasında kullanıcı adı veya kimlik numarası model servisine gönderilmeden önce maskelenebilir. #### Örnek **Orijinal içerik:** “Müşteri Ayşe Yılmaz'ın 12345678901 numaralı kimlik kaydıyla ilgili talebi özetle.” **Maskelenmiş içerik:** “Müşteri [KİŞİ_1] için [KİMLİK_NO_1] kaydıyla ilgili talebi özetle.” Bu yaklaşım modelin bazı görevleri gerçek kişisel veriyi görmeden gerçekleştirmesine yardımcı olabilir. Ancak maskelemenin uygunluğu göreve bağlıdır. Örneğin bazı analizler gerçek veriye ihtiyaç duyabilir. Bu nedenle veri minimizasyonu ve maskeleme politikaları iş sürecine göre tasarlanmalıdır. ### \12. Tokenization ve Pseudonymization AI Gateway mimarisinde veri maskeleme dışında farklı dönüşüm yöntemleri kullanılabilir. #### Tokenization Hassas veri yerine kontrollü bir token kullanılabilir. Gerçek veri ile token arasındaki eşleştirme güvenli sistemde tutulabilir. #### Pseudonymization Kişiyi doğrudan tanımlayan bilgiler uygun yöntemlerle takma tanımlayıcılara dönüştürülebilir. Ancak takma adlandırılmış veriler, ilgili kişi yeniden belirlenebiliyorsa kişisel veri niteliğini koruyabilir. #### Güvenlik gereksinimleri Eşleştirme kayıtları korunmalıdır. Anahtar yönetimi güvenli olmalıdır. Yetkisiz yeniden tanımlama engellenmelidir. Loglarda hassas veri tutulmamalıdır. Bu kontroller AI DLP mimarisinin veri koruma boyutunu destekler. ### \13. Shadow AI Nedir? Shadow AI, kurumun bilgisi, onayı veya yönetimi dışında kullanılan yapay zekâ araçlarını ve servislerini ifade eder. Örneğin çalışanlar iş süreçlerini hızlandırmak için ücretsiz yapay zekâ servisleri kullanabilir. Bu kullanım her zaman kötü niyetli değildir. Ancak kurumsal güvenlik açısından görünürlük ve kontrol problemi oluşturabilir. #### Shadow AI riskleri Hassas veri aktarımı. Kontrolsüz SaaS kullanımı. Kurumsal hesap dışı erişimler. Denetim kayıtlarının bulunmaması. Veri saklama koşullarının bilinmemesi. Kurumsal politikalara uyumsuzluk. #### Önemli ayrım Shadow AI kullanımının tespit edilmesi ile bu kullanımın kontrol edilmesi farklı yeteneklerdir. AI Gateway yalnızca üzerinden geçen trafiği doğrudan denetleyebilir. Gateway dışındaki kullanımlar için farklı görünürlük mekanizmaları gerekebilir. ### \14. Shadow AI Nasıl Yönetilir? Shadow AI yönetimi yalnızca yasaklama yaklaşımına dayanmamalıdır. Çalışanların neden belirli araçları kullandığı anlaşılmalıdır. Kurumsal ihtiyaçlara uygun güvenli alternatifler sunulmalıdır. #### Yönetim yaklaşımı Onaylı yapay zekâ servisleri belirlenmelidir. Kullanım politikaları oluşturulmalıdır. Veri sınıflandırması uygulanmalıdır. Kurumsal kimlik yönetimi kullanılmalıdır. Uç nokta ve ağ görünürlüğü değerlendirilmelidir. Uygun AI Gateway entegrasyonları sağlanmalıdır. Çalışanlara farkındalık eğitimi verilmelidir. Bu yaklaşım kontrolsüz kullanımı azaltırken yapay zekâdan elde edilen verimlilik avantajlarının korunmasına yardımcı olabilir. ### \15. AI Access Control Nedir? AI Access Control, kullanıcıların ve uygulamaların hangi yapay zekâ servislerine, modellere ve işlemlere erişebileceğini belirleyen yetkilendirme yaklaşımıdır. Örneğin bütün çalışanların aynı model servislerine erişmesi gerekmeyebilir. Bazı departmanlar yalnızca onaylı modelleri kullanabilir. Bazı uygulamalar belirli veri sınıflarını işleyebilir. Bazı Agent sistemleri yalnızca okuma yetkisine sahip olabilir. #### Kontrol alanları Kullanıcı kimliği. Departman. Uygulama. Model sağlayıcısı. Veri sınıflandırması. İşlem türü. Araç yetkisi. Bu bilgiler kullanılarak daha ayrıntılı erişim politikaları oluşturulabilir. ### \16. RBAC ve ABAC ile Yapay Zekâ Yetkilendirmesi RBAC, Role-Based Access Control yaklaşımını ifade eder. Yetkiler kullanıcı rollerine göre tanımlanır. ABAC ise Attribute-Based Access Control yaklaşımıdır. Yetkilendirme kararlarında kullanıcı, kaynak, işlem ve ortam özellikleri kullanılabilir. #### Örnek RBAC politikası İnsan kaynakları çalışanları yalnızca yetkili oldukları personel verilerine erişebilir. Satış ekibi yalnızca ilgili müşteri kayıtlarını görüntüleyebilir. Finans ekibi belirli raporları sorgulayabilir. #### Örnek ABAC politikası Kullanıcının departmanı, veri sınıflandırması ve işlem türü birlikte değerlendirilir. Hassas veri içeren bir talep yalnızca belirli koşullarda işlenebilir. #### Kritik prensip Yetkilendirme kararı yalnızca LLM'nin yorumuna bırakılmamalıdır. Güvenilir uygulama ve veri erişim katmanlarında uygulanmalıdır. ### \17. AI Agent Güvenliğinde Gateway'in Rolü AI Agent sistemleri farklı araçlarla etkileşebilir. Bu araçlar kurumsal verileri okuyabilir veya sistemlerde değişiklik yapabilir. AI Gateway, uygun mimaride Agent iletişiminin belirli bölümlerini denetleyebilir. #### Kontrol alanları Model erişimleri. Prompt güvenliği. Hassas veri aktarımı. Araç çağrısı politikaları. İşlem kayıtları. Onay akışları. Ancak Agent güvenliği yalnızca Gateway ile sağlanmamalıdır. Araçların kendisi de güvenli kimlik doğrulama ve yetkilendirme uygulamalıdır. ### \18. Tool Calling Security Tool Calling, yapay zekâ modelinin tanımlı araçları kullanarak işlem gerçekleştirmesine imkân verir. Örneğin: CRM sorgulama. E-posta gönderme. Takvim oluşturma. Dosya okuma. Rapor hazırlama. Destek talebi açma. #### Güvenlik problemi Bir modelin araç çağrısı oluşturabilmesi, o işlemi gerçekleştirmeye yetkili olduğu anlamına gelmez. #### Güvenli yaklaşım Araçlar izin listesiyle yönetilmelidir. Parametreler doğrulanmalıdır. Kullanıcı yetkileri kontrol edilmelidir. Kritik işlemler onay gerektirmelidir. İşlem kayıtları tutulmalıdır. Bu kontroller AI Gateway ile uygulama katmanı arasında koordineli çalışmalıdır. ### \19. MCP Güvenliği ve AI Gateway MCP, Model Context Protocol ifadesinin kısaltmasıdır. Yapay zekâ uygulamalarının araçlara ve veri kaynaklarına bağlanması için standartlaştırılmış iletişim yaklaşımı sunar. MCP sunucuları farklı kurumsal sistemlerle bağlantı kurabilir. Bu nedenle güvenlik değerlendirmesi önemlidir. #### Riskler Güvenilmeyen MCP sunucuları. Aşırı araç yetkileri. Hassas veri erişimi. Manipüle edilmiş araç açıklamaları. Güvenilmeyen araç çıktıları. Üçüncü taraf entegrasyon riskleri. #### Güvenlik yaklaşımı MCP sunucuları envantere alınmalıdır. Güvenilir kaynaklar kullanılmalıdır. Yetkiler sınırlandırılmalıdır. Araç çağrıları kontrol edilmelidir. Güvenlik kayıtları tutulmalıdır. AI Gateway, mimarisi destekliyorsa MCP veya araç trafiğinde ek politika noktası olarak kullanılabilir. Ancak MCP kullanımı tek başına güvenli yetkilendirme garantisi sağlamaz. ### \20. Human-in-the-Loop Nedir? Human-in-the-Loop, belirli yapay zekâ kararlarının veya işlemlerinin insan değerlendirmesiyle desteklenmesini ifade eder. Özellikle yüksek etkili işlemlerde önemlidir. #### Örnek işlemler Ödeme onayı. Müşteri kaydı silme. Kritik güvenlik cihazında politika değiştirme. Üretim ortamına yazılım dağıtma. Personel kaydı güncelleme. #### Güvenlik yaklaşımı Agent işlemi önerir. Güvenilir sistem işlem detaylarını gösterir. Yetkili kullanıcı işlemi değerlendirir. Onay sonrası işlem gerçekleştirilir. Bu yaklaşımın etkili olması için onayın bağımsız ve güvenilir bir kontrol mekanizmasıyla uygulanması gerekir. Modelin kendi ürettiği “onaylandı” ifadesi yeterli olmamalıdır. ### \21. Kritik İşlemlerde Onay Mekanizması Bir AI Agent'ın finans sistemine bağlı olduğunu düşünelim. Agent ödeme kayıtlarını analiz edebilmektedir. Ancak ödeme oluşturma veya onaylama yetkisi yüksek risklidir. #### Güvenli işlem akışı - Agent işlem önerisi oluşturur. - Uygulama işlem parametrelerini doğrular. - Yetki kontrolü gerçekleştirilir. - Gerekliyse bağımsız onay istenir. - Onay geçerli ise işlem yürütülür. - İşlem kayıt altına alınır. #### Önemli nokta Onay mekanizması, kullanıcının hangi işlemi onayladığını açıkça göstermelidir. Örneğin ödeme tutarı veya alıcı değişirse önceki onay otomatik olarak geçerli kabul edilmemelidir. Bu prensip işlem bütünlüğünün korunmasına yardımcı olur. ### \22. AI Gateway ve Audit Logging Yapay zekâ sistemlerinde denetim kayıtları güvenlik ve yönetişim açısından önemlidir. #### Kaydedilebilecek bilgiler Kullanıcı veya uygulama kimliği. Model sağlayıcısı. Model adı ve sürümü. İşlem zamanı. Politika kararı. Araç çağrısı türü. Onay durumu. Güvenlik olayı. Kaynak tüketimi. #### Veri minimizasyonu Bütün prompt ve yanıt içeriklerinin sınırsız biçimde saklanması doğru yaklaşım olmayabilir. Çünkü bu içerikler hassas veriler barındırabilir. Loglama politikaları veri sınıflandırması, saklama süresi ve erişim yetkileri dikkate alınarak tasarlanmalıdır. ### \23. AI Gateway ve SIEM Entegrasyonu AI Gateway tarafından üretilen güvenlik olayları SIEM sistemleriyle ilişkilendirilebilir. Bu yaklaşım yapay zekâ kullanımının kurumsal güvenlik operasyonları tarafından izlenmesini destekler. #### Örnek olaylar Tekrarlanan Prompt Injection şüphesi. Hassas veri aktarım girişimi. Yetkisiz model erişimi. Anormal API kullanımı. Kritik araç çağrısı. Politika ihlali. #### SOC açısından faydaları Olay korelasyonu. Kullanıcı davranışı analizi. Güvenlik alarmı oluşturma. Olay inceleme. Denetim izlenebilirliği. Ancak güvenlik olaylarının anlamlı olabilmesi için yanlış pozitif oranları ve alarm kalitesi düzenli değerlendirilmelidir. ### \24. AI Gateway ve SOAR Entegrasyonu SOAR sistemleri güvenlik olaylarına yönelik belirli müdahale süreçlerinin otomatikleştirilmesini destekleyebilir. AI Gateway olayları uygun koşullarda SOAR süreçlerine aktarılabilir. #### Örnek Bir kullanıcı hesabından kısa süre içerisinde çok sayıda hassas veri aktarım girişimi tespit edildiğini düşünelim. Olay SIEM üzerinde korelasyona alınabilir. SOAR üzerinden inceleme süreci başlatılabilir. Gerekirse kullanıcı erişimi güvenlik ekibi tarafından değerlendirilebilir. Ancak otomatik müdahale politikaları iş sürekliliği etkileri dikkate alınarak tasarlanmalıdır. Her güvenlik alarmının otomatik hesap kapatma gibi yüksek etkili işlemlere neden olması uygun olmayabilir. ### \25. On-Premises AI Gateway Nedir? On-premises AI Gateway, güvenlik kontrol katmanının kurumun kendi altyapısında çalıştırılmasıdır. Bu yaklaşım özellikle veri kontrolü ve altyapı yönetimi gereksinimleri bulunan kurumlar için değerlendirilebilir. #### Olası avantajlar Kontrol katmanının kurum içinde işletilmesi. Özel ağ politikalarının uygulanabilmesi. Kurumsal log yönetimiyle entegrasyon. Özel model servisleriyle bağlantı. Veri işleme mimarisinin kurum ihtiyaçlarına göre tasarlanabilmesi. #### Önemli sınırlama AI Gateway'in on-premises çalışması, model sağlayıcısına gönderilen verilerin kurum dışına çıkmadığı anlamına gelmez. Harici LLM servisi kullanılıyorsa veri aktarımı devam edebilir. Veri yerleşimi ve aktarım gereksinimleri uçtan uca değerlendirilmelidir. ### \26. Cloud AI Gateway ile On-Premises AI Gateway Karşılaştırması | Kriter | Cloud AI Gateway | On-Premises AI Gateway | | --- | --- | --- | | İşletim modeli | Sağlayıcı tarafından yönetilebilir | Kurum tarafından yönetilir | | İlk kurulum | Genellikle daha hızlı olabilir | Altyapı hazırlığı gerekebilir | | Veri işleme kontrolü | Sağlayıcı mimarisine bağlıdır | Kurum mimarisine göre tasarlanabilir | | Güncelleme yönetimi | Sağlayıcı sorumluluğunda olabilir | Kurum sorumluluğunda olabilir | | Kurumsal entegrasyon | Ürüne göre değişir | Özel entegrasyonlar yapılabilir | | Operasyonel sorumluluk | Paylaşımlı olabilir | Daha yüksek kurum sorumluluğu | Hangi yaklaşımın uygun olduğu kurumun güvenlik, maliyet, operasyon ve mevzuat gereksinimlerine bağlıdır. ### \27. Hybrid AI Gateway Mimarisi Bazı kurumlar hem bulut tabanlı hem de kurum içi yapay zekâ modellerini kullanabilir. Bu durumda hibrit mimari tercih edilebilir. #### Örnek Genel metin üretimi için harici model kullanılabilir. Hassas doküman analizi için kurum içi model tercih edilebilir. AI Gateway, belirlenen politikalara göre istekleri uygun modele yönlendirebilir. #### Politika örneği Genel veri: Onaylı bulut modeli. Kurum içi veri: Yetkili özel model. Yüksek hassasiyetli veri: Kurum içi işleme veya engelleme. Bu politikaların uygulanabilmesi için veri sınıflandırmasının güvenilir biçimde gerçekleştirilmesi gerekir. ### \28. Model Routing ve Güvenlik Model Routing, yapay zekâ taleplerinin farklı modellere yönlendirilmesidir. Bu yönlendirme performans, maliyet veya güvenlik politikalarına göre yapılabilir. #### Güvenlik açısından değerlendirme Model sağlayıcısının veri işleme koşulları. Modelin desteklediği kullanım senaryoları. Veri sınıflandırması. Kullanıcı yetkileri. Coğrafi veri işleme gereksinimleri. #### Örnek Hassas müşteri verisi içeren talep yalnızca onaylı işleme ortamına yönlendirilebilir. Ancak model yönlendirme tek başına veri güvenliği sağlamaz. Hedef ortamın erişim ve veri koruma kontrolleri de doğrulanmalıdır. ### \29. AI Gateway ve Maliyet Kontrolü Yapay zekâ sistemlerinde güvenlik ve maliyet yönetimi birbiriyle ilişkilidir. Özellikle API tabanlı modellerde yoğun kullanım maliyet oluşturabilir. #### Riskler Kontrolsüz API kullanımı. Yetkisiz hesap kullanımı. Aşırı token tüketimi. Agent işlem döngüleri. Kötüye kullanım. #### Kontroller Kullanıcı bazlı kota. Uygulama bazlı bütçe. Rate limiting. Token kullanım izleme. Anomali tespiti. İşlem zaman aşımı. Bu kontroller hem operasyonel sürdürülebilirliği hem de kaynak kötüye kullanımına karşı dayanıklılığı destekler. ### \30. AI Gateway Yüksek Erişilebilirlik AI Gateway merkezi kontrol noktası olarak kullanıldığında erişilebilirlik kritik hale gelebilir. Gateway'in hizmet dışı kalması yapay zekâ uygulamalarının çalışmasını etkileyebilir. #### Değerlendirme alanları High Availability. Load Balancing. Yedekli altyapı. Disaster Recovery. Capacity Planning. Monitoring. #### Fail-Open ve Fail-Closed Güvenlik kontrollerinin erişilemediği durumda sistemin nasıl davranacağı önceden belirlenmelidir. Fail-Open yaklaşımında belirli işlemler kontrol olmadan devam edebilir. Fail-Closed yaklaşımında işlem engellenebilir. Bu karar veri hassasiyeti ve iş sürekliliği gereksinimlerine göre verilmelidir. Örneğin yüksek hassasiyetli veri aktarımında kontrolün devre dışı kalması kabul edilemeyebilir. ### \31. AI Gateway Güvenlik Testleri AI Gateway'in kurulmuş olması yeterli değildir. Kontrollerin etkinliği doğrulanmalıdır. #### Test alanları Prompt Injection tespiti. Jailbreak kontrolü. Hassas veri maskeleme. Yetkisiz model erişimi. Tool Calling politikaları. Onay mekanizmaları. Audit logging. Rate limiting. #### Test yaklaşımı Kontrollü test girdileri hazırlanır. Beklenen politika kararları tanımlanır. Gateway davranışı incelenir. Yanlış pozitif ve yanlış negatif sonuçlar değerlendirilir. Uygulama üzerindeki gerçek güvenlik etkisi ölçülür. Bu çalışmalar AI Red Teaming ve LLM Pentest süreçleriyle birlikte yürütülebilir. ### \32. Örnek Senaryo: Yazılım Geliştirme Ekibi Bir kurumun yazılım geliştiricilerinin yapay zekâ kod asistanları kullandığını düşünelim. Geliştiriciler zaman zaman kaynak kod parçalarını harici modellere gönderebilir. #### Riskler Ticari kaynak kod aktarımı. API anahtarı sızıntısı. Gizli yapılandırma bilgileri. Kontrolsüz model kullanımı. #### Güvenlik yaklaşımı Onaylı model servisleri belirlenmelidir. Kaynak kod sınıflandırması yapılmalıdır. Hassas bilgilerin aktarımı kontrol edilmelidir. Secret detection uygulanmalıdır. Uygun Gateway entegrasyonları değerlendirilmelidir. #### Önemli nokta Kod asistanı trafiğinin tamamı Gateway üzerinden geçmiyorsa ek uç nokta veya uygulama kontrolleri gerekebilir. ### \33. Örnek Senaryo: Finans Departmanı Bir kurumun finans ekibi yapay zekâ destekli rapor analiz sistemi kullanmaktadır. Sistem finansal tabloları yorumlamakta ve özetler üretmektedir. #### Riskler Hassas finansal verilerin harici modele aktarılması. Yanlış veri sınıflandırması. Yetkisiz kullanıcı erişimi. Model çıktılarının hatalı değerlendirilmesi. #### Güvenlik yaklaşımı Finansal veriler sınıflandırılmalıdır. Model erişimleri sınırlandırılmalıdır. Hassas veri politikaları uygulanmalıdır. Kritik finansal kararlar bağımsız kontrollerle doğrulanmalıdır. AI Gateway uygun mimaride veri aktarım kontrollerini destekleyebilir. ### \34. Örnek Senaryo: Otonom AI Agent Bir kurumun yapay zekâ ajanı CRM, e-posta ve doküman yönetim sistemlerine bağlıdır. Agent müşteri taleplerini analiz edebilmekte ve belirli işlemler gerçekleştirebilmektedir. #### Riskler Aşırı yetkilendirme. Manipüle edilmiş e-posta içeriği. Yetkisiz müşteri kaydı değişikliği. Hassas veri aktarımı. Kritik işlemlerin onaysız yapılması. #### Güvenlik yaklaşımı Agent araçları envantere alınmalıdır. Yetkiler sınırlandırılmalıdır. Harici içerikler güvenilmeyen veri olarak değerlendirilmelidir. Kritik işlemler onay gerektirmelidir. İşlem kayıtları tutulmalıdır. AI Gateway, uygun entegrasyonlarla ek kontrol ve görünürlük katmanı sağlayabilir. ### \35. Bastiyon AI Gateway: SECURESYS Yaklaşımı SECURESYS'in yapay zekâ güvenliği yaklaşımında **Bastiyon AI Gateway**, kurumsal yapay zekâ kullanımının merkezi politikalarla yönetilmesine yönelik çözüm mimarisi olarak konumlandırılmaktadır. Kurumsal ihtiyaçlara göre değerlendirilebilecek başlıca güvenlik alanları şunlardır: #### Prompt Security Prompt Injection ve Jailbreak risklerine yönelik kontrol mekanizmaları. #### AI DLP Hassas veri tespiti, veri sınıflandırması ve uygun maskeleme politikaları. #### Shadow AI Governance Kontrolsüz yapay zekâ kullanımının görünürlük ve politika ihtiyaçları açısından değerlendirilmesi. #### Agent ve Tool Calling Governance AI Agent araç çağrılarının ve işlem yetkilerinin kontrol edilmesi. #### Approval Workflow Kritik işlemler için onay mekanizmalarının uygulanması. #### Audit ve Monitoring Yapay zekâ kullanımına ilişkin güvenlik olaylarının ve işlem kayıtlarının izlenmesi. #### On-Premises Deployment Kurumsal altyapıda çalıştırılabilecek mimari seçeneklerinin değerlendirilmesi. Bu alanların gerçek uygulama kapsamı ürün sürümüne, entegrasyonlara ve proje ihtiyaçlarına göre teknik olarak doğrulanmalıdır. Bastiyon AI Gateway yaklaşımında temel hedef, yapay zekâ kullanımını tamamen sınırlandırmak değildir. Kurumların yapay zekâdan elde ettiği faydayı korurken veri güvenliği, işlem yetkilendirmesi ve denetlenebilirliği güçlendirmektir. **Yapay zekâ güvenliği, yalnızca modelin ne söylediğini kontrol etmek değil; hangi veriye eriştiğini, hangi sistemi kullandığını ve hangi işlemi gerçekleştirdiğini de yönetmektir.** ### \36. Kurumsal AI Gateway Seçim Kriterleri AI Gateway çözümü seçilirken yalnızca ürünün sunduğu özellik listesi değerlendirilmemelidir. Gerçek kurumsal mimariyle uyumluluk da incelenmelidir. #### Teknik kriterler Desteklenen model sağlayıcıları. On-premises model desteği. API uyumluluğu. RAG entegrasyonları. Agent ve Tool Calling kontrolü. MCP entegrasyonları. Kimlik yönetimi. SIEM entegrasyonu. #### Güvenlik kriterleri Prompt Injection kontrolleri. Hassas veri tespiti. Maskeleme. Erişim politikaları. Denetim kayıtları. Veri saklama politikaları. #### Operasyonel kriterler Yüksek erişilebilirlik. Performans. Ölçeklenebilirlik. Yönetim kolaylığı. Güncelleme süreçleri. Destek modeli. #### Ticari kriterler Lisanslama modeli. Kullanım bazlı maliyetler. Entegrasyon maliyetleri. İşletim maliyetleri. Bu kriterler kurumun ihtiyaçlarına göre ağırlıklandırılmalıdır. ### \37. AI Gateway Uygulama Yol Haritası Kurumsal AI Gateway geçişi aşamalı biçimde gerçekleştirilebilir. #### Faz 1: Envanter Kullanılan yapay zekâ servisleri belirlenir. Model sağlayıcıları ve uygulamalar envantere alınır. #### Faz 2: Risk değerlendirmesi Hassas veri akışları incelenir. Agent ve araç yetkileri değerlendirilir. #### Faz 3: Politika tasarımı Onaylı model listesi hazırlanır. Veri sınıflandırma politikaları oluşturulur. Yetki sınırları belirlenir. #### Faz 4: Pilot uygulama Belirli kullanıcı grubu veya uygulama üzerinde kontroller uygulanır. Yanlış pozitifler ve performans etkileri ölçülür. #### Faz 5: Yaygınlaştırma Uygun uygulamalar merkezi kontrol katmanına alınır. #### Faz 6: İzleme ve iyileştirme Güvenlik olayları değerlendirilir. Politikalar güncellenir. Güvenlik testleri tekrarlanır. Bu yaklaşım kurumsal yapay zekâ güvenliğinin kontrollü biçimde geliştirilmesini destekler. ### \38. AI Gateway Kontrol Listesi #### Görünürlük - Kurumsal yapay zekâ servisleri envantere alındı mı? - Shadow AI riskleri değerlendirildi mi? - Model sağlayıcıları belirlendi mi? - Gateway dışı kullanım kanalları incelendi mi? #### Veri güvenliği - Hassas veri sınıflandırması yapıldı mı? - AI DLP politikaları oluşturuldu mu? - Veri maskeleme gereksinimleri belirlendi mi? - Harici model veri aktarımı değerlendirildi mi? #### Prompt güvenliği - Prompt Injection kontrolleri mevcut mu? - Jailbreak kontrolleri değerlendirildi mi? - Güvenilmeyen RAG içerikleri kontrol ediliyor mu? - Model çıktıları güvenlik açısından değerlendiriliyor mu? #### Agent güvenliği - Agent araçları envantere alındı mı? - Tool Calling yetkileri sınırlandırıldı mı? - MCP entegrasyonları değerlendirildi mi? - Kritik işlemler onay gerektiriyor mu? #### Operasyonel güvenlik - Audit logging mevcut mu? - SIEM entegrasyonu değerlendirildi mi? - Kullanım kotaları belirlendi mi? - Yüksek erişilebilirlik planlandı mı? - Güvenlik testleri gerçekleştirildi mi? ### Sık Sorulan Sorular #### AI Gateway nedir? AI Gateway, yapay zekâ uygulamaları ile model servisleri arasındaki iletişimi merkezi olarak yönetmeye ve belirli güvenlik politikalarını uygulamaya yardımcı olan kontrol katmanıdır. #### AI Gateway ne işe yarar? Model erişim yönetimi, veri koruma, kullanım izleme, politika uygulama ve bazı mimarilerde Agent araç kontrollerini destekleyebilir. #### Prompt Firewall nedir? Prompt Firewall, yapay zekâ girdilerindeki veya ilgili içeriklerdeki belirli manipülasyon ve politika ihlali risklerini tespit etmeye yönelik güvenlik mekanizmasıdır. #### Prompt Firewall bütün Prompt Injection saldırılarını engeller mi? Hayır. Prompt Firewall kontrolleri riski azaltabilir ancak bütün saldırı varyasyonlarını kesin biçimde engelleme garantisi vermez. #### AI DLP nedir? AI DLP, yapay zekâ kullanımında hassas verilerin yetkisiz veya uygunsuz aktarımını azaltmaya yönelik veri koruma kontrolleridir. #### Shadow AI nedir? Shadow AI, kurumun bilgisi veya onayı dışında kullanılan yapay zekâ araçlarını ve servislerini ifade eder. #### AI Gateway Shadow AI kullanımını tamamen tespit edebilir mi? Her zaman hayır. Gateway dışındaki kullanımlar için uç nokta, ağ veya SaaS görünürlük kontrolleri gerekebilir. #### AI Gateway ile API Gateway aynı şey midir? Hayır. AI Gateway, API yönetimine ek olarak yapay zekâya özgü model, prompt ve veri kontrolleri sağlayabilir. #### AI Gateway on-premises çalışabilir mi? Bazı çözümler kurum içi altyapıda çalıştırılabilir. Bu yetenek ürünün mimarisine bağlıdır. #### On-premises AI Gateway kullanıldığında veriler kurum dışına çıkmaz mı? Mutlaka değil. Harici model sağlayıcısına gönderilen içerikler kurum dışına aktarılabilir. Veri akışı uçtan uca değerlendirilmelidir. #### AI Gateway AI Agent güvenliğini sağlar mı? AI Gateway belirli kontrol ve izleme yetenekleri sağlayabilir. Ancak Agent araçlarının kendi yetkilendirme kontrolleri de gereklidir. #### AI Gateway MCP entegrasyonlarını kontrol edebilir mi? Ürünün mimarisi ve entegrasyon desteğine bağlı olarak belirli MCP veya araç trafiği kontrolleri uygulanabilir. #### Human-in-the-Loop neden önemlidir? Yüksek etkili yapay zekâ işlemlerinin bağımsız insan değerlendirmesiyle kontrol edilmesine yardımcı olur. #### AI Gateway SIEM ile entegre olabilir mi? Uygun entegrasyon desteği bulunan çözümler güvenlik olaylarını SIEM sistemlerine aktarabilir. #### AI Gateway kullanılması LLM Pentest ihtiyacını ortadan kaldırır mı? Hayır. AI Gateway kontrollerinin etkinliği ve uygulamanın diğer güvenlik katmanları ayrıca test edilmelidir. #### AI Gateway hangi kurumlar için uygundur? Birden fazla yapay zekâ uygulaması kullanan, hassas veri işleyen veya AI Agent yetkilerini merkezi yönetmek isteyen kurumlar için değerlendirilebilir. ### Sonuç: Kurumsal Yapay Zekâ Güvenliği Merkezi ve Denetlenebilir Olmalıdır Yapay zekâ sistemleri kurumların iş süreçlerinde giderek daha fazla rol üstleniyor. Çalışanlar harici modeller kullanıyor. Uygulamalar LLM API'lerine bağlanıyor. RAG sistemleri kurumsal dokümanları işliyor. AI Agent'lar farklı araçlarla iletişim kuruyor. Ve bazı sistemler kullanıcı adına işlem gerçekleştirebiliyor. Bu nedenle yapay zekâ güvenliği yalnızca model sağlayıcısının güvenlik özelliklerine bırakılmamalıdır. Kurumlar kendi veri ve işlem politikalarını uygulayabilmelidir. Hangi modellerin kullanılacağı belirlenmelidir. Hassas veri aktarımları kontrol edilmelidir. Prompt Injection riskleri değerlendirilmelidir. Agent araç yetkileri sınırlandırılmalıdır. Kritik işlemler onay gerektirmelidir. Güvenlik olayları izlenmelidir. AI Gateway, bu ihtiyaçların belirli bölümlerini merkezi olarak yönetmek için önemli bir mimari bileşen olabilir. Ancak başarılı bir güvenlik yaklaşımı için Gateway'in IAM, DLP, SIEM, uygulama yetkilendirmesi ve güvenlik testleriyle birlikte değerlendirilmesi gerekir. Çünkü yapay zekâ güvenliği yalnızca iletişim trafiğini incelemekten ibaret değildir. Veri erişimi, işlem yetkileri ve operasyonel kontroller de güvenliğin ayrılmaz parçalarıdır. **Kurumsal yapay zekâ güvenliğinde hedef, yapay zekâ kullanımını durdurmak değil; güvenli, kontrollü ve denetlenebilir biçimde sürdürülebilir hale getirmektir.**