# MLOps ve Yapay Zekâ Tedarik Zinciri Güvenliği: Model, Veri Seti ve Pipeline Riskleri **URL:** https://securesys.com.tr/tr/bilgi-merkezi/yazilim-ve-yapay-zeka-guvenligi/mlops-yapay-zeka-tedarik-zinciri-guvenligi ![MLOps ve Yapay Zekâ Tedarik Zinciri Güvenliği: Model, Veri Seti ve Pipeline Riskleri](/images/bilgi-merkezi/covers/cover-yzguv-09.webp) ### Giriş: Yapay Zekâ Güvenliği Model Eğitilmeden Önce Başlar Yapay zekâ teknolojileri kurumsal iş süreçlerinde giderek daha fazla kullanılıyor. Kurumlar büyük dil modellerini uygulamalarına entegre ediyor. Makine öğrenmesi modelleriyle dolandırıcılık tespiti gerçekleştiriyor. Görüntü işleme sistemleriyle kalite kontrol yapıyor. Siber güvenlik operasyonlarında anomali tespit modellerinden yararlanıyor. Ancak bütün bu sistemlerin ortak bir özelliği bulunuyor. Yapay zekâ modelleri tek başlarına çalışmıyor. Modellerin geliştirilmesi, eğitilmesi, test edilmesi, dağıtılması ve izlenmesi için farklı teknolojiler birlikte kullanılıyor. Eğitim veri setleri hazırlanıyor. Açık kaynak kütüphaneler kullanılıyor. Model dosyaları indiriliyor. GPU altyapıları yapılandırılıyor. CI/CD pipeline'ları çalıştırılıyor. Model registry sistemlerinde sürümler tutuluyor. Container image'ları oluşturuluyor. Ve modeller üretim ortamında API servisleri üzerinden kullanıma sunuluyor. Bu bileşenlerin her biri güvenlik açısından değerlendirilmesi gereken bir saldırı yüzeyi oluşturuyor. Örneğin güvenilmeyen kaynaktan indirilen bir model dosyası zararlı içerik barındırabilir. Manipüle edilmiş bir veri seti modelin davranışını etkileyebilir. Yetkisiz erişime açık bir model registry, model dosyalarının değiştirilmesine neden olabilir. Güvensiz bir CI/CD pipeline, saldırganın üretim ortamına kontrolsüz bileşen aktarmasına imkân verebilir. Bu nedenle yapay zekâ güvenliğini yalnızca modelin verdiği cevaplarla sınırlamak doğru değildir. **Güvenli yapay zekâ, güvenli veri kaynakları, güvenilir model bileşenleri ve kontrol edilen geliştirme süreçleri üzerine kurulmalıdır.** MLOps güvenliği tam olarak bu noktada önem kazanır. Bu makalede MLOps kavramını, yapay zekâ tedarik zincirini, model geliştirme pipeline'larını ve kurumsal güvenlik kontrollerini teknik ve operasyonel açıdan inceleyeceğiz. ### \1. MLOps Nedir? MLOps, Machine Learning Operations ifadesinin kısaltmasıdır. Makine öğrenmesi modellerinin geliştirilmesi, eğitilmesi, dağıtılması, izlenmesi ve yönetilmesi için kullanılan süreçleri ve uygulamaları ifade eder. MLOps yaklaşımı, yazılım geliştirme dünyasındaki DevOps prensiplerinin makine öğrenmesi yaşam döngüsüne uyarlanmasıyla ilişkilidir. Ancak MLOps yalnızca DevOps'un farklı isimle uygulanması değildir. Çünkü makine öğrenmesi sistemlerinde kaynak kodun yanında eğitim verileri, model parametreleri, deney sonuçları ve model performansı da yönetilmelidir. #### MLOps kapsamında hangi süreçler bulunur? Veri toplama. Veri hazırlama. Feature engineering. Model eğitimi. Deney yönetimi. Model değerlendirme. Model sürümleme. Model dağıtımı. Model izleme. Yeniden eğitim. Bu süreçlerin otomatikleştirilmesi operasyonel verimlilik sağlayabilir. Ancak otomasyonun güvenli tasarlanmaması yeni riskler oluşturabilir. ### \2. MLOps Güvenliği Nedir? MLOps Security, makine öğrenmesi yaşam döngüsündeki veri, model, yazılım, altyapı ve operasyon süreçlerinin güvenlik tehditlerine karşı korunmasını amaçlayan yaklaşımdır. Bu kapsamda yalnızca modelin davranışı değil, modelin üretildiği ve çalıştırıldığı sistemler de değerlendirilir. #### Temel güvenlik hedefleri **Gizlilik:** Eğitim verileri, model dosyaları ve hassas bilgiler yetkisiz erişime karşı korunmalıdır. **Bütünlük:** Veri setleri, model artifact'ları ve pipeline bileşenleri yetkisiz biçimde değiştirilememelidir. **Erişilebilirlik:** Eğitim ve çıkarım sistemlerinin sürekliliği korunmalıdır. **İzlenebilirlik:** Modelin hangi veri, kod ve yapılandırma ile üretildiği takip edilebilmelidir. **Tekrarlanabilirlik:** Uygun koşullarda model geliştirme süreçleri yeniden gerçekleştirilebilmelidir. **Hesap verebilirlik:** Kritik model değişikliklerinin kim tarafından ve hangi onayla yapıldığı belirlenebilmelidir. Bu hedefler güvenli ve sürdürülebilir yapay zekâ operasyonlarının temelini oluşturur. ### \3. DevOps, DevSecOps ve MLOps Arasındaki Fark DevOps, yazılım geliştirme ve operasyon süreçlerinin birlikte yönetilmesine odaklanır. DevSecOps, güvenlik kontrollerinin yazılım geliştirme yaşam döngüsüne entegre edilmesini hedefler. MLOps ise makine öğrenmesi modellerinin yaşam döngüsünü yönetir. Secure MLOps, bu süreçlere güvenlik kontrollerinin sistematik biçimde dahil edilmesini ifade eder. | Yaklaşım | Temel odak | | --- | --- | | DevOps | Yazılım geliştirme ve operasyon | | DevSecOps | Yazılım yaşam döngüsünde güvenlik | | MLOps | Makine öğrenmesi yaşam döngüsü | | Secure MLOps | Makine öğrenmesi süreçlerinde güvenlik | Bu yaklaşımlar birbirinin alternatifi değildir. Örneğin bir yapay zekâ uygulamasında güvenli API geliştirme için DevSecOps kontrolleri gerekirken, eğitim veri seti bütünlüğü için Secure MLOps kontrolleri gerekebilir. Kurumsal güvenlik mimarisinde bu süreçler birlikte değerlendirilmelidir. ### \4. Yapay Zekâ Tedarik Zinciri Nedir? AI Supply Chain, yapay zekâ sisteminin geliştirilmesi ve işletilmesi sırasında kullanılan harici ve dahili bileşenlerin oluşturduğu tedarik ekosistemidir. Bu ekosistem geleneksel yazılım tedarik zincirinden daha geniş olabilir. Çünkü yalnızca yazılım paketleri değil, veri setleri ve model dosyaları da önemli bağımlılıklar oluşturur. #### AI Supply Chain bileşenleri - Eğitim veri setleri. - Açık kaynak modeller. - Model ağırlıkları. - ML framework'leri. - Python paketleri. - Container image'ları. - Model registry sistemleri. - GPU sürücüleri ve çalışma ortamları. - Embedding modelleri. - Üçüncü taraf API servisleri. - Veri işleme araçları. - Model optimizasyon bileşenleri. Bu bileşenlerden birinin güvenliğinin bozulması bütün yapay zekâ uygulamasını etkileyebilir. ### \5. AI Supply Chain Security Neden Önemlidir? Geleneksel yazılım güvenliğinde üçüncü taraf bağımlılıkların riskleri uzun süredir değerlendirilmektedir. Yapay zekâ sistemlerinde ise bağımlılıkların sayısı ve türü genişleyebilir. Örneğin bir kurum kendi modelini geliştirmese bile açık kaynak bir temel modeli kullanabilir. Bu model üçüncü taraf bir platformdan indirilebilir. Modelin çalışması için farklı kütüphaneler gerekebilir. Fine-tuning işlemi harici veri setleriyle gerçekleştirilebilir. Dağıtım ise bulut tabanlı bir container ortamında yapılabilir. Bu zincirdeki her bileşenin kaynağı, bütünlüğü ve güvenliği önemlidir. #### Olası saldırı hedefleri Model dosyasının değiştirilmesi. Veri setinin manipüle edilmesi. Zararlı bağımlılık eklenmesi. CI/CD pipeline'ının ele geçirilmesi. Model registry üzerinde yetkisiz işlem yapılması. Dağıtım paketlerinin değiştirilmesi. Bu nedenle AI Supply Chain Security, model geliştirme süreçlerinin önemli bir güvenlik bileşenidir. ### \6. Güvenilmeyen Model Dosyalarının Riskleri Açık kaynak yapay zekâ modelleri kurumlar için önemli fırsatlar sunar. Ancak internet üzerinden indirilen model dosyalarının güvenliği değerlendirilmelidir. Bir model dosyası yalnızca matematiksel parametrelerden oluşmayabilir. Bazı model paketleri yapılandırma dosyaları, özel kod veya serileştirilmiş nesneler içerebilir. Özellikle güvenilmeyen serileştirme biçimleri risk oluşturabilir. #### Güvenlik problemi Bazı serileştirme mekanizmaları dosya yükleme sırasında kod çalıştırılmasına neden olabilecek özelliklere sahiptir. Bu nedenle güvenilmeyen model artifact'larının doğrudan üretim veya geliştirme ortamında yüklenmesi riskli olabilir. #### Korunma yaklaşımı Model kaynakları doğrulanmalıdır. Artifact hash değerleri kontrol edilmelidir. Güvenli dosya biçimleri tercih edilmelidir. Gereksiz özel kod çalıştırma özellikleri devre dışı bırakılmalıdır. Model dosyaları izole ortamlarda değerlendirilmelidir. Model sağlayıcısının güvenlik duyuruları takip edilmelidir. **Model dosyasının indirilebiliyor olması, güvenli olduğu anlamına gelmez.** ### \7. Model Provenance Nedir? Model Provenance, bir yapay zekâ modelinin kaynağına ve üretim geçmişine ilişkin bilgilerin izlenebilirliğidir. Bu kapsamda şu sorulara cevap aranır: Model kim tarafından geliştirildi? Hangi temel model kullanıldı? Hangi veri setleriyle eğitildi? Hangi kod sürümü kullanıldı? Hangi yapılandırmalar uygulandı? Hangi güvenlik testlerinden geçti? Üretim ortamına kim tarafından alındı? Bu bilgiler model güvenliği açısından önemlidir. Çünkü güvenlik olayı yaşandığında etkilenen model sürümlerinin belirlenmesini kolaylaştırır. #### Örnek Bir kurumun üretim ortamında üç farklı model sürümü kullandığını düşünelim. Belirli bir eğitim veri setinde güvenlik problemi tespit edildi. Model provenance kayıtları bulunuyorsa bu veri setini kullanan model sürümleri belirlenebilir. Böylece risk değerlendirmesi daha hızlı gerçekleştirilebilir. ### \8. Model Artifact Bütünlüğü Nasıl Sağlanır? Model artifact'ları eğitilmiş modelin dağıtımında kullanılan dosyalardır. Bu dosyalar yüksek ticari değer taşıyabilir. Ayrıca model davranışını doğrudan etkileyebilir. Bu nedenle artifact bütünlüğünün korunması gerekir. #### Güvenlik kontrolleri Kriptografik hash doğrulaması. Dijital imza mekanizmaları. Güvenli artifact depolama. Erişim kontrolü. Sürüm yönetimi. Değişiklik kayıtları. Onaylı dağıtım süreçleri. Ancak hash doğrulamasının güvenilir olabilmesi için beklenen hash değerinin de güvenilir kaynaktan alınması gerekir. Saldırgan hem dosyayı hem de doğrulama bilgisini değiştirebiliyorsa kontrol etkisiz hale gelebilir. Bu nedenle artifact güvenliği güvenilir kaynak ve erişim kontrolüyle birlikte ele alınmalıdır. ### \9. Model Registry Nedir? Model Registry, yapay zekâ modellerinin sürümlerinin ve yaşam döngüsü bilgilerinin yönetildiği sistemdir. Kurumsal MLOps süreçlerinde önemli rol oynayabilir. Bir model registry içerisinde farklı model sürümleri, performans sonuçları, metadata ve artifact bağlantıları tutulabilir. #### Model Registry kullanım amaçları Model sürümleme. Model onay süreçleri. Deney sonuçlarının ilişkilendirilmesi. Üretim modelinin belirlenmesi. Rollback yönetimi. Model yaşam döngüsünün izlenmesi. Bu sistemler güvenlik açısından kritik olabilir. Çünkü üretim ortamına hangi modelin alınacağını etkileyebilirler. ### \10. Model Registry Güvenlik Riskleri Model registry sistemlerinde farklı güvenlik problemleri ortaya çıkabilir. #### Yetkisiz model yükleme Saldırgan veya yetkisiz kullanıcı yeni model sürümü ekleyebilir. #### Model değiştirme Mevcut model artifact'ı değiştirilebilir. #### Model hırsızlığı Yetkisiz kullanıcı özel model dosyalarını indirebilir. #### Metadata manipülasyonu Modelin güvenlik veya performans bilgileri değiştirilebilir. #### Yetki yükseltme Yetersiz erişim kontrolü nedeniyle kullanıcı üretim dağıtım yetkisi elde edebilir. #### Korunma yaklaşımı Rol tabanlı erişim kontrolü uygulanmalıdır. Model yükleme ve onay yetkileri ayrılmalıdır. Kritik değişiklikler kayıt altına alınmalıdır. Artifact bütünlüğü doğrulanmalıdır. Üretim dağıtımları kontrollü yapılmalıdır. ### \11. ML Pipeline Nedir? ML Pipeline, makine öğrenmesi yaşam döngüsündeki işlemlerin belirli bir akış içerisinde otomatikleştirilmesidir. Örneğin bir pipeline şu adımları içerebilir: Veri alma. Veri temizleme. Özellik çıkarımı. Model eğitimi. Model değerlendirme. Model paketleme. Model registry'ye kayıt. Üretim ortamına dağıtım. Bu süreçler otomasyon sayesinde daha hızlı ve tekrarlanabilir hale getirilebilir. Ancak pipeline güvenliği yetersizse saldırganın etkisi genişleyebilir. ### \12. ML Pipeline Security Nedir? ML Pipeline Security, model geliştirme ve dağıtım akışlarının yetkisiz erişim, manipülasyon ve zararlı bileşenlere karşı korunmasını hedefler. Bu kapsamda pipeline kodu, çalışma ortamı, kimlik bilgileri, veri kaynakları ve dağıtım yetkileri değerlendirilir. #### Temel güvenlik alanları Pipeline kimlik doğrulaması. Servis hesabı yetkileri. Secret management. Kod bütünlüğü. Veri kaynağı doğrulaması. Artifact güvenliği. Dağıtım onayları. Audit logging. Bu kontroller geleneksel CI/CD güvenliğiyle ilişkilidir. Ancak ML Pipeline'larda veri ve model bileşenleri de ayrıca korunmalıdır. ### \13. ML Pipeline Saldırı Senaryosu Bir kurumun otomatik model eğitim pipeline'ı kullandığını düşünelim. Pipeline belirli aralıklarla yeni verileri alır. Modeli yeniden eğitir. Performans testleri gerçekleştirir. Başarılı modeli üretim ortamına aktarır. Ancak veri kaynağı güvenilirliği yeterince kontrol edilmemektedir. #### Olası risk Saldırgan eğitim verilerini manipüle etmeyi başarırsa modelin davranışını etkileyebilir. Eğer model güvenlik testleri yeterli değilse manipüle edilmiş model üretim ortamına alınabilir. #### Güvenli yaklaşım Veri kaynakları doğrulanmalıdır. Veri değişiklikleri izlenmelidir. Eğitim veri setleri sürümlenmelidir. Model performansı bağımsız testlerle değerlendirilmelidir. Kritik model değişiklikleri onay sürecinden geçmelidir. Bu örnek veri güvenliği ile pipeline güvenliğinin birlikte ele alınması gerektiğini gösterir. ### \14. CI/CD Güvenliği ve MLOps MLOps sistemleri çoğu zaman CI/CD araçlarıyla entegre çalışır. Bu nedenle geleneksel CI/CD güvenliği kontrolleri önemlidir. #### Başlıca riskler Güvensiz pipeline script'leri. Aşırı yetkilendirilmiş servis hesapları. Açıkta saklanan erişim anahtarları. Güvenilmeyen bağımlılıklar. Yetkisiz deployment. Yetersiz değişiklik kontrolü. #### Korunma yaklaşımı Pipeline yetkileri sınırlandırılmalıdır. Secret management kullanılmalıdır. Kod inceleme süreçleri uygulanmalıdır. Bağımlılıklar kontrol edilmelidir. Dağıtım ortamları ayrılmalıdır. Kritik işlemler kayıt altına alınmalıdır. Bu kontroller Secure MLOps mimarisinin temel parçalarıdır. ### \15. MLOps Ortamlarında Secret Management Model geliştirme süreçlerinde farklı erişim bilgileri kullanılabilir. Örneğin: Cloud API anahtarları. Veritabanı bağlantı bilgileri. Model registry erişim token'ları. Container registry kimlik bilgileri. Veri depolama servis hesapları. Bu bilgilerin pipeline kodunda veya yapılandırma dosyalarında açık metin olarak saklanması risk oluşturabilir. #### Güvenli yaklaşım Merkezi secret management kullanılmalıdır. Kısa ömürlü kimlik bilgileri tercih edilmelidir. Servis hesapları en az yetkiyle çalışmalıdır. Secret erişimleri izlenmelidir. Kimlik bilgileri düzenli olarak gözden geçirilmelidir. Şüpheli sızıntı durumunda ilgili erişimler geçersiz kılınmalıdır. ### \16. Eğitim Veri Seti Güvenliği Makine öğrenmesi modellerinin davranışı eğitim verilerinden etkilenir. Bu nedenle eğitim veri setleri güvenlik açısından kritik varlıklardır. #### Veri seti riskleri Data Poisoning. Yetkisiz veri değişikliği. Hassas veri sızıntısı. Yanlış etiketleme. Güvenilmeyen veri kaynağı. Eksik veri sürümleme. #### Korunma yaklaşımı Veri kaynakları kayıt altına alınmalıdır. Veri bütünlüğü kontrol edilmelidir. Veri setleri sürümlenmelidir. Erişim yetkileri sınırlandırılmalıdır. Hassas veriler sınıflandırılmalıdır. Anormal veri değişiklikleri değerlendirilmelidir. Bu kontroller model güvenilirliğini destekler. ### \17. Dataset Provenance Nedir? Dataset Provenance, veri setinin kaynağının ve değişiklik geçmişinin izlenebilirliğidir. Örneğin bir eğitim veri seti farklı kaynaklardan oluşturulmuş olabilir. Kurumsal veritabanları. Açık veri kaynakları. Üçüncü taraf veri sağlayıcıları. Kullanıcı tarafından oluşturulan içerikler. Bu kaynakların güvenilirliği farklı olabilir. #### Dataset provenance kapsamında Verinin kaynağı. Toplama zamanı. İşleme yöntemi. Etiketleme süreci. Değişiklik geçmişi. Kullanım izinleri. Veri sınıflandırması. gibi bilgiler tutulabilir. Bu yaklaşım Data Poisoning ve veri kalitesi problemlerinin araştırılmasını kolaylaştırabilir. ### \18. Açık Veri Setlerinin Güvenlik Riskleri Açık veri setleri makine öğrenmesi geliştirme süreçlerinde yaygın biçimde kullanılabilir. Ancak açık veri setlerinin güvenliği ve kullanım koşulları değerlendirilmelidir. #### Olası riskler Manipüle edilmiş örnekler. Yanlış etiketler. Kişisel veri içeriği. Lisans belirsizliği. Kaynak güvenilirliği problemi. Zararlı dosyalar. #### Güvenlik yaklaşımı Veri setinin kaynağı doğrulanmalıdır. Lisans ve kullanım koşulları incelenmelidir. Hassas veri taraması yapılmalıdır. Veri bütünlüğü kontrol edilmelidir. Uygun örnekleme ve kalite analizleri gerçekleştirilmelidir. Açık veri seti kullanımı güvenlik değerlendirmesinin dışında bırakılmamalıdır. ### \19. AI-BOM Nedir? AI-BOM, Artificial Intelligence Bill of Materials ifadesinin kısaltmasıdır. Yapay zekâ sisteminin bileşenlerinin ve bağımlılıklarının envanterlenmesine yönelik yaklaşımları ifade eder. Geleneksel yazılım dünyasında kullanılan SBOM kavramıyla ilişkilidir. Ancak AI-BOM yalnızca yazılım paketlerini değil, yapay zekâya özgü bileşenleri de kapsayabilir. #### AI-BOM içerisinde bulunabilecek bilgiler Model adı. Model sürümü. Model sağlayıcısı. Temel model bağımlılıkları. Eğitim veri setleri. ML framework'leri. Model artifact'ları. Harici servisler. Lisans bilgileri. İlgili güvenlik metadata'sı. AI-BOM için kullanılan alanlar ve biçimler uygulanan standarda veya kurumsal modele göre değişebilir. Bu nedenle AI-BOM'un her kurumda aynı yapıda tutulduğu varsayılmamalıdır. ### \20. ML-BOM Nedir? ML-BOM, Machine Learning Bill of Materials ifadesiyle ilişkilendirilen bir envanter yaklaşımıdır. Makine öğrenmesi sisteminin bileşenlerini ve bağımlılıklarını görünür hale getirmeyi amaçlar. AI-BOM ve ML-BOM kavramları farklı kaynaklarda benzer veya örtüşen anlamlarda kullanılabilir. Bu nedenle kurumun hangi kapsamı ve veri alanlarını kullandığını açıkça tanımlaması önemlidir. #### ML-BOM neden önemlidir? Model bağımlılıklarının izlenmesini destekler. Tedarik zinciri risklerini görünür hale getirir. Güvenlik olaylarında etkilenen bileşenlerin belirlenmesini kolaylaştırır. Model sürüm yönetimine katkı sağlar. Ancak bileşen envanteri oluşturulması tek başına güvenlik sağlamaz. Envanterin güncel tutulması ve risk yönetimi süreçlerinde kullanılması gerekir. ### \21. SBOM, AI-BOM ve ML-BOM Arasındaki Fark | Kavram | Odak | | --- | --- | | SBOM | Yazılım bileşenleri ve bağımlılıklar | | AI-BOM | Yapay zekâ sisteminin model, veri ve yazılım dahil bileşenleri | | ML-BOM | Makine öğrenmesi yaşam döngüsündeki bileşenler ve bağımlılıklar | Bu kavramların kapsamı kullanılan çerçeveye göre değişebilir. Kurumsal yaklaşımda önemli olan yalnızca envanter adı değildir. Hangi bileşenlerin izlendiği ve güvenlik riskleriyle nasıl ilişkilendirildiğidir. ### \22. Model Dependency Security Yapay zekâ modelleri farklı yazılım bağımlılıklarına ihtiyaç duyabilir. Örneğin: Python kütüphaneleri. ML framework'leri. GPU çalışma zamanı bileşenleri. Veri işleme paketleri. Model serving araçları. Bu bağımlılıklardaki güvenlik açıkları model altyapısını etkileyebilir. #### Güvenlik yaklaşımı Bağımlılıklar envantere alınmalıdır. Güvenlik açıkları takip edilmelidir. Güncelleme politikaları oluşturulmalıdır. Gereksiz paketler kaldırılmalıdır. Güvenilmeyen kaynaklardan paket kurulumu sınırlandırılmalıdır. Bu yaklaşım geleneksel Software Composition Analysis süreçleriyle birlikte uygulanabilir. ### \23. Container Security ve MLOps MLOps sistemleri çoğu zaman container teknolojileri üzerinde çalışır. Örneğin model eğitim ortamı veya çıkarım servisi container içerisinde çalıştırılabilir. Bu yaklaşım taşınabilirlik ve operasyonel kolaylık sağlayabilir. Ancak container güvenliği önemlidir. #### Riskler Güvensiz base image. Güncel olmayan bağımlılıklar. Aşırı yetkili container. Açıkta saklanan secret bilgileri. Yanlış yapılandırılmış volume erişimleri. Yetersiz ağ izolasyonu. #### Korunma yaklaşımı Güvenilir base image kullanılmalıdır. Container image'ları taranmalıdır. En az yetki prensibi uygulanmalıdır. Secret bilgileri güvenli yönetilmelidir. Ağ erişimleri sınırlandırılmalıdır. Runtime güvenlik kontrolleri değerlendirilmelidir. ### \24. Kubernetes ve Model Serving Güvenliği Kurumsal yapay zekâ sistemleri Kubernetes gibi orkestrasyon platformlarında çalıştırılabilir. Bu durumda model serving altyapısı Kubernetes güvenlik kontrollerine bağlı hale gelir. #### Önemli alanlar RBAC. Network Policy. Secret Management. Pod Security. Container Image Security. Service Account Permissions. Audit Logging. #### Örnek risk Model serving servis hesabı gereğinden geniş yetkilere sahip olabilir. Bu durumda servis ele geçirildiğinde saldırganın erişebileceği kaynaklar artabilir. #### Korunma yaklaşımı Servis hesapları en az yetkiyle yapılandırılmalıdır. Ağ erişimleri sınırlandırılmalıdır. Kritik namespace'ler ayrılmalıdır. Secret erişimleri kontrol edilmelidir. Güvenlik kayıtları izlenmelidir. ### \25. GPU Altyapısı ve Eğitim Ortamı Güvenliği Büyük yapay zekâ modellerinin eğitimi önemli hesaplama kaynakları gerektirebilir. Bu nedenle GPU altyapıları kurumsal MLOps ortamlarında kritik varlıklar olabilir. #### Güvenlik riskleri Yetkisiz eğitim ortamı erişimi. Kaynak tüketimi. Hassas veri sızıntısı. Güvensiz sürücüler. Paylaşılan altyapı izolasyonu. Yetkisiz model dosyası erişimi. #### Güvenlik yaklaşımı Eğitim ortamları izole edilmelidir. Kullanıcı erişimleri sınırlandırılmalıdır. Sürücü ve çalışma ortamı bileşenleri yönetilmelidir. Kaynak kullanımı izlenmelidir. Hassas veri depolama alanları korunmalıdır. Bu kontroller özellikle çok kullanıcılı eğitim altyapılarında önemlidir. ### \26. Model Deployment Security Model Deployment, eğitilmiş modelin kullanılabilir bir ortama aktarılmasıdır. Bu süreçte model artifact'ları, yapılandırmalar ve servis bileşenleri üretim ortamına alınabilir. #### Olası riskler Yanlış model sürümünün dağıtılması. Yetkisiz deployment. Artifact bütünlüğünün bozulması. Güvensiz yapılandırma. Eksik erişim kontrolü. #### Güvenli yaklaşım Deployment süreçleri onaylanmalıdır. Model artifact'ları doğrulanmalıdır. Ortamlar ayrılmalıdır. Rollback mekanizmaları oluşturulmalıdır. Değişiklikler kayıt altına alınmalıdır. Bu kontroller model dağıtımının kontrollü biçimde gerçekleştirilmesini sağlar. ### \27. Model Rollback ve Güvenlik Model güncellemeleri her zaman beklenen sonuçları vermeyebilir. Yeni model sürümü performans problemi oluşturabilir. Güvenlik kontrolleriyle uyumsuz olabilir. Veya beklenmeyen davranışlar gösterebilir. Bu nedenle model rollback mekanizması önemlidir. Rollback, gerektiğinde önceki model sürümüne geri dönülmesini sağlar. #### Güvenlik açısından gereksinimler Önceki model sürümleri güvenli saklanmalıdır. Artifact bütünlüğü doğrulanmalıdır. Rollback yetkileri sınırlandırılmalıdır. İşlem kayıt altına alınmalıdır. Geri dönülen modelin de güvenlik durumu değerlendirilmelidir. Özellikle kritik yapay zekâ sistemlerinde rollback planı operasyonel sürekliliği destekler. ### \28. Model Monitoring ve Güvenlik Model monitoring, üretim ortamındaki model davranışının izlenmesini ifade eder. Bu süreç yalnızca performans ölçümüyle sınırlı olmamalıdır. Güvenlik açısından da değerlendirilmelidir. #### İzlenebilecek alanlar Model performansı. Veri dağılımı değişiklikleri. Anormal sorgu davranışları. API kullanım miktarı. Kaynak tüketimi. Beklenmeyen model çıktıları. Yetkisiz erişim girişimleri. #### Önemli nokta Model davranışındaki her değişiklik siber saldırı anlamına gelmez. Ancak beklenmeyen değişiklikler güvenlik değerlendirmesine konu olabilir. Bu nedenle model izleme ile güvenlik izleme süreçleri uygun biçimde ilişkilendirilmelidir. ### \29. Model Drift ve Yeniden Eğitim Güvenliği Model Drift, model performansının veya veri ilişkilerinin zaman içerisinde değişmesiyle ilişkili kavramdır. Bu durum modelin yeniden eğitilmesini gerektirebilir. Ancak yeniden eğitim süreçleri de güvenlik açısından değerlendirilmelidir. #### Riskler Yeni verilerin manipüle edilmiş olması. Yanlış etiketleme. Güvenilmeyen veri kaynakları. Otomatik dağıtımın kontrolsüz yapılması. #### Güvenli yaklaşım Yeni veriler doğrulanmalıdır. Eğitim veri setleri sürümlenmelidir. Model değişiklikleri test edilmelidir. Kritik dağıtımlar onaylanmalıdır. Model performansı izlenmelidir. Bu kontroller otomatik öğrenme süreçlerinde önemlidir. ### \30. Secure MLOps Mimarisi Secure MLOps yaklaşımı model yaşam döngüsünün tamamında güvenlik kontrollerinin uygulanmasını hedefler. #### Örnek mimari Veri Kaynakları | v Veri Kaynağı Doğrulama | v Veri Sınıflandırma ve DLP | v Dataset Versioning | v Güvenli Eğitim Ortamı | v Model Security Testing | v Artifact İmza / Hash Kontrolü | v Model Registry | v Onaylı Deployment Pipeline | v Model Serving / API | v Security Monitoring | v Kontrollü Yeniden Eğitim Bu mimari örnektir. Gerçek uygulama kurumun model türüne, altyapısına ve risk seviyesine göre tasarlanmalıdır. ### \31. MLOps Security Assessment Nedir? MLOps Security Assessment, makine öğrenmesi geliştirme ve operasyon süreçlerinin güvenlik açısından değerlendirilmesidir. Bu çalışma farklı bileşenleri kapsayabilir. #### Değerlendirme alanları Veri kaynağı güvenliği. Dataset provenance. ML Pipeline Security. CI/CD güvenliği. Model Registry Security. Artifact bütünlüğü. Container güvenliği. Kubernetes güvenliği. Model API güvenliği. Model monitoring. #### Değerlendirme yaklaşımı Öncelikle mimari ve veri akışları belirlenir. Ardından kritik varlıklar sınıflandırılır. Güven sınırları değerlendirilir. Teknik kontroller incelenir. Risk bazlı güvenlik testleri gerçekleştirilir. Bulguların etkisi değerlendirilir. İyileştirme planı oluşturulur. ### \32. MLOps Pentest ile Geleneksel Pentest Arasındaki Fark Geleneksel pentest ağ, sistem, web ve API güvenliği gibi alanları değerlendirebilir. MLOps Pentest ise bu alanlara ek olarak model geliştirme ve dağıtım süreçlerini inceler. Örneğin geleneksel pentest sırasında Kubernetes API erişim problemi tespit edilebilir. MLOps Security Testing sırasında ise model registry üzerinde yetkisiz artifact değişikliği riski değerlendirilebilir. Benzer şekilde eğitim veri seti bütünlüğü veya pipeline yetkileri incelenebilir. Bu nedenle MLOps Pentest geleneksel güvenlik testlerinin yerine geçmez. Yapay zekâ yaşam döngüsüne özgü riskleri kapsayacak biçimde genişletilmiş değerlendirmedir. ### \33. Örnek Senaryo: Açık Kaynak Model Kullanımı Bir kurumun açık kaynak büyük dil modeli kullanmak istediğini düşünelim. Model internet üzerinden indirilmektedir. Ardından kurumun GPU altyapısında çalıştırılmaktadır. #### Risk 1: Model kaynağı Modelin gerçek sağlayıcısı doğrulanmamış olabilir. #### Risk 2: Artifact güvenliği Model dosyası değiştirilmiş olabilir. #### Risk 3: Bağımlılıklar Güvenlik açığı içeren kütüphaneler kullanılabilir. #### Risk 4: Çalışma ortamı Model gereğinden geniş sistem yetkileriyle çalıştırılabilir. #### Risk 5: Güncelleme yönetimi Yeni model sürümleri kontrolsüz biçimde uygulanabilir. #### Güvenli yaklaşım Model kaynağı doğrulanmalıdır. Artifact bütünlüğü kontrol edilmelidir. Bağımlılıklar değerlendirilmelidir. Çalışma ortamı izole edilmelidir. Model sürümleri yönetilmelidir. Güvenlik testleri gerçekleştirilmelidir. Bu yaklaşım açık kaynak model kullanımında temel güvenlik gereksinimlerini oluşturur. ### \34. Örnek Senaryo: Otomatik Model Eğitimi Bir finans kuruluşunun dolandırıcılık tespit modelini belirli aralıklarla yeniden eğittiğini düşünelim. Yeni işlem verileri otomatik olarak eğitim veri setine eklenmektedir. Pipeline modeli yeniden eğitmektedir. Performans testleri gerçekleştirilmektedir. Başarılı model üretim ortamına alınmaktadır. #### Risk 1: Data Poisoning Yeni eğitim verileri manipüle edilmiş olabilir. #### Risk 2: Pipeline yetkileri Servis hesapları gereğinden geniş yetkilere sahip olabilir. #### Risk 3: Model bütünlüğü Artifact dosyaları yetkisiz biçimde değiştirilebilir. #### Risk 4: Deployment güvenliği Yanlış model sürümü üretime alınabilir. #### Risk 5: İzleme eksikliği Model davranışındaki beklenmeyen değişiklikler fark edilmeyebilir. #### Güvenli yaklaşım Veri kaynakları doğrulanmalıdır. Pipeline yetkileri sınırlandırılmalıdır. Artifact bütünlüğü kontrol edilmelidir. Kritik deployment işlemleri onaylanmalıdır. Model davranışı izlenmelidir. Bu örnek Secure MLOps yaklaşımının neden gerekli olduğunu gösterir. ### \35. SECURESYS Secure MLOps Yaklaşımı SECURESYS olarak yapay zekâ güvenliğinin yalnızca modelin cevaplarını değerlendirmekle sınırlı kalmaması gerektiğini düşünüyoruz. Çünkü yapay zekâ sistemlerinin güvenilirliği, geliştirme ve operasyon süreçlerinin güvenliğiyle doğrudan ilişkilidir. Bu nedenle Secure MLOps yaklaşımında veri, model, yazılım ve altyapı güvenliği birlikte ele alınmalıdır. Proje kapsamına göre aşağıdaki alanlar değerlendirilebilir: #### MLOps Security Assessment Model geliştirme ve operasyon süreçlerinin güvenlik açısından incelenmesi. #### AI Supply Chain Security Model, veri seti ve yazılım bağımlılıklarının değerlendirilmesi. #### ML Pipeline Security Otomatik eğitim ve dağıtım süreçlerinin güvenlik kontrollerinin incelenmesi. #### Model Registry Security Model sürümleme ve artifact yönetim altyapısının değerlendirilmesi. #### Model Artifact Security Model dosyalarının bütünlük ve güvenilirlik kontrollerinin incelenmesi. #### Container ve Kubernetes Security Model eğitim ve çıkarım ortamlarının güvenlik açısından değerlendirilmesi. #### AI Security Testing Model davranışına ve uygulama mimarisine özgü güvenlik testlerinin gerçekleştirilmesi. #### DevSecOps Integration Güvenlik kontrollerinin geliştirme ve dağıtım süreçlerine entegre edilmesi. Bu yaklaşımın amacı yalnızca güvenlik açıklarını tespit etmek değildir. Kurumların yapay zekâ sistemlerini güvenli, izlenebilir ve sürdürülebilir biçimde geliştirmelerini desteklemektir. **Güvenli yapay zekâ modeli, güvenli geliştirme ve dağıtım süreçlerinden bağımsız düşünülemez.** ### \36. Secure MLOps Kontrol Listesi #### Veri güvenliği - Eğitim veri kaynakları doğrulandı mı? - Veri setleri sürümleniyor mu? - Data Poisoning riskleri değerlendirildi mi? - Hassas veriler sınıflandırıldı mı? #### Model güvenliği - Model kaynakları doğrulandı mı? - Artifact bütünlüğü kontrol ediliyor mu? - Model sürümleri yönetiliyor mu? - Model güvenlik testleri gerçekleştiriliyor mu? #### Pipeline güvenliği - Pipeline erişimleri sınırlandırıldı mı? - Secret management uygulanıyor mu? - Kod değişiklikleri kontrol ediliyor mu? - Deployment süreçleri onaylanıyor mu? #### Tedarik zinciri - Model bağımlılıkları envantere alındı mı? - Açık kaynak bileşenler değerlendirildi mi? - AI-BOM veya ML-BOM ihtiyacı analiz edildi mi? - Güvenlik açıkları takip ediliyor mu? #### Altyapı güvenliği - Container güvenliği değerlendirildi mi? - Kubernetes erişimleri kontrol ediliyor mu? - Eğitim ortamları izole edildi mi? - Model registry güvenliği sağlandı mı? #### Operasyonel güvenlik - Model davranışı izleniyor mu? - Model Drift değerlendiriliyor mu? - Rollback mekanizması var mı? - Güvenlik olay müdahale süreci tanımlandı mı? Bu kontrol listesi kurumun altyapısına ve model kullanım amacına göre genişletilebilir. ### Sık Sorulan Sorular #### MLOps nedir? MLOps, makine öğrenmesi modellerinin geliştirilmesi, eğitilmesi, dağıtılması ve izlenmesi için kullanılan süreçleri ve uygulamaları ifade eder. #### MLOps güvenliği nedir? MLOps güvenliği, makine öğrenmesi yaşam döngüsündeki veri, model, yazılım ve altyapı bileşenlerinin güvenlik tehditlerine karşı korunmasıdır. #### Secure MLOps nedir? Secure MLOps, güvenlik kontrollerinin model geliştirme, eğitim, dağıtım ve operasyon süreçlerine entegre edilmesidir. #### AI Supply Chain nedir? AI Supply Chain, yapay zekâ sisteminin geliştirilmesi ve işletilmesi sırasında kullanılan model, veri, yazılım ve altyapı bileşenlerinin oluşturduğu tedarik ekosistemidir. #### AI Supply Chain Security neden önemlidir? Güvenilmeyen model dosyaları, manipüle edilmiş veri setleri ve zararlı bağımlılıklar yapay zekâ sisteminin güvenliğini etkileyebilir. #### Model Registry nedir? Model Registry, model sürümlerinin, artifact'ların ve ilgili yaşam döngüsü bilgilerinin yönetildiği sistemdir. #### Model Artifact nedir? Model Artifact, eğitilmiş modelin saklanması, dağıtılması veya yeniden kullanılması için kullanılan dosyaları ve ilgili bileşenleri ifade eder. #### Model Provenance nedir? Model Provenance, modelin kaynağının ve geliştirme geçmişinin izlenebilirliğidir. #### Dataset Provenance nedir? Dataset Provenance, veri setinin kaynağının, işleme süreçlerinin ve değişiklik geçmişinin izlenebilirliğidir. #### ML Pipeline Security nedir? ML Pipeline Security, model geliştirme ve dağıtım akışlarının yetkisiz erişim ve manipülasyona karşı korunmasıdır. #### AI-BOM nedir? AI-BOM, yapay zekâ sisteminin model, veri, yazılım ve diğer bileşenlerinin envanterlenmesine yönelik yaklaşımdır. #### ML-BOM nedir? ML-BOM, makine öğrenmesi sisteminin bileşenlerini ve bağımlılıklarını görünür hale getirmeyi amaçlayan envanter yaklaşımıdır. #### AI-BOM ile SBOM arasındaki fark nedir? SBOM yazılım bileşenlerine odaklanırken AI-BOM yapay zekâya özgü model ve veri bileşenlerini de kapsayabilir. #### Açık kaynak model kullanmak güvenli midir? Güvenlik modelin kaynağına, artifact bütünlüğüne, bağımlılıklarına ve çalışma ortamına bağlıdır. #### MLOps Pentest nedir? MLOps Pentest, model geliştirme, eğitim ve dağıtım altyapısının kontrollü güvenlik senaryolarıyla değerlendirilmesidir. #### Secure MLOps için DevSecOps gerekli midir? DevSecOps kontrolleri Secure MLOps yaklaşımını destekler. Ancak makine öğrenmesine özgü veri ve model güvenliği kontrolleri de gereklidir. ### Sonuç: Güvenli Yapay Zekâ, Güvenilir Tedarik Zinciriyle Başlar Yapay zekâ sistemleri yalnızca model dosyalarından oluşmaz. Veri kaynakları bulunur. Eğitim ortamları kullanılır. Model registry sistemleri çalışır. Pipeline'lar otomatik işlemler gerçekleştirir. Container altyapıları modelleri çalıştırır. API servisleri model çıktılarını uygulamalara sunar. Ve bütün bu bileşenler zaman içerisinde güncellenir. Modelin hangi veriyle eğitildiği bilinmelidir. Kullanılan model dosyalarının kaynağı doğrulanmalıdır. Artifact bütünlüğü korunmalıdır. Pipeline erişimleri sınırlandırılmalıdır. Model registry güvenliği sağlanmalıdır. Dağıtım süreçleri kontrol edilmelidir. Model davranışı izlenmelidir. Ve güvenlik olaylarına müdahale edilebilmelidir. Secure MLOps yaklaşımı bu kontrollerin model yaşam döngüsüne entegre edilmesini hedefler. Özellikle kurumsal yapay zekâ projelerinde tedarik zinciri güvenliği, sürdürülebilir model güvenilirliğinin önemli bir parçasıdır. **Güvenli yapay zekâ yalnızca doğru model seçmek değildir; doğru modelin güvenilir kaynaklardan, kontrollü süreçlerle ve doğrulanmış bileşenlerle üretim ortamına alınmasıdır.**