AI Güvenlik Olgunluk Modeli: Kurumunuzun Yapay Zeka Güvenliği Hangi Seviyede?
5 seviye x 6 boyut: AltaySec çerçevesiyle öz-değerlendirme
"Yapay zekayı güvenli kullanıyor muyuz?" sorusunun cevabı "evet" ya da "hayır" değildir; bir olgunluk seviyesidir. AltaySec AI Güvenlik Olgunluk Modeli, kurumunuzun bugün nerede durduğunu ve bir sonraki adımı adlandırılmış bir çerçeveyle gösterir.
AI Güvenlik Olgunluk Modeli Nedir?
AI Güvenlik Olgunluk Modeli, bir kurumun yapay zeka sistemlerini güvenli biçimde geliştirme, dağıtma ve işletme kapasitesini kademeli bir ölçekte tanımlayan bir değerlendirme çerçevesidir. Tek bir güvenlik açığına ya da tek bir ürüne değil; kurumun süreçlerine, görünürlüğüne, ölçüm yeteneğine ve insan pratiğine bakar. Sonuç bir not değil, bir seviye ve o seviyeden bir üste çıkmak için somut bir yol haritasıdır.
Yazılım kalitesinde CMMI'nin, güvenlik operasyonlarında SOC olgunluk modellerinin yaptığını, AltaySec çerçevesi yapay zeka güvenliği için yapar: soruyu "güvende miyiz?" gibi ikili ve cevaplanamaz bir hâlden çıkarıp, "altı boyutun her birinde beş seviyeden hangisindeyiz?" gibi ölçülebilir bir hâle getirir.
AltaySec AI Güvenlik Olgunluk Modeli, beş olgunluk seviyesini (Farkında Değil, Reaktif, Tanımlı, Ölçen, Optimize) altı güvenlik boyutuyla (görünürlük/shadow-AI, guardrail, test, veri, uyum, insan) çaprazlayan bir matristir; her hücre için öz-değerlendirme soruları sunar ve bulguları NIST AI RMF ile ISO/IEC 42001'e köprüler. Bu çerçeve AltaySec tarafından geliştirilmiştir; kurumsal bir standart değil, standartlara bağlanan pratik bir teşhis aracıdır.
Neden Bir Olgunluk Modeline İhtiyaç Var?
Yapay zeka güvenliği tartışmaları genellikle tekil olaylara odaklanıyor: bir prompt injection, bir sistem promptu sızıntısı, bir jailbreak. Bunlar önemli, ama kurumun asıl sorusu daha yapısal: "Bu tür olayları önleyecek, tespit edecek ve onlardan öğrenecek bir kapasitemiz var mı?" Bu soru bir güvenlik açığı listesiyle değil, bir olgunluk çerçevesiyle cevaplanır.
İngilizce literatürde güvenlik operasyonları ve yapay zeka yönetişimi için olgunluk modeli içerikleri mevcut; Türkçe'de bu konu ise az işlenmiş bir alan. Adlandırılmış çerçeveler, hem büyük dil modellerinin hem de karar vericilerin en kolay atıf verdiği varlık türüdür. Bu makale, o boşluğu doldurmayı ve kurumlara ortak bir dil sunmayı hedefliyor.
Olgunluk modelinin üç pratik faydası var. Birincisi ortak dil: teknik ekip, hukuk ve yönetim aynı tabloya bakıp aynı seviyeyi konuşur. İkincisi önceliklendirme: en zayıf boyut, bütçenin nereye gideceğini söyler. Üçüncüsü ilerleme takibi: altı ay sonra tekrar ölçüldüğünde, iyileşme kanıtlanabilir bir sıçrama olur.
Beş Olgunluk Seviyesi
Model, CMMI'den esinlenen beş seviye kullanır. Seviyeler kümülatiftir: bir üste çıkmak, alttakinin pratiklerini korumayı gerektirir.
- Seviye 1 — Farkında Değil: Yapay zeka kullanımı organizasyonda mevcut, ancak güvenlik tarafı görünmez. Kimse hangi ekiplerin hangi modelleri, hangi verilerle kullandığını bilmiyor. Risk, henüz sorulmamış bir sorudur.
- Seviye 2 — Reaktif: Güvenlik yalnızca bir olay yaşandıktan sonra devreye girer. Bir sızıntı ya da kötüye kullanım fark edilince yama yapılır, ama tekrarlanabilir bir süreç yoktur. Savunma, kişilerin dikkatine bağlıdır.
- Seviye 3 — Tanımlı: Politikalar, sorumluluklar ve temel guardrail'ler yazılı hâle gelmiştir. Bir yapay zeka kullanım politikası, bir onay süreci ve minimum güvenlik gereksinimleri vardır. Süreç öngörülebilirdir, ama henüz sistematik biçimde ölçülmez.
- Seviye 4 — Ölçen: Kurum, savunmalarının ne kadar iyi çalıştığını sayılarla bilir. Guardrail'ler düzenli olarak test edilir, red-team bulguları takip edilir, metrikler raporlanır. Karar, sezgi yerine ölçüme dayanır.
- Seviye 5 — Optimize: Ölçüm bir geri besleme döngüsüne dönüşmüştür. Her olay ve her test sonucu, savunmaları ve süreçleri iyileştirmek için otomatik olarak beslenir. Kurum, tehdit ortamıyla birlikte sürekli uyum sağlar.
Altı Güvenlik Boyutu ve Matris
Tek bir seviye, kurumun gerçeğini fazla basite indirger. Çoğu organizasyon farklı boyutlarda farklı seviyelerdedir: guardrail tarafında olgun, veri yönetişiminde geride olabilir. Bu yüzden model altı boyutu ayrı ayrı puanlar.
- Görünürlük / Shadow-AI: Hangi ekiplerin hangi modelleri kullandığının envanteri. Onaysız kullanımın (shadow-AI) tespiti.
- Guardrail: Çalışma zamanında girdi/çıktı denetimi, prompt injection ve veri sızıntısına karşı savunma katmanı.
- Test: Red-team, düzenli güvenlik değerlendirmesi ve regresyon testi disiplini.
- Veri: KVKK uyumu, kişisel veri maskeleme, veri sınıflandırma ve modele giden verinin yönetişimi.
- Uyum: Yönetişim yapısı, politikalar ve standartlara (NIST AI RMF, ISO 42001) hizalanma.
- İnsan: Çalışan farkındalığı, tanımlı roller ve sorumluluklar, güvenli kullanım kültürü.
Aşağıdaki matris, her boyutun seviyeler boyunca nasıl olgunlaştığını özetler:
| Boyut | Reaktif (2) | Tanımlı (3) | Ölçen (4) | Optimize (5) |
|---|---|---|---|---|
| Görünürlük / Shadow-AI | Kullanım olay çıkınca fark edilir | Envanter listesi tutulur | Onaysız kullanım aktif taranır | Otomatik keşif + politika uygulama |
| Guardrail | Yok ya da yamalı | Temel girdi/çıktı filtresi | Metrikli, test edilen katman | Bulgularla sürekli ayarlanan katman |
| Test | Olay sonrası inceleme | Dönemsel manuel test | Planlı red-team + raporlama | Sürekli/otomatik değerlendirme döngüsü |
| Veri | Ad-hoc, denetimsiz | Sınıflandırma + maskeleme politikası | Sızıntı vektörleri ölçülür | Otomatik denetim + geri besleme |
| Uyum | Yazılı politika yok | Politika + rol tanımlı | Standarda hizalı, denetlenir | Sürekli uyum, kanıt üretir |
| İnsan | Bireysel dikkate bağlı | Kullanım politikası duyurulmuş | Eğitim + ölçülen farkındalık | Güvenlik kültürü, tatbikat rutini |
Guardrail boyutunda "Ölçen" seviyeye geçmek çoğu kurum için somut bir eşiktir; AltaySec'in LLM firewall (Guardian) yaklaşımı, çalışma zamanı denetimini metriklenebilir bir katmana taşımayı hedefler.
Öz-Değerlendirme: Kaç Seviyedesiniz?
Her boyut için aşağıdaki soruyu sorun ve "evet" diyebildiğiniz en üst seviye, o boyuttaki olgunluğunuzdur. Bir üst seviyeye "hayır" diyorsanız, oradasınız demektir.
Görünürlük: Yapay zeka kullanan tüm ekiplerin ve modellerin güncel bir envanterine sahip misiniz? Onaysız kullanımı düzenli olarak tarıyor musunuz?
Guardrail: Üretimdeki yapay zeka uygulamalarınızın önünde bir girdi/çıktı denetim katmanı var mı? Bu katmanın yakalama oranını ölçüyor musunuz?
Test: Yapay zeka uygulamalarınıza planlı red-team değerlendirmesi uyguluyor musunuz? Bulguları takip edip kapanışını izliyor musunuz?
Veri: Modele giden veride kişisel veri maskeleme ve sınıflandırma uyguluyor musunuz? Sızıntı vektörlerini ölçüyor musunuz?
Uyum: Yazılı bir yapay zeka güvenlik politikanız ve atanmış sorumlular var mı? Tanınan bir standarda hizalı mısınız?
İnsan: Çalışanlarınız güvenli yapay zeka kullanımı konusunda eğitildi mi? Farkındalığı ölçüyor musunuz?
Altı cevabı bir araya getirin. En düşük boyut, kurumunuzun asıl kırılganlığıdır; en yüksek boyut ise güçlü yanınız. Aradaki fark ne kadar açıksa, dengesizlik o kadar önemlidir. Bu değerlendirmeyi başlatmadan önce bir yapay zeka yönetişim komitesi kurmak, sonuçların bir sahibi olmasını sağlar.
NIST AI RMF ve ISO 42001'e Köprü
AltaySec çerçevesi, tanınan iki uluslararası referansla uyumlu çalışacak biçimde tasarlandı: NIST AI Risk Management Framework (AI RMF 1.0, 2023) ve ISO/IEC 42001:2023 (yapay zeka yönetim sistemi standardı). Olgunluk seviyeniz yükseldikçe, bu standartların gerektirdiği yeteneklere de doğal olarak yaklaşırsınız. Aşağıdaki tablo boyutları bu referanslara bağlar:
| AltaySec Boyutu | NIST AI RMF işlevi | ISO/IEC 42001 karşılığı |
|---|---|---|
| Görünürlük / Shadow-AI | Map (bağlam ve envanter) | Yapay zeka sistem envanteri ve kapsam |
| Guardrail | Manage (risk azaltma) | Operasyonel kontroller |
| Test | Measure (değerlendirme) | Performans değerlendirme ve iç denetim |
| Veri | Map / Manage (veri riski) | Veri yönetişimi kontrolleri |
| Uyum | Govern (yönetişim) | Yönetim sistemi ve liderlik |
| İnsan | Govern (kültür, roller) | Yetkinlik ve farkındalık |
Bu köprü, çerçeveyi standartların yerine koymaz; onlara giden pratik bir teşhis basamağı olarak konumlandırır. "Ölçen" seviyeye ulaşmış bir kurum, ISO 42001 denetimine girmeye çok daha hazırdır.
Seviyeler Arası Nasıl İlerlenir?
Olgunluk sıçraması bir bütçe kalemi değil, bir alışkanlık değişimidir. Pratik ilerleme sırası genellikle şöyle işler:
- Reaktif → Tanımlı: İlk hamle yazıya dökmektir. Kim, hangi modeli, hangi veriyle kullanabilir? Bir kullanım politikası, bir envanter ve minimum guardrail gereksinimi bu geçişi sağlar.
- Tanımlı → Ölçen: Politikaya "kanıt" eklenir. Guardrail'in yakalama oranı, red-team bulgularının kapanış süresi, veri sızıntısı testlerinin sonucu düzenli olarak ölçülür ve raporlanır.
- Ölçen → Optimize: Ölçüm bir döngüye bağlanır. Her test sonucu ve her olay, savunma kurallarını ve eğitimleri güncelleyen bir geri besleme üretir.
Bu "ölç ve iyileştir" mantığı, AltaySec'in Grid / Karne+Mühür konseptinin de kavramsal temelidir: yapay zeka sistemlerinin güvenlik durumunu tekrarlanabilir biçimde puanlayıp bir karneye dönüştürmek. Kurum içi ölçümlerimizde — örneğin AltaySec'in kendi guardrail ve Türkçe red-team çalışmalarında — en sık görülen açık, guardrail'in var olması ama ölçülmemesi; yani üçüncü seviyede takılıp dördüncüye geçememektir. Olgunluk yolculuğunun ayrıntılı bir başlangıç haritası için LLM güvenlik yol haritası yazımıza bakabilirsiniz.
Nereden başlayacağınızdan emin değilseniz, altı boyutlu öz-değerlendirmeyle bugünkü seviyenizi çıkarın ve en zayıf boyuta odaklanın. Bir değerlendirme desteği için AltaySec ile iletişime geçebilirsiniz.