Yönetim Kuruluna Yapay Zeka Risk Raporlaması
CISO için 12 göstergelik KRI seti ve tek sayfalık rapor şablonu
Yönetim kurulu, yapay zeka riskini kod satırıyla değil karar verilebilir birkaç göstergeyle görmek ister. Bu rehber, bir CISO'nun çeyreklik board sunumunu dolduran 12 adlandırılmış risk göstergesini (KRI) ve bunları tek sayfaya sığdıran bir rapor şablonunu tanımlar.
Yönetim kuruluna AI risk raporlaması nedir?
Yönetim kuruluna yapay zeka risk raporlaması, bir kurumun yapay zeka sistemlerinden kaynaklanan riskleri; kurulun stratejik karar alabileceği sadeleştirilmiş, ölçülebilir ve zaman içinde karşılaştırılabilir göstergelere dönüştürme sürecidir. Amaç teknik ayrıntıyı aktarmak değil, kurula üç soruyu yanıtlatmaktır: Nerede duruyoruz, hangi yönde gidiyoruz ve hangi eşiği aştığımızda müdahale gerekir?
Bu raporlama, klasik bilgi güvenliği raporlamasından iki noktada ayrılır. Birincisi, yapay zeka riskleri yalnızca teknik değil; itibar, hukuki uyum ve etik boyutları olan çok katmanlı risklerdir. İkincisi, riskin büyük kısmı görünürlük dışıdır: onaylanmamış araçlar, sahipsiz modeller ve tedarik zincirinden gelen belirsizlik. Bu yüzden board raporu, kayıp göstergelerden (lag) çok öncü göstergelere (lead) yaslanır.
İngilizce kaynaklarda NACD ve danışmanlık firmalarının board-AI çerçeveleri bulunurken, Türkçe'de kurul seviyesinde yapay zeka risk raporlaması bu açıdan az işlenen bir konudur. Aşağıdaki gösterge seti, bu boşluğu doldurmayı amaçlayan bir AltaySec önerisi taksonomisidir — endüstri standardı değil, uygulanabilir bir başlangıç şablonudur.
Neden 12 gösterge? KPI ile KRI ayrımı
Yönetim kurulu KPI ile KRI'yi karıştırmaya meyillidir; oysa board dili için ayrım kritiktir. KPI (performans göstergesi) "ne kadar iyi çalışıyoruz" sorusuna bakar; KRI (anahtar risk göstergesi) ise "hangi risk birikiyor ve eşiğe ne kadar yakınız" sorusuna bakar. Kurul, performans panosu değil erken uyarı sistemi ister.
Gösterge sayısı bilinçli olarak sınırlıdır. Kurul üyeleri teknik olmayabilir ve toplantı süresi kısıtlıdır; otuz metrik dikkati dağıtır, üç metrik ise kör noktalar bırakır. On iki gösterge, üç anlamlı başlığa (dörderli) bölünebilecek ve tek sayfaya sığabilecek bir denge sunar. Her göstergenin üç unsuru olmalıdır:
- Bir eşik — hangi değerin üstünde kırmızıya döner?
- Bir yön — çeyreklik trend iyileşiyor mu, kötüleşiyor mu?
- Bir sahip — bu göstergeden kim sorumlu?
Bu disiplin olmadan raporlama, kurulun "iyi görünüyor" diyerek geçiştirdiği bir slayta dönüşür. Yönetişim yapısının kendisi için ayrı bir başlangıç noktası olarak yapay zeka yönetişim komitesinin kurulması yazısına bakılabilir.
12 KRI: AltaySec önerisi gösterge seti
Göstergeleri üç başlık altında topluyoruz: tehdit ve dayanıklılık, görünürlük ve envanter, yönetişim ve tedarik. Eşik değerleri örnektir; her kurum kendi risk iştahına göre kalibre etmelidir.
| # | KRI | Ne ölçer | Kaynak |
|---|---|---|---|
| A · Tehdit ve Dayanıklılık | |||
| 1 | Türkçe jailbreak yakalama oranı | Türkçe saldırı denemelerinin savunma katmanında engellenme yüzdesi | Kırmızı takım testi / iç ölçüm |
| 2 | Aşırı-red (over-refusal) oranı | Meşru isteklerin gereksiz yere reddedilme yüzdesi | İç ölçüm |
| 3 | Model dayanıklılık skoru | Kullanılan modellerin saldırı altında direnç sıralaması | AltayDuel provider matrisi |
| 4 | Prompt injection savunma kapsamı | Bilinen enjeksiyon kalıplarına karşı korunan uygulama yüzdesi | Kırmızı takım / tarama |
| B · Görünürlük ve Envanter | |||
| 5 | Gölge yapay zeka araç sayısı | Onaysız kullanılan tespit edilmiş AI araç adedi | Ağ/uç nokta keşfi |
| 6 | Yüksek riskli sahipsiz sistem sayısı | Sorumlusu atanmamış yüksek etkili AI sistemi adedi | Envanter |
| 7 | AI sistem sınıflandırma tamamlanma % | Risk seviyesine göre etiketlenmiş sistem oranı | Envanter |
| 8 | PII maruziyet kapsamı | Kişisel veriye erişen/işleyen AI akışlarının maskeleme kapsamı | Veri sınıflandırma |
| C · Yönetişim ve Tedarik | |||
| 9 | Tedarikçi doğrulama kapsamı | Güvenlik değerlendirmesi tamamlanmış AI tedarikçisi oranı | Tedarikçi yönetimi |
| 10 | Model provenance/imza kapsamı | Kaynağı ve bütünlüğü doğrulanan model oranı | Tedarik zinciri |
| 11 | AI olayı ortalama çözüm süresi | Tespitten kapanışa kadar geçen ortalama süre | Olay yönetimi |
| 12 | Düzenleyici uyum boşluğu sayısı | KVKK / EU AI Act karşısında açık kalan gereksinim adedi | Uyum denetimi |
Gösterge 12 için, düzenleyici çerçeveyi somutlaştıran EU AI Act uyum rehberi yol gösterici bir kaynaktır.
Model dayanıklılık skoru: AltayDuel provider matrisinden türetme
Üçüncü gösterge (model dayanıklılık skoru) çoğu kurumun eksik bıraktığı bir sorunun karşılığıdır: "Hangi modeli seçiyoruz ve bu seçim ne kadar dayanıklı?" Kurula tek bir sayı olarak sunulabilecek bu skor, farklı modellerin saldırı altındaki davranışını karşılaştıran bir ölçümden türetilir.
AltaySec'in kendi ölçüm ortamı olan AltayDuel provider matrisi, ajan-ajana (agent-vs-agent) düello formatında modelleri karşı karşıya getirir: bir model saldırıyı kurgular, diğeri savunur ve bir hakem sonuç verir. Yayınlanmış anlık kümede yüzlerce düello (297 düelloluk anlık snapshot) bulunur; canlı arenanın güncel kümülatif toplamı bundan daha yüksektir. Bu, sektörel bir benchmark değil, kurumun kullandığı modeller için tekrar üretilebilir bir iç karşılaştırma yöntemidir.
Skorun mantığı basittir: her model için savunma başarı oranı, saldırı direnci ve sızıntı sıklığı birleştirilerek 0–100 arası tek bir değere indirgenir. Yönetim kuruluna sunulan cümle şu netlikte olabilir: "Üretimdeki modelimizin dayanıklılık skoru bu çeyrek 72; eşiğimiz 60, alternatif modelin skoru 65." Metodolojiyi ve saldırı direnci bulgularını provider matrisi saldırı direnci yazısında ayrıntılı bulabilirsiniz. Kurulun burada anlaması gereken, tek bir sayının arkasında tekrarlanabilir bir test sürecinin durduğudur.
İç ölçüm göstergeleri: Türkçe jailbreak ve aşırı-red
Birinci ve ikinci göstergeler (Türkçe jailbreak yakalama oranı ve aşırı-red oranı) çift yönlü bir gerçeği yakaladıkları için değerlidir: bir güvenlik katmanı hem saldırıyı kaçırabilir, hem de meşru kullanıcıyı fazla engelleyerek işi bozabilir. Kurul bu ikisini birlikte görmelidir, çünkü yalnız birine bakmak yanıltır — jailbreak oranını sıfıra indirmek için her şeyi reddeden bir sistem, iş açısından da başarısızdır.
AltaySec'in guardrail (koruma bandı) ölçüm ortamı olan guardrail-arena verileri, Türkçe girdilerde bu iki metriğin çoğu zaman ters yönde birbirini ittiğini gösterir; yani aşırı-red düşürülürken jailbreak yakalama zayıflayabilir. Bunlar AltaySec'in kendi iç ölçümleridir, sektörel bir kıyas değildir; kuruma özgü kalibrasyon gerektirirler. Yine de board raporunda bu iki oranı yan yana koymak, güvenlik ile kullanılabilirlik arasındaki gerilimi kurula somut biçimde gösterir.
Türkçe'nin morfolojik zenginliği bu göstergeleri özellikle önemli kılar; İngilizce için ayarlanmış filtreler Türkçe saldırı kalıplarını kaçırabilir. Bu dinamiği Türkçe prompt injection kalıpları yazısında ele alıyoruz. Çalışma zamanında bu iki oranı düşük tutan uygulamalı bir katman için çalışma zamanı LLM koruma bantları incelenebilir.
Rapor şablonu: tek sayfalık board dashboard
Göstergeler ancak sığdıkları çerçeve kadar iyidir. Önerilen şablon tek sayfadır ve her satırda dört sütun bulunur: gösterge adı, mevcut değer, çeyreklik trend oku ve durum rengi (yeşil/sarı/kırmızı). Kurul üyesi sayfayı otuz saniyede tarayıp kırmızıya odaklanabilmelidir.
| Gösterge | Bu çeyrek | Trend | Durum | Sahip |
|---|---|---|---|---|
| Model dayanıklılık skoru | 72 / 100 | ↑ | Yeşil | Güvenlik mimarisi |
| Türkçe jailbreak yakalama | %88 | → | Sarı | Kırmızı takım |
| Gölge yapay zeka araçları | 14 adet | ↑ | Kırmızı | BT / SOC |
| Sahipsiz yüksek riskli sistem | 3 adet | ↓ | Sarı | Yönetişim komitesi |
| Düzenleyici uyum boşluğu | 5 madde | ↓ | Sarı | Uyum / Hukuk |
Yukarıdaki değerler yalnızca şablonu göstermek için örnektir. Sayfanın altına iki bloktan fazlası konmamalıdır: (1) çeyreğin üç öne çıkan olayı ve (2) kuruldan istenen tek bir karar. Rapor bir bilgi dökümü değil, karar talebidir. Olayların nasıl ele alındığını standartlaştırmak için AI olay müdahale kılavuzu raporun arka planını besler.
Uygulama: ritim ve olgunluk yol haritası
Raporlama tek seferlik bir slayt değil, bir ritimdir. Çeyreklik kurul sunumu üç aylık trendi taşır; aylık CISO panosu operasyonel ayrıntıyı tutar; olay bazlı ad-hoc raporlar ise eşik aşımında devreye girer. Kurulun gördüğü çeyreklik sürüm, aylık panonun sadeleştirilmiş özetidir.
Olgunluk kademeli ilerler. Başlangıçta yalnızca envanter göstergeleri (5–8) toplanabilir; çünkü görünürlük olmadan tehdit metrikleri anlamsızdır. Görünürlük oturunca dayanıklılık göstergeleri (1–4), en son da tedarik ve uyum göstergeleri (9–12) eklenir. Her göstergeyi ilk günden kırmızı-eşikli sunmaya çalışmak, veri olgunlaşmadan yanlış alarm üretir.
Son bir uyarı: gösterge seti hedefe dönüşürse bozulur. Türkçe jailbreak yakalama oranını yapay biçimde yükseltmek için sistemi aşırı reddettiren bir ekip, ikinci göstergede (aşırı-red) hemen görünür — bu yüzden göstergeler bilinçli olarak birbirini dengeler. Kurul, tek bir yeşil sayıya değil, göstergeler arasındaki tutarlılığa bakmalıdır.
Bu göstergelerin bir kısmını (özellikle jailbreak yakalama, aşırı-red ve prompt injection savunma kapsamı) sürekli ölçmek isteyen kurumlar için Guardian LLM güvenlik duvarı (firewall) çalışma zamanı telemetrisi sağlar. Kuruma özgü bir KRI setinin çıkarılması veya bir board dashboard kurgusu için AltaySec ekibiyle iletişime geçebilirsiniz.