AI TRiSM Nedir?
Yapay Zeka Güven, Risk ve Güvenlik Yönetimi Çerçevesi

AI TRiSM Nedir? Tek Paragraflık Tanım

AI TRiSM — açılımıyla AI Trust, Risk and Security Management (Yapay Zeka Güven, Risk ve Güvenlik Yönetimi) — Gartner tarafından ortaya konan ve yapay zeka modellerinin güvenilir, adil, sağlam, güvenli ve mahremiyete saygılı biçimde çalışmasını sağlamayı hedefleyen bir yönetişim ve operasyon çerçevesidir. Tek bir ürün ya da araç değil; bir kurumun yapay zeka varlıklarını yaşam döngüsü boyunca — model geliştirmeden üretimdeki çalışma zamanına kadar — sürekli izlemesini, denetlemesini ve savunmasını sağlayan bir disiplinler bütünüdür. Gartner çerçeveyi ilk kez Ekim 2022'de, 2023'ün öne çıkan stratejik teknoloji trendleri arasında tanıttı. Temel tezi basittir: yapay zeka ne kadar güçlüyse, onu üreten kurum o gücü açıklamak, ölçmek ve sınırlamak zorundadır.

Türkçe kaynaklarda AI TRiSM çoğunlukla yalnızca çeviri niteliğinde, kavramı sahiplenmeyen vendor cümleleriyle geçer. Bu yazı, terimi Türkçe teknik okura kanonik biçimde açıklamayı ve dört sütununu somut araç kategorilerine oturtmayı amaçlıyor.

Neden Ortaya Çıktı? Yapay Zekanın Yönetilmeyen Risk Yüzeyi

Geleneksel yazılımda davranış deterministiktir: aynı girdi aynı çıktıyı verir, hata ayıklanabilir ve test edilebilir. Büyük dil modelleri ve üretken yapay zeka bu varsayımı kırar. Aynı istem farklı yanıtlar üretebilir, model kendi eğitim verisindeki önyargıları taşıyabilir, açıklanamayan kararlar verebilir ve — en kritiği — çalışma zamanında saldırıya açık yeni bir yüzey oluşturur.

Bu belirsizlik üç somut kurumsal soruna yol açar:

• Güven açığı: Bir modelin neden belirli bir kararı verdiği açıklanamıyorsa, o karar denetlenemez ve regülasyona uydurulamaz.
• Risk açığı: Model sürüm yükseltmelerinde sessiz gerileme (regression), veri kayması (drift) ve önyargı zamanla birikir; bunları izleyecek bir mekanizma yoksa fark edilmeden üretime yayılır.
• Güvenlik açığı: İstem enjeksiyonu (prompt injection), veri sızıntısı ve model çalma gibi saldırılar, klasik uygulama güvenliği araçlarının görmediği bir katmanda gerçekleşir.

AI TRiSM, bu üç açığı ayrı ayrı ürünlerle değil, dört sütunlu tek bir yönetişim mimarisiyle kapatmayı önerir.

AI TRiSM'in Dört Sütunu

Gartner'ın çerçevesi dört ana bileşen üzerine kuruludur. Her biri, yapay zeka yaşam döngüsünün farklı bir aşamasında farklı bir riski hedefler.

1. Açıklanabilirlik ve Model İzleme (Explainability / Model Monitoring)

Modelin kararlarının anlaşılabilir, izlenebilir ve denetlenebilir olması. Bu sütun, çıktıların neden üretildiğini görünür kılan yorumlanabilirlik teknikleri ile üretimdeki performansı, drift'i ve önyargıyı sürekli ölçen izleme sistemlerini kapsar.

2. ModelOps

Yapay zeka ve karar modellerinin yaşam döngüsünü — geliştirme, dağıtım, sürümleme, yeniden eğitim ve emeklilik — yöneten operasyonel disiplin. MLOps'un yönetişim ve uyum katmanıyla genişletilmiş halidir; modelin kim tarafından, hangi veriyle, ne zaman değiştirildiğinin kaydını tutar.

3. AI Uygulama Güvenliği (AI Application Security)

Yapay zeka uygulamalarını istem enjeksiyonu, veri sızıntısı, düşmanca girdiler (adversarial input) ve model çalma gibi saldırılara karşı koruyan katman. Bu sütun, çalışma zamanında girdi ve çıktıyı denetleyen savunma kontrollerini içerir; AltaySec'in odaklandığı alan büyük ölçüde budur.

4. Gizlilik (Privacy)

Kişisel ve hassas verinin model eğitiminde, isteminde ve çıktısında korunması. Veri maskeleme, anonimleştirme ve — Türkiye bağlamında — KVKK uyumu bu sütunun kapsamındadır.

Dört Sütunu Somut Araç Kategorilerine Eşleyen Tablo

Çerçevenin soyut kalmaması için, her sütunu hangi somut araç kategorisiyle hayata geçirdiğinizi görmek gerekir. Aşağıdaki tablo, AI TRiSM sütunlarını uygulanabilir teknoloji kategorilerine ve örnek kontrollere eşler.

Bu eşlemede kritik nokta şudur: dört sütunun üçü (izleme, ModelOps, gizlilik) çoğunlukla tasarım ve dağıtım zamanı kontrolleridir. AI Uygulama Güvenliği ise büyük ölçüde çalışma zamanı (runtime) enforcement gerektirir — model canlıyken, her istekte devrede olan bir savunma katmanı.

Çalışma Zamanı Enforcement Katmanı: Referans Mimari

AI TRiSM'in en sık atlanan tarafı, dört sütunun büyük kısmının statik denetimlerle karşılanabilmesine karşın AI Uygulama Güvenliği sütununun canlı bir enforcement noktası gerektirmesidir. Model üretimdeyken her istem ve her yanıt, bir savunma katmanından geçmelidir. Bu katman kavramsal olarak bir LLM firewall ya da runtime guardrail olarak adlandırılır.

AltaySec'in geliştirdiği Guardian, bu sütunun nasıl kurgulanabileceğine dair bir referans mimari örneğidir — teslim edilmiş bir ticari ürün olarak değil, mimari desen olarak ele alınmalıdır. Guardian'ın tasarım yaklaşımı hibrit bir modele dayanır: hızlı ve deterministik bir regex/kural katmanı ile bağlamı yakalayan bir ML katmanının birlikte çalışması. AltaySec'in kendi iç ölçümünde bu mimari 114 test senaryosuyla doğrulanmaktadır (iç veri; makine öğrenmesi katmanı öntanımlı olarak devre dışı, kaynak-yoğun ortamlar için opsiyonel).

Bir çalışma zamanı katmanının AI TRiSM bağlamında karşılaması beklenen temel işlevler şunlardır:

İstek  → [Girdi denetimi]  → istem enjeksiyonu / jailbreak filtresi
       → [Bağlam kontrolü] → yetki ve kapsam sınırlama
Yanıt  → [Çıktı denetimi]  → PII sızıntısı / sistem promptu sızması filtresi
       → [Telemetri]       → izleme sütununa olay kaydı besleme

Dikkat edilmesi gereken pratik gerçek: aşırı-katı bir guardrail, meşru istekleri de bloklayarak kullanılabilirliği düşürür. AltaySec'in kendi guardrail-arena ölçümlerinde gözlemlenen aşırı-red (over-refusal) eğilimi, bu dengenin ince ayar gerektirdiğini gösterir. Yani AI Uygulama Güvenliği sütunu yalnızca "engelleme" değil, doğru engelleme oranını yönetmekle ilgilidir.

Türkiye ve KVKK Bağlamında AI TRiSM

AI TRiSM küresel bir çerçeve olsa da, gizlilik sütunu yerel regülasyona doğrudan bağlanır. Türkiye'de bu, KVKK (Kişisel Verilerin Korunması Kanunu) ve giderek olgunlaşan yapay zeka düzenlemeleri anlamına gelir. Bir kurumun AI TRiSM uyumunu Türkiye'de değerlendirirken şu bağlar kurulmalıdır:

• Gizlilik sütunu → KVKK: Modele giden istemlerdeki ve modelden dönen yanıtlardaki kişisel veri, işleme ve saklama açısından KVKK'nın kapsamındadır. PII maskeleme çalışma zamanında yapılmazsa sızıntı, bir güvenlik olayı olmanın ötesinde bir kanuni ihlal haline gelir.
• Uygulama güvenliği sütunu → Türkçe saldırı yüzeyi: İstem enjeksiyonu saldırıları dile duyarlıdır. Yalnızca İngilizce imzalarla eğitilmiş filtreler, Türkçe morfolojik varyasyonları ve çeviri-bahanesi saldırılarını kaçırabilir. AI TRiSM'i Türkiye'de uygulayan bir kurum, savunma katmanını yerel dil yüzeyine göre ayarlamalıdır.
• ModelOps → yönetişim: Kurumsal bir yapay zeka yönetişim komitesi, ModelOps sütununu kurumsal sorumluluğa bağlayan yapıdır.

Bu yerelleştirme, AI TRiSM'i soyut bir Gartner terimi olmaktan çıkarıp uygulanabilir bir uyum programına dönüştürür.

Kurumda AI TRiSM Nasıl Hayata Geçirilir?

Çerçeveyi bir kağıt üzerinde bırakmamak için, olgunlaşma sırasına göre pratik bir yol izlenebilir:

1. Envanter çıkar: Kurumda hangi yapay zeka modelleri, hangi veriyle, nerede çalışıyor? Görünmeyen risk yönetilemez.
2. Çalışma zamanı savunmasını devreye al: AI Uygulama Güvenliği sütunu en acil ve en somut kazanımı verir; canlı bir guardrail/firewall katmanı, sızıntı ve enjeksiyon riskini hemen düşürür.
3. İzleme ve telemetri kur: Guardrail'in ürettiği olayları açıklanabilirlik/izleme sütununa besleyerek kapalı bir döngü oluştur.
4. ModelOps ve yönetişimi kurumsallaştır: Model sürümleme, imzalama ve karar sorumluluğunu bir komiteye bağla.
5. Gizliliği regülasyona demirle: PII maskeleme ve veri minimizasyonunu KVKK gereksinimleriyle hizala.

AI TRiSM'in özü, yapay zekayı bitmiş bir proje değil, sürekli yönetilen bir sistem olarak görmektir. Dört sütun ayrı ayrı satın alınacak ürünler değil, aynı yönetişim omurgasının parçalarıdır.

Kaynaklar

• BigID — What is AI TRiSM? A Guide to AI Trust, Risk & Security Management
• Palo Alto Networks — What Is AI TRiSM (AI Trust, Risk and Security Management)?
• AvePoint — Understanding Gartner's AI TRiSM Framework
• Gartner — Top Strategic Technology Trends for 2023
• OWASP Top 10 for Large Language Model Applications
• NIST AI Risk Management Framework (AI RMF 1.0)

İlgili Yazılar

• LLM Firewall Nedir?
• Runtime LLM Guardrails
• Yapay Zeka Yönetişim Komitesi Kurulması
• KVKK ve LLM Güvenliği