Yapay Zekâ Güvenlik Önlemleri Nelerdir?
Kurumlar İçin 15 Adımlık Kontrol Listesi

Neden klasik güvenlik kontrolleri tek başına yetmez?

Güvenlik duvarı, antivirüs ve klasik web uygulama testleri hâlâ gereklidir; ancak yapay zekâ sistemlerinin saldırı yüzeyi bu araçların tasarlandığı yüzeyden farklıdır. Bir LLM uygulamasına yönelik saldırının "zararlı yükü" çoğu zaman bir kod parçası değil, doğal dilde yazılmış bir cümledir. İmza tabanlı bir filtre, "önceki talimatları unut" diyen bir prompt injection girişimini zararlı olarak tanımaz; çünkü ortada teknik anlamda zararlı bir imza yoktur.

İkinci fark, davranışın belirlenimsiz olmasıdır: aynı girdi iki farklı çıktı üretebilir, bu yüzden "bir kez test ettim, güvenli" yaklaşımı geçerliliğini yitirir. Üçüncü fark, tehdidin veri katmanına inmesidir; veri zehirleme gibi saldırılar modeli daha eğitim aşamasında hedef alır ve çalışma zamanındaki hiçbir filtre bunu tek başına telafi edemez. OWASP GenAI Security Project ve MITRE ATLAS gibi çerçevelerin ayrı birer tehdit kataloğu yayımlamasının nedeni tam olarak budur: yapay zeka güvenlik önlemleri, klasik kontrollerin üzerine eklenen ayrı bir katmandır. Tehdit tarafının bütününü yapay zekânın güvenlik riskleri yazısında ayrıca ele aldık.

15 adımlık kontrol listesi

Listeyi üç grupta topladık: önce neye sahip olduğunuzu görün ve yönetin, sonra teknik kontrolleri kurun, en sonunda insan ve süreç katmanıyla döngüyü kapatın. Her adım, ayrıntısını anlatan makaleye bağlanır.

Görünürlük ve yönetişim (1-5)

1. Yapay zekâ envanteri ve AI-BOM çıkarın. Kurumda hangi modellerin, API'lerin, eklentilerin ve veri kümelerinin kullanıldığını tek listede toplayın; buna çalışanların kendi başına kullandığı gölge AI araçları da dâhildir. Bileşen düzeyinde şeffaflık için AI-BOM (yapay zekâ malzeme listesi) yaklaşımını kullanın.
2. Sahiplik ve yönetişim modelini tanımlayın. Yapay zekâ riskinin kurumdaki sahibi kim, hangi karar hangi role ait — bu sorular yanıtsızsa hiçbir teknik kontrol kalıcı olmaz. Nereden başlayacağınızı görmek için AI güvenlik olgunluk modeli üzerinden mevcut seviyenizi belirleyin.
3. Kullanım senaryolarını risk düzeyine göre sınıflandırın. Müşteriye açık bir chatbot ile dâhili bir özetleme aracı aynı riski taşımaz. Her senaryoyu işlediği veri, erişebildiği sistemler ve hata durumundaki etkisine göre derecelendirin; öncelik sırası bu sınıflandırmadan çıkar.
4. Tedarikçi ve model riskini değerlendirin. Kullandığınız model API'si, SaaS aracı veya hazır model ağırlığı sizin adınıza veri işler; sözleşme, veri saklama ve eğitimde kullanım koşullarını sorgulamadan hiçbir aracı üretime almayın. Yöntem için AI tedarikçi risk değerlendirmesi (TPRM) rehberine bakın.
5. KVKK ve veri uyumu haritası oluşturun. Hangi iş akışında kişisel veri modele gidiyor, aydınlatma metinleri bu işlemeyi kapsıyor mu, yurt dışına aktarım var mı — bu soruların yanıtı yazılı olmalı. Teknik ve hukuki çerçeveyi KVKK ve LLM güvenliği yazısında ayrıntılandırdık.

Teknik kontroller (6-11)

6. Girdi-çıktı filtrelemesi kurun. Modele giden istekleri ve modelden dönen yanıtları denetleyen bir katman, prompt injection ve jailbreak girişimlerine karşı ilk teknik savunmadır. Saldırının mantığını ve savunma seçeneklerini prompt injection nedir yazısında inceledik.
7. Guardrail eşiklerini kalibre edin. Aşırı gevşek eşik saldırıyı kaçırır, aşırı sıkı eşik meşru kullanıcıyı reddedip ürünü kullanılmaz hâle getirir. Eşik ayarının ölçüme dayalı yapılması gerekir; yöntemi guardrail eşik kalibrasyonu yazısında anlattık.
8. Yapay zekâya özel veri sızıntısı önleme (AI-DLP) uygulayın. Çalışanların hassas veriyi harici modellere yapıştırması ile modelin yanıt içinde hassas veri sızdırması iki ayrı sızıntı yoludur ve ikisi de izlenmelidir. Kontrol noktalarını AI-DLP rehberinde topladık.
9. Veri hattının bütünlüğünü koruyun. Eğitim ve RAG verisinin nereden geldiğini, kimin değiştirebildiğini ve nasıl doğrulandığını kayıt altına alın; zehirlenmiş tek bir veri kaynağı modelin davranışını kalıcı olarak bozabilir. Saldırı ailesi için data poisoning yazısına bakın.
10. Araç ve entegrasyon güvenliğini gözden geçirin. Modele bağlanan her araç — MCP sunucuları, eklentiler, fonksiyon çağrıları — modelin yetkilerini fiilen genişletir ve tedarik zincirine yeni bir halka ekler. Değerlendirme yöntemi için MCP sunucusu güvenlik incelemesi rehberini izleyin.
11. Erişimi en az yetki ilkesiyle sınırlayın. Modelin ve ona bağlı ajanların veritabanı, dosya sistemi ve API erişimleri, görevin gerektirdiği asgari kapsamda tutulmalı; "her şeye erişen asistan" tek noktadan felaket riskidir. Bu ilkenin kurumsal katmandaki karşılığını yapay zekâ güvenliği çözümleri sayfasında özetledik.

İnsan ve süreç (12-15)

12. Düzenli AI red teaming ve pentest yaptırın. Kontrollerin gerçekten çalışıp çalışmadığını ancak saldırgan gözüyle yapılan test gösterir; savunma tarafının kör noktaları neredeyse her zaman testte ortaya çıkar. Yaklaşımı AI red teaming nedir yazısında, hizmet kapsamını LLM pentest sayfasında bulabilirsiniz.
13. Olay müdahale planını yapay zekâya uyarlayın. Model beklenmedik çıktı ürettiğinde, veri sızdırdığında veya zehirlenme şüphesi doğduğunda kimin ne yapacağı önceden yazılmalı; olay anı plan yazma anı değildir. Hazır şablon için AI olay müdahale playbook'u yazısına bakın.
14. Çalışan farkındalığını ve gölge AI politikasını işletin. En sıkı teknik kontrol, hassas dosyayı onaysız bir sohbet aracına yükleyen tek bir çalışanla aşılabilir. Hangi araçların hangi veriyle kullanılabileceğini net kurallara bağlayın ve bu kuralları düzenli eğitimle canlı tutun.
15. Sürekli izleme ve olgunluk ölçümü kurun. Model çağrılarının loglanması, anomali uyarıları ve kontrollerin dönemsel gözden geçirilmesi, listeyi tek seferlik projeden yaşayan bir programa çevirir. İlerlemeyi olgunluk modeli üzerinden dönemsel olarak puanlayın.

30-60-90 günlük uygulama sırası

On beş adımı aynı anda başlatmak çoğu kurum için gerçekçi değildir. Aşağıdaki sıralama, yapay zeka güvenlik önlemleri programını üç aylık bir rampa üzerinden kurar:

• İlk 30 gün — görünürlük: Envanteri ve AI-BOM'u çıkarın (adım 1), sahipliği atayın (adım 2), kullanım senaryolarını risk düzeyine göre sıralayın (adım 3) ve tek sayfalık bir kabul edilebilir kullanım politikası yayımlayın. Bu ayın çıktısı, "neyimiz var ve en riskli olan hangisi" sorusunun yazılı yanıtıdır.
• 31-60 gün — teknik çekirdek: En riskli senaryodan başlayarak girdi-çıktı filtrelemesini devreye alın (adım 6), guardrail eşiklerini gerçek trafikle kalibre edin (adım 7), AI-DLP kurallarını açın (adım 8) ve tedarikçi ile KVKK değerlendirmelerini tamamlayın (adım 4-5).
• 61-90 gün — doğrulama ve döngü: Veri hattı ve entegrasyon incelemelerini bitirin (adım 9-11), ilk red teaming testini yaptırın (adım 12), olay planını bir masa başı tatbikatıyla deneyin (adım 13) ve izleme ile farkındalık programını sürekli hâle getirin (adım 14-15).

Doksanıncı günün sonunda amaç kusursuzluk değil, ölçülebilir bir taban çizgisidir: hangi kontrol var, hangisi test edildi, hangisi bir sonraki çeyreğe kaldı. Konunun bütünsel çerçevesi için yapay zekâ güvenliği rehberine göz atabilirsiniz.

Sık sorulan sorular

En kritik ilk önlem hangisi?

Yapay zekâ envanteri, yani kurumda hangi modellerin, araçların ve entegrasyonların kullanıldığının eksiksiz listesi. Görmediğiniz sistemi koruyamazsınız; gölge AI kullanımı envanter olmadan tespit edilemez. Envanter çıkarıldıktan sonra en yüksek riskli kullanım senaryosundan başlayarak teknik kontroller sıralanır.

Küçük ekipler için minimum set nedir?

Dört önlemlik bir çekirdek yeterli bir başlangıçtır: kullanılan yapay zeka araçlarının basit bir envanteri, hassas verinin modele gönderilmesini sınırlayan yazılı bir kullanım politikası, prompt injection ve veri sızıntısına karşı girdi-çıktı filtrelemesi ve bir olay anında kimin ne yapacağını söyleyen tek sayfalık müdahale planı. Ekip büyüdükçe bu çekirdek 15 adımlık listeye doğru genişletilir.

Önlemler ne sıklıkla test edilmeli?

Guardrail ve filtre kuralları her model veya prompt değişikliğinde; kapsamlı AI red teaming ya da pentest çalışması yılda en az bir kez ve büyük mimari değişikliklerden sonra; olay müdahale planı ise yılda en az bir masa başı tatbikatıyla test edilmelidir. Yapay zekâ sistemleri sık güncellendiği için 'bir kez test et, unut' yaklaşımı klasik yazılımlara göre çok daha hızlı eskir.

KVKK için hangi önlemler zorunlu?

KVKK belirli teknik ürünleri isimlendirmez; veri sorumlusundan kişisel verinin hukuka uygun işlenmesini ve korunması için gerekli tedbirlerin alınmasını ister. Pratikte bu, yapay zeka iş akışları için veri envanteri, aydınlatma ve gerekli hallerde açık rıza süreçleri, modele giden kişisel verinin en aza indirilmesi veya maskelenmesi, yurt dışına veri aktarımının kontrolü ve ihlal durumunda bildirim sürecinin hazır olması anlamına gelir.

Kaynaklar

• OWASP GenAI Security Project — LLM ve üretken yapay zekâ güvenlik kaynakları
• NIST AI Risk Management Framework (AI RMF)
• MITRE ATLAS — Adversarial Threat Landscape for AI Systems
• KVKK — Kişisel Verileri Koruma Kurumu

Bu kontrol listesi bilgilendirme amaçlı genel bir çerçevedir; güvenlik garantisi değildir. Her kontrolün etkinliği, kurumun kendi ortamında test edilerek doğrulanmalıdır ve hukuki yükümlülükler için yetkili danışmanlığa başvurulmalıdır.

İlgili Yazılar

• Yapay Zekânın Güvenlik Riskleri
• AI Güvenlik Olgunluk Modeli
• AI Red Teaming Nedir?
• Türkiye'de AI Pentest Fiyatları 2026