Yapay Zekânın Güvenlik Riskleri Nelerdir?
10 Risk, 10 Önlem

Riske üç açıdan bakmak

"Yapay zeka riskleri" tek bir liste değildir; kim olduğunuza göre liste değişir. Üç bakış açısı ayırt etmek, hangi riskin sizin için öncelikli olduğunu netleştirir:

• Yapay zekâyı kullanan kurum: Hazır bir modeli veya SaaS aracını iş süreçlerine bağlayan şirket. Öncelikli riskleri veri sızıntısı, gölge AI, halüsinasyona dayalı hatalı karar ve mevzuat uyumudur.
• Yapay zekâ üreten ekip: Kendi modelini eğiten, ince ayar yapan veya LLM üzerine uygulama geliştiren ekip. Öncelikli riskleri prompt injection, veri/model zehirleme, tedarik zinciri ve adversarial saldırılardır.
• Yapay zekânın hedef aldığı herkes: Saldırganların yapay zekâyı silah olarak kullandığı senaryonun muhatabı — yani hepimiz. Öncelikli riskler deepfake dolandırıcılığı ve yapay zekâ ile ölçeklenen oltalama saldırılarıdır.

Aşağıdaki 10 risk bu üç açıyı birlikte kapsıyor. Her başlıkta riskin ne olduğunu bir-iki paragrafta özetliyor, ardından tek satırlık bir önlemle kapatıyoruz. Önlemleri uygulama sırasına dökmek isteyenler için ayrıca adım adım bir yapay zekâ güvenlik önlemleri kontrol listesi hazırladık.

10 risk, 10 önlem

1. Prompt injection (talimat enjeksiyonu)

LLM tabanlı uygulamaların bir numaralı zafiyeti: saldırgan, modele verilen sistem talimatlarını kullanıcı girdisi veya işlenen içerik üzerinden geçersiz kılar. OWASP'ın GenAI güvenlik projesi bu riski LLM uygulamaları listesinin ilk sırasına koyar. Saldırı doğrudan sohbet kutusundan gelebileceği gibi, modelin okuduğu bir web sayfasına, PDF'e veya RAG hattındaki bir belgeye gizlenmiş dolaylı talimatlarla da gerçekleşir. Ayrıntılı anlatım için prompt injection rehberimize bakabilirsiniz.

Önlem: Girdi/çıktı filtrelemesi, modelin erişebildiği araç ve verileri en aza indiren ayrıcalık ayrımı ve kritik eylemlerde insan onayı; tek bir "güçlü sistem promptu" asla yeterli değildir.

2. Veri sızıntısı ve gizlilik ihlali

Çalışanların sohbet botlarına müşteri verisi yapıştırması, modelin eğitim verisinden kişisel bilgi "hatırlaması" veya bir uygulamanın sistem promptundaki gizli bilginin konuşturulması — hepsi aynı sonuca çıkar: kontrolsüz veri ifşası. Türkiye bağlamında bu risk doğrudan KVKK yükümlülüklerine bağlanır; teknik ayrıntıyı KVKK ve LLM güvenliği yazısında inceledik.

Önlem: Modele giden ve modelden dönen trafikte kişisel veri maskeleme/DLP katmanı, veri sınıflandırma politikası ve "hangi veri hangi modele gidebilir" kuralının yazılı hâle getirilmesi.

3. Halüsinasyon ve yanlış bilgi

Üretken modeller bilmedikleri yerde de akıcı ve kendinden emin cevap üretir. Hukuki dayanak uyduran, olmayan API fonksiyonu öneren veya yanlış doz bilgisi veren bir model, kötü niyet olmadan da zarar doğurur. Sorun modelin "yalan söylemesi" değil, çıktının doğrulanmadan karara dönüşmesidir. Bu konuyu "yapay zekâ güvenilir mi?" sorusu etrafında ayrıca ele aldık.

Önlem: Kritik akışlarda insan onayı zorunluluğu, cevapların kaynak göstermeye zorlanması ve yüksek riskli alanlarda modelin "bilmiyorum" diyebilmesinin ödüllendirildiği değerlendirme setleri.

4. Deepfake ve dolandırıcılık

Ses ve görüntü sentezi, sosyal mühendisliğin inandırıcılık katmanını otomatikleştirdi: yöneticiyi taklit eden sesli arama, sahte video konferans, kimlik doğrulamayı kandırmaya çalışan üretilmiş yüzler. Yapay zekâ aynı zamanda oltalama metinlerini kişiselleştirip ölçeklendiriyor; bu dönüşümü AI destekli phishing yazısında, tespit tarafını ise kurumsal deepfake tespiti karşılaştırmasında anlattık.

Önlem: Belirli eşiğin üzerindeki ödeme ve yetki taleplerinde kanal-dışı doğrulama (bilinen numaradan geri arama, dâhili teyit kodu); teknik tespit araçları bu süreci destekler, ikame etmez.

5. Veri ve model zehirleme

Saldırgan, modelin eğitim veya ince ayar verisine kasıtlı örnekler sokarak davranışını değiştirir: belirli bir tetikleyici kelimeyle aktifleşen arka kapılar, belirli markaya sistematik önyargı veya güvenlik filtrelerinin sessizce zayıflatılması. Zehirleme, model dağıtıldıktan sonra fark edilmesi en zor risklerden biridir; mekanizmayı veri zehirleme rehberinde ayrıntılandırdık.

Önlem: Eğitim verisinin kaynağını ve bütünlüğünü doğrulama, veri hattında sürüm ve erişim kontrolü, ince ayar sonrası güvenlik davranışının yeniden test edilmesi.

6. Tedarik zinciri riskleri

Modern yapay zekâ yığını dışarıdan gelen parçalarla kurulur: hazır modeller, açık kaynak kütüphaneler, üçüncü taraf API'ler, MCP sunucuları. Her parça bir güven varsayımıdır ve her varsayım saldırı yüzeyidir — sahte model depoları, zararlı ağırlık dosyaları, typosquatting yapan paketler. Model indirme tarafındaki somut vakaları Hugging Face tedarik zinciri riskleri yazısında topladık.

Önlem: Model ve bağımlılık envanteri (AI-BOM), yalnızca doğrulanmış yayıncılardan indirme, hash/imza kontrolü ve üçüncü taraf bileşenlerin düzenli taranması.

7. AI agent'lara aşırı yetki

Ajanlaşmış sistemler yalnızca metin üretmez; e-posta gönderir, kod çalıştırır, dosya siler, ödeme başlatır. Modele verilen her araç ve yetki, prompt injection gibi saldırıların etki alanını büyütür: manipüle edilen bir ajan, artık sadece yanlış cevap veren değil, yanlış eylem yapan bir sistemdir. Tehdit modelini AI agent güvenliği rehberinde çıkardık.

Önlem: En az yetki ilkesi (least agency): ajanın erişebildiği araçları göreve göre daraltmak, geri alınamaz eylemlerde insan onayı ve acil durdurma (kill-switch) mekanizması.

8. Adversarial (hasmane) saldırılar

Makine öğrenmesi modelleri, insan gözünün fark etmeyeceği kadar küçük ama hesaplanmış girdiler karşısında sistematik biçimde yanılabilir: dur işaretini hız sınırı olarak okuyan görüntü modeli, zararlı yazılımı temiz sınıflandıran tespit motoru, özel hazırlanmış eklerle kandırılan LLM. Bu saldırı ailesi MITRE ATLAS çerçevesinde taktik taktik haritalanmıştır; temel kavramları adversarial ML rehberinde anlattık.

Önlem: Modeli üretime almadan önce adversarial testten geçirmek, dayanıklılık (robustness) değerlendirmesini sürekli hâle getirmek ve tek modele değil katmanlı kontrole güvenmek.

9. Gölge AI: kontrolsüz kurumsal kullanım

Çalışanların BT'nin bilgisi dışında kişisel hesaplarla yapay zekâ araçları kullanması, kurumun veri ve uyum kontrollerini görünmez biçimde deler. Yasaklamak çözmez; kullanım yalnızca daha derine iner. Asıl sorun aracın kendisi değil, hangi verinin hangi araca gittiğinin bilinmemesidir; kurumsal tarafını ChatGPT'nin kurumsal kullanım güvenliği yazısında ele aldık.

Önlem: Onaylı araç kataloğu ve kurumsal hesaplar sunmak, net bir kabul edilebilir kullanım politikası yayınlamak ve yasak yerine güvenli alternatif göstermek.

10. Mevzuat ve uyum riski

Yapay zekâ riski yalnızca teknik değil, hukukidir. Türkiye'de kişisel veri işleyen her yapay zekâ uygulaması KVKK kapsamındadır; Avrupa pazarına dokunan sistemler için EU AI Act risk sınıflarına göre yükümlülük getirir; siber güvenlik tarafında 7545 sayılı Siber Güvenlik Kanunu kritik altyapı ve olay bildirimi boyutunu ekler. Uyumsuzluk; idari yaptırım, sözleşme kaybı ve itibar hasarı olarak geri döner.

Önlem: Yapay zekâ sistem envanteri çıkarmak, her sistemi ilgili mevzuata göre sınıflandırmak ve yönetişim sorumluluğunu (kim onaylar, kim denetler) tek bir sahibe bağlamak.

Risk–önlem özet tablosu

Aşağıdaki tablo 10 riski, en çok kimi etkilediğiyle ve tek cümlelik temel önlemiyle birlikte özetler:

Bu önlemlerin hangi araç ve hizmet katmanlarıyla hayata geçirilebileceğini yapay zekâ güvenliği çözümleri sayfasında; kurum içinde savunma tarafında yapay zekâdan nasıl yararlanılacağını ise siber güvenlikte yapay zekâ kullanımı yazısında ayrıntılandırdık.

Sık sorulan sorular

En büyük yapay zeka riski nedir?

Tek bir cevap yok; risk, yapay zekâyı nasıl kullandığınıza bağlıdır. LLM tabanlı uygulama çalıştıran kurumlar için pratikte en sık karşılaşılan risk prompt injection ve ona bağlı veri sızıntısıdır; OWASP GenAI güvenlik projesi de prompt injection'ı LLM uygulamaları için ilk sırada listeler. Bireysel kullanıcılar içinse deepfake destekli dolandırıcılık ve halüsinasyon kaynaklı yanlış bilgi günlük hayatta daha görünür risklerdir.

Bireysel kullanıcı için ana riskler nelerdir?

Bireysel kullanıcı için öne çıkan dört risk: deepfake ses/görüntü ile dolandırıcılık, yapay zekâ ile yazılmış ikna edici oltalama mesajları, halüsinasyon kaynaklı yanlış bilginin doğrulanmadan kullanılması ve sohbet botlarına kişisel veri paylaşarak gizliliğin kaybedilmesi. Pratik önlemler: acil para veya şifre talebini her zaman ikinci bir kanaldan teyit etmek, sohbet botlarına kimlik ve finans bilgisi yazmamak, kritik kararlarda modelin cevabını bağımsız bir kaynaktan doğrulamak.

Riskler nasıl önceliklendirilir?

Önce envanter: kurumda hangi yapay zekâ sistemlerinin hangi verilere ve yetkilere eriştiğini çıkarın. Sonra her sistemi olasılık ve etki eksenlerinde puanlayın. İnternete açık olma, hassas veriye erişim ve otonom eylem yetkisi bir arada bulunuyorsa o sistem listenin en üstüne çıkar; yalnızca iç kullanımda olan ve insan onayıyla çalışan sistemler daha aşağıda kalır. NIST AI RMF gibi çerçeveler bu değerlendirmeyi tekrarlanabilir bir sürece bağlamak için kullanılabilir.

Yapay zekanın tehlikeleri nelerdir kısaca?

Kısaca: yapay zekâ sistemleri manipüle edilebilir (prompt injection, adversarial saldırılar), veri sızdırabilir veya yanlış bilgi üretebilir (gizlilik ihlali, halüsinasyon), kötüye kullanılabilir (deepfake, otomatik oltalama), tedarik zinciri ve eğitim verisi üzerinden zehirlenebilir ve kontrolsüz kullanımda hukuki sorumluluk doğurabilir. Bu tehlikelerin hiçbiri teorik değildir; hepsi için belgelenmiş saldırı teknikleri ve buna karşılık uygulanabilir önlemler vardır.

Kaynaklar

• OWASP GenAI Security Project — LLM uygulamaları için Top 10 risk listesi
• NIST AI Risk Management Framework (AI RMF)
• MITRE ATLAS — Adversarial Threat Landscape for AI Systems
• EU Artificial Intelligence Act — resmî metin ve uygulama takvimi kaynağı
• KVKK — Kişisel Verileri Koruma Kurumu

Bu rehber bilgilendirme amaçlıdır ve bir güvenlik garantisi değildir; burada sıralanan önlemler riski azaltır ama sıfırlamaz. Kendi ortamınızdaki gerçek risk düzeyi ancak sisteme özgü test ve değerlendirme ile ölçülebilir.

İlgili Yazılar

• Yapay Zekâ Güvenlik Önlemleri Kontrol Listesi
• Yapay Zekâ Güvenilir mi?
• En Güvenli Yapay Zekâ Hangisi?
• Prompt Injection Nedir?