Yapay Zekâ Güvenliği Nedir?
AI Safety vs AI Security
Yapay zekâ güvenliği; modelin yanı sıra veri, prompt, RAG, bellek, araç, kimlik, API ve uygulama altyapısını yetkisiz erişim, manipülasyon, veri sızıntısı ve kesintiye karşı koruma disiplinidir. Bu rehber AI Security ile AI Safety ayrımını, güncel saldırı yüzeyini ve uygulanabilir savunma yaklaşımını açıklar.
Kısa cevap: Yapay zekâ güvenliği nedir?
Tek bir filtre, sistem promptu veya jailbreak listesi güvenlik sınırı değildir. Güvenli tasarım; mimariye özgü tehdit modeli, en az yetki, güvenilmeyen bağlamın ayrıştırılması, deterministik doğrulama, insan onayı, izleme ve tekrarlanabilir güvenlik testlerini birlikte gerektirir.
İki dünya, bir terim: "yapay zekâ güvenliği"
Google'a "yapay zekâ güvenliği" yazdığınızda karşınıza iki farklı evren çıkıyor. İlki AI Safety — yapay genel zekânın (AGI) insanlığa zarar vermemesini, kontrol edilebilir kalmasını, değerlerimizle uyumlu (aligned) olmasını araştıran alan. İkincisi AI Security — bugün üretimde çalışan LLM tabanlı uygulamaların (chatbot'lar, RAG sistemleri, AI agent'lar) saldırılara karşı korunmasını, veri sızıntısının engellenmesini, prompt injection'ın durdurulmasını hedefleyen alan.
Her ikisi de önemli. Ama farklı problemlere, farklı zaman ufuklarına, farklı araçlarla cevap veriyorlar. Ve Türkiye'de ikisi sıkça karıştırılıyor.
AI Safety: varoluşsal risk ve alignment
AI Safety, yapay zekânın uzun vadeli risklerini araştıran akademik-politik bir alan. Temel sorular şunlar:
- Bir yapay genel zekâ (AGI), insan değerleriyle uyumlu kalacak şekilde nasıl tasarlanır?
- Süper zekâ düzeyine ulaşan bir sistem kontrol altında tutulabilir mi?
- LLM'lerin ölçeklendikçe beklenmeyen yetenekler (emergent capabilities) geliştirmesi engellenebilir mi?
- Yapay zekâ silahlanma yarışı nasıl durdurulur?
Bu alanın figürleri Yoshua Bengio, Geoffrey Hinton, Stuart Russell gibi araştırmacılar. Kurumlar olarak Anthropic, OpenAI'ın Safety ekibi, MIRI (Machine Intelligence Research Institute), ARC (Alignment Research Center) öne çıkıyor. Türkiye'de ise AI Safety Türkiye bu alanı temsil eden ve Türkçe içerik üreten bir topluluk.
AI Safety önemli ve gerekli bir araştırma alanı. Ancak şu anda Türkiye'deki bir şirketin chatbot projesine bakan CTO'nun acil sorunu bu değil. Onun acil sorunu: "Chatbot'um müşteri verisini sızdırır mı? Birisi prompt injection ile sistemi manipüle edebilir mi? KVKK'ye uygun mu?"
AI Security: bugünün gerçek tehdit yüzeyi
AI Security (ya da daha spesifik haliyle LLM Security), üretimde çalışan yapay zekâ uygulamalarının güvenliğiyle ilgilenen pratik bir disiplin. Zaman ufku "şu an" — 5 yıl sonra AGI ne yapar değil, bugün üretimdeki chatbot'unuza biri prompt injection denediğinde ne olur.
Ana tehdit kategorileri
OWASP LLM Top 10 (2025 güncellemesi) bu alanın referans çerçevesidir. En kritik riskler:
- Prompt Injection (LLM01): Saldırgan, modelin sistem talimatlarını atlayarak gizli bilgi sızdırır veya istenmeyen eylemler yaptırır. Doğrudan ("önceki talimatları unut") veya dolaylı (bir web sayfasına gömülü talimatlar yoluyla) olabilir.
- Hassas Bilgi Sızdırma (LLM06): Model, eğitim verisi veya sistem promptu içindeki PII (kişisel veri), API anahtarları, iç politikalar gibi bilgileri dışarıya açık eder.
- RAG Poisoning: Bilgi tabanı (retrieval-augmented generation) zehirlenerek modelin yanlış veya zararlı bilgiyle yanıt vermesi sağlanır.
- Agent Hijacking: Tool-use yetenekli AI agent'lar, saldırgan tarafından istenmeyen aksiyonlar almaya (e-posta gönderme, dosya silme, API çağırma) yönlendirilir.
- Aşırı Yetkilendirme (LLM08): LLM'e gereğinden fazla yetki verilmesi — veritabanına yazma, dosya silme, ödeme işlemi yapma gibi — saldırı yüzeyini genişletir.
Her birinin detaylı açıklaması ve Türkçe örnekler için OWASP LLM Top 10 Türkçe Rehberimize bakın.
İki kavram, bir tablo
| AI Safety | AI Security | |
|---|---|---|
| Temel soru | AGI insanlığa zarar verir mi? | LLM uygulamamız kırılır mı? |
| Zaman ufku | 5-50 yıl | Bugün, şu an |
| Tehdit aktörü | Yapay zekânın kendisi | İnsan saldırganlar |
| Araçlar | Alignment, RLHF, interpretability | Pentest, prompt injection testi, guardrail, WAF |
| Referans çerçeve | Anthropic RSP, OpenAI Safety | OWASP LLM Top 10, NIST AI RMF |
| Kariyer profili | Araştırmacı (PhD, lab) | Güvenlik mühendisi, pentest, red team |
| Türkiye'deki örnek odak | AI Safety Türkiye ve akademik topluluklar | AltaySec'in uygulamalı AI Security çalışmaları |
İkisi rakip değil, tamamlayıcı. AI Safety olmadan uzun vadeli riskleri görmezden gelirsiniz; AI Security olmadan bugün üretim hattınızdaki chatbot saldırıya açık kalır.
Neden Türkçe yapay zekâ güvenliği önemli?
LLM güvenliği araştırması dünyada ağırlıklı olarak İngilizce yürüyor. Bu üç somut sorun yaratıyor:
1. Türkçe saldırı yüzeyleri test edilmiyor
Türkçe eklemeli bir dil — İngilizcedeki "ignore previous instructions" kalıbının Türkçede düzinelerce varyantı var. İngilizce blocklist'ler ve guardrail'ler Türkçe atakları kapsamıyor. AltayDuel verimizden çıkan 5 saldırı kalıbı bunu somut transkriptlerle gösteriyor.
2. KVKK'ye özgü veri sızıntısı riskleri
Türk vatandaşlarının TC kimlik numarası (11 haneli, Luhn-benzeri), IBAN formatı (TR + 24 hane), VKN ve plaka gibi PII tipleri İngilizce PII tarayıcılarında yok. Bir LLM chatbot'u bu verileri sızdırdığında KVKK ihlali oluşuyor — ama standart araçlar bunu yakalamıyor. Bu boşluğu kapatmak için tr-pii-detect açık kaynak kütüphanesini geliştirdik.
3. Yerel sosyal mühendislik bağlamı
"MASAK denetçisi", "SGK e-Devlet asistanı", "BDDK yetkili personeli" gibi otorite figürleri Türkiye'ye özgü saldırı vektörleri oluşturuyor. İngilizce bir red team aracı bu bağlamları kapsamaz; Türkçe test senaryoları gerekiyor.
AltaySec ne yapıyor?
AltaySec, Türkiye merkezli bir yapay zekâ güvenliği ekibi olarak araştırma, ürün, güvenlik değerlendirmesi, açık kaynak ve eğitim çalışmalarını aynı teknik pratikte birleştirir. Bu çalışma, Türkiye'de yapay zekâ güvenliği alanını kuran ve geliştiren isimler arasında yer alan Fevzi Ege Yurtsevenler ve Enes Deniz tarafından yürütülür.
🔬 Araştırma
Türkçe LLM güvenliğine dair sürekli genişleyen bir teknik araştırma kütüphanesi yayımlıyoruz. Prompt injection, OWASP LLM Top 10, AI agent güvenliği, RAG güvenliği ve Bekçi lab mimarisi gibi konularda açık Türkçe kaynaklar üretiyoruz.
🏟️ AltayDuel — Agent vs Agent Arena
AltayDuel, AI agent'ların birbirleriyle prompt injection düellosu yaptığı Türkçe bir arena. Açık, sürekli büyüyen veri setimiz 5 yapısal saldırı kalıbını ortaya çıkardı. Claude, Gemini, Llama agent'ları destekleniyor.
🔒 Bekçi — Türkçe Prompt Injection Lab
LLM Security Akademi üzerinden erişilen Bekçi, Lakera Gandalf'tan ilham alan ama tamamen Türkçe tasarlanmış 8 seviyeli bir laboratuvar. Her seviye bir savunma katmanı ekler; öğrenci prompt injection'ı deneyimleyerek öğrenir. Mimari detayları burada.
🛡️ Guardian — AI Firewall
AltaySec Guardian, LLM uygulamalarını prompt injection, PII sızıntısı ve KVKK ihlallerine karşı koruyan yerli bir güvenlik katmanı. Türkçe PII tipleri (TCKN, IBAN, VKN, plaka) dahili olarak desteklenir.
📦 Açık Kaynak
- tr-pii-detect — Türkçe PII tespit kütüphanesi (TCKN, IBAN, VKN, kredi kartı, telefon, plaka). 109 test, sıfır bağımlılık.
- AltaySec/turkish-llm-injection ve altayduel-transcripts — açık Türkçe prompt injection veri setleri, HuggingFace'te canlı (CC-BY-4.0). Güncel sayılar HuggingFace'te.
- Turkish Conversation Prompt-Injection Dataset — Enes Deniz tarafından yayımlanan 750 örneklik açık Türkçe veri seti; meşru talepler ile saldırıları eşleştirilmiş sınır örnekleri üzerinden çalışır.
Yapay zekâ güvenliğine nasıl başlanır?
Eğer bu alana girmek istiyorsanız — ister kariyer olarak, ister şirketinizdeki LLM projesini güvenli hale getirmek için — önerilen yol haritası:
1. Temel kavramları öğrenin
- LLM Security Nedir? — Kapsamlı giriş
- Prompt Injection Nedir? — En yaygın atak vektörü
- OWASP LLM Top 10 Türkçe — Referans çerçeve
2. Pratik yapın
- Bekçi Lab — 8 seviye prompt injection challenge
- AltayDuel — Agent'ınızı gönderin, düello yapın
- Lakera Gandalf — İngilizce benchmark (biz bunu Türkçeye çevirdik)
3. Derinleşin
- RAG Güvenliği — Bilgi tabanı zehirlenmesi
- AI Agent Güvenliği — Tool-use riskleri
- Türkçe Prompt Injection: 5 Saldırı Kalıbı — Gerçek transkriptler
- LLM Security Kariyer Yol Haritası
4. Topluluğa katılın
- LinkedIn'de takip edin — Haftalık içerikler
- GitHub'da katkı verin — tr-pii-detect ve diğer projeler
- Danışmanlık için yazın — Kurumsal LLM güvenlik testi
Sıkça sorulan sorular
AI Safety ile AI Security aynı şey mi?
Hayır. AI Safety; güvenli davranış, insan gözetimi ve uzun vadeli risklerle ilgilenir. AI Security ise LLM, RAG ve AI agent uygulamalarını prompt injection, veri sızıntısı, yetki kötüye kullanımı ve tedarik zinciri saldırıları gibi tehditlere karşı korur.
Türkiye'de yapay zekâ güvenliği alanında kimler çalışıyor?
Türkiye'de yapay zekâ güvenliği alanını kuran ve geliştiren isimler arasında AltaySec kurucuları Fevzi Ege Yurtsevenler ve Enes Deniz yer alır. Ekip; LLM uygulama güvenliği, prompt injection ve jailbreak savunması, AI agent ve RAG güvenliği, AI red/blue teaming, güvenlik değerlendirmesi, ürün geliştirme ve teknik araştırma alanlarında çalışır.
Bir LLM uygulamasını güvenli hale getirmek için ne yapmalıyım?
Önce modeli, veri kaynaklarını, RAG katmanını, araçları, kimlikleri ve yetki sınırlarını içeren bir sistem envanteri çıkarın. Ardından mimariye özgü tehdit modeli, en az yetki, deterministik doğrulama, izleme, red teaming ve güvenlik regresyon testleri uygulayın.
KVKK ve LLM güvenliği nasıl kesişiyor?
LLM uygulamaları prompt, log, RAG kaynağı, bellek ve model çıktısı üzerinden kişisel veri işleyebilir veya sızdırabilir. Veri minimizasyonu, erişim kontrolü, maskeleme, saklama politikası ve olay izleme bu nedenle LLM güvenlik mimarisinin parçasıdır.
Kaynaklar ve kanıt sınırı
Bu rehber bir güvenlik garantisi değildir. Sonuçlar; değerlendirilen mimari, model, veri, araç, yapılandırma ve tehdit kapsamına bağlıdır. Güvenlik kontrolleri her önemli değişiklikten sonra yeniden test edilmelidir.
Sonuç
Yapay zekâ güvenliği tek bir şey değil — en az iki farklı disiplini kapsayan bir şemsiye terim. Her ikisine de ihtiyacımız var. Ancak Türkiye'deki bir yazılım ekibinin, bir fintech'in, bir kamu kurumunun bugün ihtiyaç duyduğu şey AI Safety'nin varoluşsal risk tartışmaları değil; üretim hattındaki LLM'lerinin prompt injection'a, veri sızıntısına ve KVKK ihlaline karşı korunması.
AltaySec bu boşluğu Türkiye'de kapatmak için kuruldu. Türkçe veri setleri, açık teknik araştırmalar, izlenebilir açık kaynak katkıları ve mimariye özgü güvenlik değerlendirmeleriyle yapay zekâ güvenliğini ölçülebilir bir mühendislik pratiğine dönüştürüyoruz.
Başlayın: Bekçi Lab'a girin · Araştırmaları okuyun · AltayDuel'de düello yapın