Yapay Zekâ Güvenliği Nedir?
Tehditler, Önlemler ve Savunma — Türkiye Rehberi

Kısa cevap: Yapay zekâ güvenliği nedir?

Terim pratikte üç şeyi birden kapsar: yapay zekâ sistemlerinin korunması (security for AI), yapay zekânın siber savunmada kullanılması (AI for security) ve saldırganların yapay zekâyı silah olarak kullanmasına karşı hazırlık. Bu rehberin ana odağı ilki; ama üçü birbirinden ayrı düşünülemez ve aşağıda üçünü de ele alıyoruz.

Tek bir filtre, sistem promptu veya jailbreak listesi güvenlik sınırı değildir. Güvenli tasarım; mimariye özgü tehdit modeli, en az yetki, güvenilmeyen bağlamın ayrıştırılması, deterministik doğrulama, insan onayı, izleme ve tekrarlanabilir güvenlik testlerini birlikte gerektirir.

Yapay zekâ ve siber güvenlik: iki yönlü bir ilişki

Yapay zekâ güvenliği, siber güvenliğin dışında duran ayrı bir ada değil; siber güvenlikle iki yönde kesişen bir alan.

1. Siber güvenlikte yapay zekâ kullanımı (AI for security)

Savunma tarafında yapay zekâ; SOC operasyonlarında uyarı önceliklendirme, log ve trafik analizi, anomali tespiti, phishing sınıflandırma, tespit kuralı üretimi ve olay özetleme için kullanılıyor. Önde gelen SIEM/SOAR ürünlerinin birçoğu LLM destekli bileşenler eklemeye başladı. Bu mimarinin nasıl kurulduğunu AI SOC mimarisi ve AI destekli SIEM/SOAR tespit kuralları yazılarında ayrıntılı inceliyoruz. Kritik nokta şu: savunmada kullandığınız yapay zekâ da bir saldırı yüzeyidir — tespit hattınıza yerleştirdiğiniz LLM, prompt injection ile manipüle edilebilir.

2. Yapay zekâ sistemlerinin korunması (security for AI)

Kurumların chatbot, RAG asistanı ve AI agent olarak üretime aldığı sistemler; klasik uygulamaların taşımadığı yeni zafiyet sınıfları taşıyor. Bu rehberin ana gövdesi bu eksene ayrılmıştır: aşağıdaki tehdit taksonomisi, çerçeveler ve önlemler bu sistemleri korumak içindir.

3. Saldırganın elindeki yapay zekâ

Aynı teknoloji saldırı tarafında da çalışıyor: hedef kişiye göre yazılmış kusursuz Türkçe phishing e-postaları, yönetici sesini taklit eden deepfake aramalar ve otomatikleştirilmiş keşif. AI destekli phishing ve ses klonlama savunma protokolü yazılarımız bu tarafın somut savunma adımlarını anlatıyor. Kurumsal yapay zeka güvenliği planı, bu üç ekseni birlikte ele almak zorundadır.

İki dünya, bir terim: "yapay zekâ güvenliği"

Google'a "yapay zekâ güvenliği" yazdığınızda karşınıza iki farklı evren çıkıyor. İlki AI Safety — yapay genel zekânın (AGI) insanlığa zarar vermemesini, kontrol edilebilir kalmasını, değerlerimizle uyumlu (aligned) olmasını araştıran alan. İkincisi AI Security — bugün üretimde çalışan LLM tabanlı uygulamaların (chatbot'lar, RAG sistemleri, AI agent'lar) saldırılara karşı korunmasını, veri sızıntısının engellenmesini, prompt injection'ın durdurulmasını hedefleyen alan.

Her ikisi de önemli. Ama farklı problemlere, farklı zaman ufuklarına, farklı araçlarla cevap veriyorlar. Ve Türkiye'de ikisi sıkça karıştırılıyor.

AI Safety: varoluşsal risk ve alignment

AI Safety, yapay zekânın uzun vadeli risklerini araştıran akademik-politik bir alan. Temel sorular: Bir yapay genel zekâ (AGI) insan değerleriyle uyumlu kalacak şekilde nasıl tasarlanır? Ölçeklenen modellerin beklenmeyen yetenekler geliştirmesi engellenebilir mi? Kontrol ve gözetim mekanizmaları nasıl kurulur?

Bu alanın figürleri Yoshua Bengio, Geoffrey Hinton, Stuart Russell gibi araştırmacılar; kurumlar olarak Anthropic, OpenAI'ın Safety ekibi, MIRI ve ARC öne çıkıyor. Türkiye'de AI Safety Türkiye bu alanı temsil eden ve Türkçe içerik üreten bir topluluk.

AI Safety önemli ve gerekli bir araştırma alanı. Ancak şu anda Türkiye'deki bir şirketin chatbot projesine bakan CTO'nun acil sorunu bu değil. Onun acil sorunu: "Chatbot'um müşteri verisini sızdırır mı? Birisi prompt injection ile sistemi manipüle edebilir mi? KVKK'ye uygun mu?"

AI Security: bugünün tehdit yüzeyi

AI Security (LLM özelinde LLM Security), üretimde çalışan yapay zekâ uygulamalarının güvenliğiyle ilgilenen pratik bir disiplin. Zaman ufku "şu an" — 5 yıl sonra AGI ne yapar değil, bugün üretimdeki chatbot'unuza biri prompt injection denediğinde ne olur. Tehdit yüzeyini dört ana grupta toplayabiliriz.

OWASP LLM Top 10 (2026): uygulama katmanı riskleri

LLM uygulama güvenliğinin referans çerçevesi OWASP LLM Top 10'dur; 4 Ağustos 2026'da yayımlanan 2026 sürümünün tam listesi:

1. LLM01 Prompt Injection (Komut Enjeksiyonu): Saldırgan, doğrudan veya bir web sayfasına/dokümana gömülü dolaylı talimatlarla modelin davranışını ele geçirir. Ayrıntılı rehber.
2. LLM02 Sensitive Information Disclosure (Hassas Bilgi İfşası): Model; kişisel veri, API anahtarı veya iç politika gibi bilgileri istemeden açığa çıkarır.
3. LLM03 Excessive Agency (Aşırı Yetki / Özerklik): LLM'e gereğinden fazla araç, yetki veya özerklik verilmesi saldırı etkisini büyütür.
4. LLM04 Supply Chain (Tedarik Zinciri): Üçüncü taraf model, adapter, paket ve veri bağımlılıkları üzerinden gelen riskler — model hub riskleri ve slopsquatting dahil.
5. LLM05 Data and Model Poisoning (Veri ve Model Zehirlenmesi): Eğitim, fine-tuning veya RAG verisinin kasıtlı kirletilmesi. Veri zehirleme rehberi.
6. LLM06 Unbounded Consumption (Sınırsız Tüketim): Kota ve maliyet sınırı olmayan kullanımın servis dışı bırakma ve bütçe tüketimine dönüşmesi.
7. LLM07 Misinformation (Yanlış Bilgi): Halüsinasyonun ve yanlış çıktının iş kararlarına, koda veya kullanıcıya güvenlik etkisiyle yansıması.
8. LLM08 Hidden Context Exposure (Gizli Bağlam İfşası): Sistem promptu ve modele verilen gizli bağlamın açığa çıkması; sistem promptu bir güvenlik kontrolü değildir.
9. LLM09 Vector and Embedding Weaknesses (Vektör ve Gömme Zayıflıkları): RAG'in vektör veritabanı ve embedding katmanındaki zafiyetler. RAG güvenliği.
10. LLM10 Improper Output Handling (Hatalı Çıktı İşleme): Model çıktısının doğrulanmadan koda, sorguya veya sisteme aktarılması.

2026'da ne değiştiğinin analizi ve Türkçe tam liste için OWASP LLM Top 10 2026 rehberimize, yönetici özeti için CISO özetine, madde madde Türkçe açıklama ve 2025→2026 karşılaştırması için OWASP LLM Top 10 Türkçe rehberine bakın.

Modele yönelik saldırılar: adversarial ML, zehirleme, model hırsızlığı

LLM'lerden önce de var olan ve bugün hâlâ geçerli bir saldırı ailesi, makine öğrenmesi modellerinin kendisini hedefler:

• Adversarial örnekler (evasion): Girdiye insan gözünün fark etmeyeceği değişiklikler ekleyerek modelin yanlış sınıflandırma yapmasını sağlama — görüntü tanımadan spam filtresine kadar her modelde geçerli. Adversarial ML rehberi ve Türkçe üzerinde GCG adversarial suffix çalışmamız.
• Veri zehirleme (data poisoning): Eğitim verisine sızarak modelin davranışına arka kapı yerleştirme.
• Model hırsızlığı (model extraction): API üzerinden sistematik sorgularla modelin davranışını kopyalama veya eğitim verisi hakkında bilgi çıkarma (membership inference).

Bu tekniklerin savunma tarafı; girdi sağlamlaştırma, sorgu limitleri, izleme ve model erişim kontrolüdür. MITRE ATLAS bu saldırı ailesinin en kapsamlı haritasını sunar.

AI agent ve MCP riskleri

Araç kullanan, dosya okuyan, API çağıran agent'lar tehdit yüzeyini uygulamanın dışına taşır: tool poisoning, confused deputy, hedef saptırma ve bellek manipülasyonu bu katmanın öne çıkan riskleri. AI agent güvenliği, MCP sunucu güvenlik incelemesi ve least-agency yetki modeli yazılarımız bu alanı derinlemesine işliyor.

Deepfake, ses klonlama ve AI destekli sosyal mühendislik

Yapay zekâ güvenliğinin insan katmanı: birkaç saniyelik ses örneğinden üretilen taklit aramalar, gerçek zamanlı görüntü sahteciliği ve kişiselleştirilmiş phishing. Teknik savunma tek başına yetmez; doğrulama protokolleri ve çalışan farkındalığı gerekir. Kurumsal deepfake tespiti ve ses klonlama savunması rehberlerimize bakın.

Gerçek dünyadan olaylar: tehditler teoride kalmıyor

Yukarıdaki taksonomi soyut bir liste değil; her sınıfın kamuya yansımış, belgelenmiş örnekleri var:

• Deepfake video konferans dolandırıcılığı (2024): Mühendislik firması Arup'un Hong Kong ofisinde bir finans çalışanı, CFO'sunun ve meslektaşlarının deepfake görüntüleriyle yapılan sahte bir video toplantının ardından yaklaşık 25 milyon dolar transfer etti. Tehdit sınıfı: AI destekli sosyal mühendislik. İşleyen önlem: bant dışı doğrulama protokolü ve deepfake farkındalığı.
• Kurum içi kaynak kodun sohbet botuna yapıştırılması (2023): Samsung çalışanlarının dahili kodu ChatGPT'ye yapıştırdığının ortaya çıkması üzerine şirket, üretken yapay zekâ kullanımını kısıtladı. Tehdit sınıfı: gölge AI ve veri sızıntısı. İşleyen önlem: kullanım politikası, kurumsal sürüm ve AI-DLP.
• Chatbot'un uydurduğu indirim şirketi bağladı (2024): Air Canada'nın destek botu, var olmayan bir bilet iade koşulu uydurdu; Kanada'daki tüketici mahkemesi havayolunu chatbot'un verdiği bilgiden sorumlu tuttu. Tehdit sınıfı: yanlış bilgi (LLM07). İşleyen önlem: çıktı doğrulama ve kritik akışlarda insan onayı.
• Zero-click ajan saldırıları (2025-2026): E-posta asistanları ve tarayıcı ajanlarına gömülü içerikle kullanıcı hiçbir şeye tıklamadan veri sızdırılabildiği gösterildi; vaka analizimiz EchoLeak tarzı zincirleri adım adım inceliyor. Tehdit sınıfı: dolaylı prompt injection + aşırı yetki.

Bu olayların ortak dersi şu: zarar, modelin "kötü" olmasından değil; doğrulama, yetki sınırı ve izleme katmanlarının kurulmamış olmasından doğuyor. Türkçe saldırı yüzeyinin kendi verimizdeki karşılığı için AltayDuel saha bulgularına bakın.

İki kavram, bir tablo

İkisi rakip değil, tamamlayıcı. AI Safety olmadan uzun vadeli riskleri görmezden gelirsiniz; AI Security olmadan bugün üretim hattınızdaki chatbot saldırıya açık kalır.

Çerçeveler: OWASP, NIST AI RMF, MITRE ATLAS, ISO/IEC 42001

Yapay zekâ güvenliğini yapılandırmak için dört uluslararası çerçeve öne çıkıyor; her biri farklı bir soruya cevap verir.

OWASP LLM Top 10 ve Agentic Top 10

"Uygulamamda hangi zafiyet sınıfları var?" sorusunun cevabı. LLM Top 10 model-merkezli uygulamaları, Agentic Top 10 ise araç kullanan otonom sistemleri kapsar. Test kapsamı ve bulgu sınıflandırması için endüstri standardıdır.

NIST AI RMF

"Yapay zekâ riskini kurum düzeyinde nasıl yönetirim?" sorusunun cevabı. ABD standart kurumu NIST'in AI Risk Management Framework'ü; riski Govern → Map → Measure → Manage döngüsüyle ele alır ve teknik testin ötesinde yönetişim, envanter ve ölçüm disiplini kurar. Türkçe NIST AI RMF rehberimiz çerçeveyi adım adım anlatıyor.

MITRE ATLAS

"Saldırganlar gerçekte hangi teknikleri kullanıyor?" sorusunun cevabı. ATT&CK'in yapay zekâ karşılığı olan ATLAS; makine öğrenmesi sistemlerine yönelik saldırı taktik ve tekniklerini gerçek vaka çalışmalarıyla kataloglar. Türkçe ATLAS rehberimiz ve agentic teknikler analizimiz mevcut. Ayrıca tarayıcı içinde çalışan iki dilli ATLAS Labs matrisimizle teknikleri etkileşimli keşfedebilirsiniz.

ISO/IEC 42001

"Yapay zekâ yönetimimi belgelendirebilir miyim?" sorusunun cevabı. AI yönetim sistemi standardı; özellikle kurumsal satış ve tedarikçi denetimlerinde referans olarak yükseliyor. Türkiye'de ISO 42001 süreci yazımızda ayrıntılar var.

Mevzuat: EU AI Act, 7545 sayılı Kanun ve KVKK

Yapay zekâ güvenliği artık yalnızca teknik bir tercih değil, hukuki bir zorunluluk katmanı taşıyor. Türkiye'deki bir kurum için üç düzenleme öne çıkıyor:

• EU AI Act: Avrupa Birliği'nin risk-temelli yapay zekâ düzenlemesi; AB pazarına dokunan Türk şirketlerini de kapsar. Yükümlülük takvimi ve pratik uyum adımları için EU AI Act uyum rehberimize ve 2026 takvim analizimize bakın.
• 7545 sayılı Siber Güvenlik Kanunu: Türkiye'nin siber güvenlik çatı kanunu; Siber Güvenlik Başkanlığı'nın yetkileri ve kritik altyapı yükümlülükleri yapay zekâ sistemlerini de ilgilendiriyor. 7545 ve yapay zekâ analizimiz ile ikincil düzenleme takibimiz günceldir.
• KVKK: LLM uygulamaları prompt, log, RAG kaynağı ve model çıktısı üzerinden kişisel veri işler; TCKN, IBAN ve VKN gibi Türkiye'ye özgü kişisel veri tipleri İngilizce odaklı araçların kör noktasıdır. KVKK ve LLM güvenliği çerçevemiz uyum ekipleri için hazırlandı.

Yapay zeka güvenlik önlemleri: 10 maddelik kontrol listesi

"Yapay zeka güvenlik önlemleri nelerdir?" sorusunun kurumsal cevabı, tek bir ürün değil katmanlı bir disiplindir. Başlangıç için 10 madde:

1. Envanter çıkarın: Hangi modeller, veri kaynakları, araçlar ve kimlikler kullanımda? AI-BOM yaklaşımı burada başlar.
2. Tehdit modeli kurun: Mimarinize özgü saldırı senaryolarını OWASP ve ATLAS referanslarıyla çıkarın.
3. En az yetki uygulayın: Modelin ve agent'ların erişebildiği araç, veri ve API'yi ihtiyaçla sınırlayın.
4. Güvenilmeyen içeriği ayrıştırın: Kullanıcı girdisi ve harici doküman, sistem talimatıyla aynı kanalda işlenmemeli.
5. Girdi/çıktı doğrulama ve guardrail katmanı kurun: Prompt injection ve zararlı çıktı için çalışma zamanı kontrolü ekleyin.
6. Kişisel veriyi maskeleyin: TCKN, IBAN, VKN dahil Türkçe PII tiplerini loglardan ve çıktılardan ayıklayın.
7. Tedarik zincirini doğrulayın: Model, adapter ve paket kaynaklarını imza ve kaynak kontrolüyle alın.
8. İzleyin ve kaydedin: Prompt akışı, araç çağrıları ve anomaliler için telemetri kurun.
9. Düzenli test edin: Red teaming ve her değişiklik sonrası güvenlik regresyon testleri uygulayın.
10. İnsanı eğitin ve onay kapısı koyun: Kritik aksiyonlara insan onayı; çalışanlara deepfake/phishing farkındalığı.

Her maddenin ayrıntılı açıklaması için 15 adımlık kurumsal kontrol listemize, risk tarafının bütünsel haritası için yapay zekânın güvenlik riskleri rehberine bakın.

Yapay zekâ güvenliği çözümleri: savunma katmanları

Piyasadaki yapay zeka güvenliği çözümleri tek bir kategori değildir; olgun bir savunma altı katmandan seçki yapar:

• Güvenlik testi ve red teaming: LLM pentest, prompt injection testi, agent saldırı simülasyonu — zafiyeti üretimden önce bulur.
• Çalışma zamanı koruması (guardrail / AI firewall): Üretim trafiğinde girdi-çıktı filtreleme, injection tespiti ve PII maskeleme.
• İzleme ve tespit: AI'ya özgü telemetri, anomali tespiti ve olay müdahale entegrasyonu.
• Veri koruması: AI-DLP, veri minimizasyonu, erişim kontrolü ve KVKK uyum katmanı.
• Eğitim ve insan katmanı: Güvenli AI kullanımı, phishing/deepfake farkındalığı, teknik ekip eğitimi.
• Yönetişim: Politika, envanter, tedarikçi değerlendirmesi ve NIST/ISO hizalı risk yönetimi.

Hangi katmanın hangi durumda öncelikli olduğu ve AltaySec'in her katmandaki karşılığı için yapay zekâ güvenliği çözümleri sayfamıza; bağımsız model karşılaştırması için yerli LLM güvenlik karnesine bakın.

Neden Türkçe yapay zekâ güvenliği önemli?

LLM güvenliği araştırması dünyada ağırlıklı olarak İngilizce yürüyor. Bu üç somut sorun yaratıyor:

1. Türkçe saldırı yüzeyleri test edilmiyor

Türkçe eklemeli bir dil — İngilizcedeki "ignore previous instructions" kalıbının Türkçede düzinelerce varyantı var. İngilizce blocklist'ler ve guardrail'ler Türkçe atakları kapsamıyor. AltayDuel verimizden çıkan 5 saldırı kalıbı bunu somut transkriptlerle gösteriyor.

2. KVKK'ye özgü veri sızıntısı riskleri

Türk vatandaşlarının TC kimlik numarası (11 haneli, Luhn-benzeri), IBAN formatı (TR + 24 hane), VKN ve plaka gibi PII tipleri İngilizce odaklı PII tarayıcılarının çoğunda varsayılan olarak bulunmuyor. Bir LLM chatbot'u bu verileri sızdırdığında KVKK ihlali oluşuyor — ama standart araçlar bunu çoğu zaman yakalamıyor. Bu boşluğu kapatmak için tr-pii-detect açık kaynak kütüphanesini geliştirdik.

3. Yerel sosyal mühendislik bağlamı

"MASAK denetçisi", "SGK e-Devlet asistanı", "BDDK yetkili personeli" gibi otorite figürleri Türkiye'ye özgü saldırı vektörleri oluşturuyor. İngilizce bir red team aracı bu bağlamları kapsamaz; Türkçe test senaryoları gerekiyor.

Türkiye'de kim ne yapıyor?

Türkiye'de yapay zekâ güvenliği ekosistemi; doğrudan bu alana odaklı girişimlerden, AI uzantılı geleneksel siber güvenlik şirketlerinden, savunma sanayii kuruluşlarından, akademik laboratuvarlardan ve topluluklardan oluşuyor. Şirket şirket, isim isim güncel haritayı Türkiye'de Yapay Zekâ Güvenliği: Öne Çıkan Şirketler ve İsimler (2026) araştırmamızda tutuyoruz.

AltaySec ne yapıyor?

AltaySec, Türkiye merkezli bir yapay zekâ güvenliği ekibi olarak araştırma, ürün, güvenlik değerlendirmesi, açık kaynak ve eğitim çalışmalarını aynı teknik pratikte birleştirir; çalışmalar Fevzi Ege Yurtsevenler ve Enes Deniz tarafından yürütülür. Başlıca yüzeyler: Türkçe teknik araştırma kütüphanesi, AltayDuel agent arenası ve açık veri setleri (turkish-llm-injection, altayduel-transcripts, Turkish Conversation Prompt-Injection Dataset), Bekçi Türkçe prompt injection laboratuvarı, Guardian çalışma zamanı koruması ve tr-pii-detect açık kaynak kütüphanesi. Ürün ve hizmetlerin tamamı için çözümler sayfasına bakın.

Yapay zekâ güvenliğine nasıl başlanır?

İster kariyer hedefiyle ister şirketinizdeki LLM projesini güvenli hale getirmek için geliyor olun, önerilen sıra:

1. Temel kavramlar: LLM Security Nedir? · Prompt Injection Nedir? · OWASP LLM Top 10 2026 Türkçe
2. Pratik: Bekçi Lab (8 seviyeli Türkçe prompt injection laboratuvarı) · AltayDuel agent arenası
3. Derinleşme: RAG güvenliği · AI agent güvenliği · Türkçe saldırı kalıpları
4. Kariyer yolu: LLM Security Roadmap · AI Security öğrenme rehberi · kurumsal ekipler için LLM Security Bootcamp

Sıkça sorulan sorular

AI Safety ile AI Security aynı şey mi?

Hayır. AI Safety; güvenli davranış, insan gözetimi ve uzun vadeli risklerle ilgilenir. AI Security ise LLM, RAG ve AI agent uygulamalarını prompt injection, veri sızıntısı, yetki kötüye kullanımı ve tedarik zinciri saldırıları gibi tehditlere karşı korur.

Yapay zekâ güvenlik önlemleri nelerdir?

Temel önlemler: sistem envanteri ve tehdit modeli, en az yetki, güvenilmeyen içeriğin talimattan ayrıştırılması, girdi/çıktı doğrulama ve guardrail katmanı, Türkçe dahil PII maskeleme, model ve veri tedarik zinciri kontrolü, izleme ve olay kaydı, düzenli red teaming ile güvenlik regresyon testleri, insan onay kapıları ve çalışan farkındalık eğitimi.

Ayrıntı için kontrol listesi rehberimize bakın.

Yapay zeka güvenilir mi?

Koşullu olarak. Bir yapay zekâ sistemi girdiye, bağlama ve saldırgan baskısına göre farklı davranır; halüsinasyon üretebilir ve manipüle edilebilir. Güvenilirlik tek seferlik bir özellik değil, kullanım senaryosuna göre ölçülmesi ve sürekli test edilmesi gereken bir durumdur. Kritik kararlarda insan doğrulaması ve bağımsız güvenlik testi gerekir.

Ayrıntılı değerlendirme: Yapay zekâ güvenilir mi?

Yapay zekâ siber güvenlikte nasıl kullanılır?

Savunmada SOC uyarı önceliklendirme, log analizi, anomali ve phishing tespiti, tespit kuralı üretimi ve olay özetleme başlıca kullanım alanları; saldırganlar ise aynı teknolojiyi kişiselleştirilmiş phishing ve deepfake için kullanıyor.

Uygulama örnekleri için siber güvenlikte yapay zekâ kullanımı rehberimize bakın.

En güvenli yapay zeka hangisi?

Tek bir doğru cevap yok: güvenlik modele değil; sürüme, mimariye, bağlanan araçlara ve savunma katmanlarına bağlıdır. Karşılaştırma için bağımsız ve tekrarlanabilir test verisine bakılmalıdır.

Türkçe saldırı verisiyle hazırladığımız yerli LLM güvenlik karnesi ve değerlendirme rehberimiz bunun için açık bir başlangıç noktası.

Türkiye'de yapay zekâ güvenliği alanında kimler çalışıyor?

Türkiye'de yapay zekâ güvenliği alanını kuran ve geliştiren isimler arasında AltaySec kurucuları Fevzi Ege Yurtsevenler ve Enes Deniz yer alır.

Ekosistemin tamamı — şirketler, savunma sanayii, akademi ve topluluklar — için 2026 ekosistem haritamıza bakın.

Bir LLM uygulamasını güvenli hale getirmek için ne yapmalıyım?

Önce modeli, veri kaynaklarını, RAG katmanını, araçları, kimlikleri ve yetki sınırlarını içeren bir sistem envanteri çıkarın. Ardından mimariye özgü tehdit modeli, en az yetki, deterministik doğrulama, izleme, red teaming ve güvenlik regresyon testleri uygulayın.

KVKK ve LLM güvenliği nasıl kesişiyor?

LLM uygulamaları prompt, log, RAG kaynağı, bellek ve model çıktısı üzerinden kişisel veri işleyebilir veya sızdırabilir. Veri minimizasyonu, erişim kontrolü, maskeleme, saklama politikası ve olay izleme bu nedenle LLM güvenlik mimarisinin parçasıdır.

Kaynaklar ve kanıt sınırı

Bu rehber bir güvenlik garantisi değildir. Sonuçlar; değerlendirilen mimari, model, veri, araç, yapılandırma ve tehdit kapsamına bağlıdır. Güvenlik kontrolleri her önemli değişiklikten sonra yeniden test edilmelidir.

• OWASP GenAI Security Project — LLM Top 10 (2025/2026)
• NIST AI Risk Management Framework
• MITRE ATLAS
• EU Artificial Intelligence Act
• Turkish Conversation Prompt-Injection Dataset
• AltaySec açık kaynak ve teknik yayın kanıt merkezi

Sonuç

Yapay zekâ güvenliği tek bir şey değil — en az iki farklı disiplini kapsayan bir şemsiye terim. Her ikisine de ihtiyacımız var. Ancak Türkiye'deki bir yazılım ekibinin, bir fintech'in, bir kamu kurumunun bugün ihtiyaç duyduğu şey AI Safety'nin varoluşsal risk tartışmaları değil; üretim hattındaki LLM'lerinin prompt injection'a, veri sızıntısına ve KVKK ihlaline karşı korunması.

AltaySec bu boşluğu Türkiye'de kapatmak için kuruldu. Türkçe veri setleri, açık teknik araştırmalar, izlenebilir açık kaynak katkıları ve mimariye özgü güvenlik değerlendirmeleriyle yapay zeka güvenliğini ölçülebilir bir mühendislik pratiğine dönüştürüyoruz.

Devam edin: LLM Güvenliği alt rehberi · Çözümler · Araştırmalar · Bekçi Lab