Yapay Zekâ Güvenilir mi?
Hangi İşte, Hangi Kanıtla

Güvenilirliğin dört boyutu

"Yapay zeka güvenilir mi?" diye sorduğumuzda aslında dört ayrı soruyu tek cümleye sıkıştırıyoruz. Bu dört boyut birbirinden bağımsız davranır: bir model doğrulukta iyi, manipülasyona dirençte zayıf olabilir. Karar vermeden önce hangisinden bahsettiğinizi netleştirmek gerekir.

1. Doğruluk ve halüsinasyon

Büyük dil modelleri bilgiyi bir ansiklopediden okumaz; eğitim verisindeki örüntülere dayanarak en olası metni üretir. Bu mimari, modelin hiç var olmayan bir mahkeme kararını, uydurma bir akademik kaynağı ya da yanlış bir istatistiği son derece akıcı ve kendinden emin bir dille yazabilmesi anlamına gelir. Bu davranışa halüsinasyon denir ve OWASP'ın LLM uygulamaları için yayımladığı Top 10 listesinde "Misinformation" (yanlış bilgi) başlığıyla ayrı bir risk kategorisi olarak yer alır; ayrıntılar için OWASP LLM Top 10 2026 Türkçe rehberimize bakabilirsiniz. Kritik nokta şudur: modelin üslubundaki özgüven, bilginin doğruluğuna dair hiçbir kanıt değildir.

2. Tutarlılık

Aynı soruyu iki kez sorduğunuzda farklı cevaplar alabilirsiniz; sorunun ifade biçimini biraz değiştirdiğinizde modelin verdiği hüküm de değişebilir. Bu, modellerin olasılıksal çalışmasının doğal sonucudur. Günlük kullanımda zararsızdır; ancak bir iş sürecinde — örneğin başvuru değerlendirme veya içerik sınıflandırma gibi tekrarlanabilirlik gerektiren işlerde — tutarlılık ölçülmeden modele karar yetkisi verilmemelidir.

3. Manipülasyona direnç: prompt injection

Güvenilirliğin en az bilinen boyutu şudur: bir yapay zekâ sistemi yalnızca kendiliğinden hata yapmaz, kasıtlı olarak yanıltılabilir. Prompt injection, saldırganın modele verilen talimatları ele geçirip sistemi amacı dışında davranmaya zorlamasıdır; model bir e-postayı özetlerken e-postanın içine gizlenmiş bir komutu talimat sanabilir. Türkçede bu saldırıların nasıl kurgulandığını, canlı arena verisinden çıkardığımız 5 Türkçe saldırı kalıbı yazısında gerçek transkriptlerle gösterdik. Bir modele dış içerik (web sayfası, belge, e-posta) okutuyorsanız, bu boyut sizin için doğruluktan daha kritiktir.

4. Veri gizliliği

Bir sohbet aracına yazdığınız her şey sağlayıcının sunucusuna gider; bazı plan ve ayarlarda model eğitiminde de kullanılabilir. Bireysel kullanıcı için bu, kişisel bilgilerin kontrol dışına çıkması riskidir; kurum için ise KVKK kapsamında hukuki sorumluluk doğurabilecek bir veri aktarımıdır. Kişisel verinin dil modelleriyle işlenmesinin teknik ve hukuki çerçevesini KVKK ve LLM güvenliği yazısında, çalışanların günlük kullanım risklerini ise ChatGPT kurumsal kullanım güvenliği rehberinde ele aldık.

Hangi işlerde güvenilir, hangilerinde dikkat?

Yapay zekaya güven, işin türüne göre kademelendirilmelidir. Aşağıdaki tablo pratik bir başlangıç haritasıdır: soldaki iş kategorisine, ortadaki güven düzeyiyle yaklaşın ve sağdaki önlemi asla atlamayın.

Tablonun mantığı basittir: hata maliyeti düştükçe ve insan denetimi arttıkça güven yükselir. "Yanlış olursa ne kaybederim?" sorusunun cevabı bir toplantı notuysa rahat olun; bir hastanın tedavisi, bir müvekkilin davası ya da bir şirketin bilançosuysa modelin çıktısı yalnızca bir hammaddedir.

Türkçede güvenilirlik: kendi ölçümlerimiz ne söylüyor?

Güvenilirlik tartışması çoğunlukla İngilizce ölçümler üzerinden yürür; oysa modeller Türkçede farklı davranır. AltaySec olarak bu farkı iki ayrı çalışmayla ölçtük ve iki bulgu da "yapay zekaya güvenilir mi?" sorusunun dile bağlı olduğunu gösteriyor.

Birincisi, Türkçe aşırı red (over-refusal) ölçümümüzde, guardrail-arena değerlendirmesindeki masum ama tetikleyici Türkçe promptlarda aşırı red oranı modele göre yüzde 25 ile 70 arasında ölçüldü; aynı guardrail'lerin aynı değerlendirmede Türkçe saldırıların yüzde 83'ünü kaçırdığı görüldü. Yani Türkçede sistemler eş zamanlı olarak hem masum talepleri fazla reddediyor hem gerçek saldırıları az yakalıyor — güven bütçesi yanlış hedefe harcanıyor.

İkincisi, Türkçe kırmızı-takım arenamız AltayDuel'de 297 düellodan çıkan saldırı kalıpları analizinde saldırganın kazandığı düello oranı toplamda %6,4 olarak ölçüldü; ancak dağılım dengesizdi: otomatik düellolarda %2,8 olan bu oran, gerçek agent'ların saldırdığı modda %15,5'e çıktı. Yetenekli bir saldırgan karşısında direncin belirgin biçimde düştüğünü gösteren bu fark, "model bana doğru cevap veriyor" gözlemi ile "model saldırıya dayanıklı" hükmünün aynı şey olmadığını kanıtlıyor.

Her iki değerlendirme de AltaySec'in kendi ölçümüdür; belirli test kümeleri üzerinde alınmış sonuçlardır, evrensel oranlar değildir. Ama çıkardıkları ders geneldir: Türkçe kullanımda güvenilirliği İngilizce benchmark'lardan tahmin etmek yerine, kendi dilinizde ve kendi senaryonuzda ölçmeniz gerekir.

Daha güvenilir kullanmanın 6 kuralı

Yapay zekâyı güvenilir kılan şey modelin markası değil, kullanıcının disiplinidir. Bireysel ve kurumsal kullanımda şu altı kural riskin büyük bölümünü kapatır:

1. Kişisel ve gizli veri girmeyin. TC kimlik numarası, sağlık bilgisi, müşteri verisi, şirket sırrı — bir sohbet penceresine yazdığınız an kontrolünüzden çıkar. Emin değilseniz girmeyin.
2. Olgusal iddiaları doğrulayın. Tarih, isim, sayı, alıntı ve kaynak içeren her cevabı, kullanmadan önce bağımsız bir kaynaktan teyit edin. Modelin özgüvenli üslubu doğruluk kanıtı değildir.
3. Kaynak isteyin ve kaynağın gerçekliğini kontrol edin. Modelden dayanak göstermesini istemek hatayı görünür kılar; ancak verilen kaynağın kendisi de uydurma olabilir, linki açıp bakın.
4. Kritik kararlarda insan onayını zorunlu tutun. Para transferi, hukuki adım, tıbbi yorum, işe alım kararı: model öneri üretebilir, kararı bir insan vermelidir.
5. Kurumsal kullanımda yazılı politika kurun. Hangi araç, hangi veriyle, hangi işte kullanılabilir? Bu üç soruya yazılı yanıtı olmayan kurumda gölge yapay zeka kullanımı kaçınılmazdır. Somut bir başlangıç için yapay zekâ güvenlik önlemleri kontrol listemizden yararlanabilirsiniz.
6. Güncel sürüm ve resmi kanal kullanın. Eski model sürümleri bilinen zafiyetleri taşır; kırık/kopya uygulamalar ise girdiğiniz veriyi kimin gördüğünü bilemeyeceğiniz ek bir risk katmanıdır.

Kurumlar için: güvenilirlik ölçülebilir

Bireysel kullanıcı için güvenilirlik bir alışkanlık meselesidir; kurum için ise ölçülebilir ve ölçülmesi gereken bir mühendislik özelliğidir. Bir modelin sizin senaryonuzda ne kadar güvenilir olduğunu tedarikçi broşüründen değil, iki kanıt türünden öğrenirsiniz: bağımsız saldırı testi ve sürekli izleme. Dağıtım öncesinde LLM pentest ve AI red teaming çalışması, sistemin prompt injection, veri sızıntısı ve manipülasyon karşısındaki gerçek davranışını ortaya koyar; üretimde ise model çıktılarının izlenmesi, güvenilirliğin zamanla bozulup bozulmadığını gösterir. Modeller arası karşılaştırma için AltaySec Karne yaklaşımımız, "hangi model" sorusunu pazarlama diliyle değil test sonuçlarıyla yanıtlamayı hedefler; model seçimi kriterlerini "En güvenli yapay zekâ hangisi?" rehberinde ayrıntılandırdık. Bu tür bir bağımsız değerlendirmenin bütçe boyutunu merak ediyorsanız Türkiye'de AI pentest fiyatları yazımız güncel bir çerçeve sunuyor. Riskin genel haritası için yapay zekânın güvenlik riskleri yazısı da tamamlayıcı bir okumadır.

Sık sorulan sorular

Yapay zekaya kişisel bilgi vermek güvenli mi?

Genel kural olarak, herkese açık bir yapay zeka sohbet aracına TC kimlik numarası, sağlık bilgisi, finansal bilgi gibi kişisel verileri girmemek en güvenli yaklaşımdır. Girdiğiniz metin sağlayıcının sunucularında işlenir ve bazı plan ve ayarlarda model eğitiminde kullanılabilir. Kurumsal kullanımda ise KVKK kapsamında veri işleme envanteri, sağlayıcı sözleşmesi, veri maskeleme ve erişim kontrolü gibi önlemler gerekir; bu önlemler kurulmadan kişisel veri girilmemelidir.

Yapay zeka cevapları neden bazen yanlış?

Büyük dil modelleri bilgiyi bir veritabanından okumaz; eğitim verisindeki örüntülere dayanarak en olası metni üretir. Bu yüzden hiç var olmayan bir kaynağı, yanlış bir tarihi ya da uydurma bir istatistiği kendinden emin bir dille yazabilir; buna halüsinasyon denir. Eğitim verisi belirli bir tarihte kesildiği için güncel konularda hata payı daha da artar. Kritik bir bilgiyi kullanmadan önce her zaman bağımsız bir kaynaktan doğrulamak gerekir.

Hangi yapay zeka en doğru bilgiyi verir?

Tek bir 'en doğru' model yoktur; doğruluk göreve, dile ve soru türüne göre değişir. İngilizce testlerde iyi görünen bir model Türkçede farklı davranabilir; aynı model bir alanda güçlü, başka bir alanda zayıf olabilir. Bu yüzden bu soruya marka adıyla değil ölçümle yanıt vermek gerekir: modeli kendi kullanım senaryonuzda, kendi dilinizde ve kendi veri türünüzde test etmek tek güvenilir yöntemdir.

Şirketimde yapay zeka kullanımı nasıl güvenli olur?

Dört adım öne çıkar: hangi araçların hangi veri türüyle kullanılabileceğini tanımlayan yazılı bir politika; çalışanlara kişisel ve gizli veri girmeme konusunda eğitim; kritik iş akışlarında insan onayı zorunluluğu; ve dağıtımdan önce prompt injection ile veri sızıntısına karşı bağımsız güvenlik testi. Güvenilirlik bir kez kurulan değil, sürekli izlenen bir özelliktir; üretimde de model davranışının izlenmesi gerekir.

Kaynaklar

• OWASP GenAI Security Project — LLM Applications Top 10 (Misinformation dahil)
• NIST — AI Risk Management Framework (AI RMF)
• MITRE ATLAS — Adversarial Threat Landscape for AI Systems
• KVKK — Kişisel Verileri Koruma Kurumu

Bu rehber genel bilgilendirme amaçlıdır; bir güvenlik garantisi değildir. Alıntılanan oranlar AltaySec'in kendi değerlendirme kümeleri üzerindeki ölçümleridir ve linklenen kaynak yazılarda yöntemleriyle birlikte açıklanmıştır; farklı model, dil ve senaryolarda sonuçlar değişebilir.

İlgili Yazılar

• En Güvenli Yapay Zekâ Hangisi?
• Yapay Zekânın Güvenlik Riskleri
• Yapay Zekâ Güvenlik Önlemleri Kontrol Listesi
• ChatGPT Kurumsal Kullanım Güvenliği