En Güvenli Yapay Zekâ Hangisi?
Model Değil, Sistem Seçin

Neden "en güvenli model" sorusu yanıltıcı?

Soru sezgisel: telefonda ya da tarayıcıda bir asistan seçeceksiniz ve "hangisi en güvenli?" diye arıyorsunuz. Ancak bu soru, güvenliği bir marka özelliği gibi ele alıyor — sanki bir kere ölçülüp etikete yazılabilirmiş gibi. Gerçekte iki temel sorun var.

Birincisi: güvenlik modelin değil, sistemin özelliğidir. Aynı model, farklı yapılandırmalarda tamamen farklı sonuçlar verir. Sıkı bir sistem promptu, sınırlı araç erişimi ve girdi-çıktı denetimiyle çalışan bir model dirençliyken; aynı model serbest bir sistem promptuyla, web erişimiyle ve denetimsiz çıktıyla çalıştığında kolayca manipüle edilebilir. "Model X güvenli mi?" sorusunun cevabı, X'in hangi sistemin içinde çalıştığını bilmeden verilemez.

İkincisi: sürüm etkisi. Sağlayıcılar modelleri düzenli olarak günceller ve iki sürüm arasında güvenlik davranışı gözle görülür biçimde değişebilir. Bugün belirli saldırılara dirençli görünen bir model, sonraki güncellemede aynı testlerde farklı sonuç verebilir; tersi de mümkündür. Bu yüzden altı ay önce yayımlanmış bir "güvenlik sıralaması", bugünkü durumu temsil etmeyebilir. Kalıcı sıralama iddiası, ölçümün doğasına aykırıdır.

Üstelik "güvenlik" tek boyut değildir: jailbreak direnci, veri gizliliği, hassas veri sızdırma, aşırı red (meşru talepleri gereksiz reddetme) ve yanlış bilgi üretimi ayrı ayrı ölçülür. Bir eksende güçlü olan model, diğerinde zayıf olabilir. Bu çok boyutluluğun tehdit tarafını yapay zekânın güvenlik riskleri yazısında ayrıntılandırdık.

Güvenliği belirleyen 6 faktör

Bir yapay zekâ kullanımının ne kadar güvenli olduğunu, birbirine eklenen altı katman belirler. Değerlendirme yaparken her birine ayrı bakmak gerekir.

1. Model ve sürüm

Modelin eğitimi ve hizalaması taban direnci belirler; ama bu taban, sürüme bağlıdır. Değerlendirme yaparken "hangi model" kadar "hangi sürüm, hangi tarihte" sorusunu da sorun. Sürüm sabitlenmeden yapılan karşılaştırmalar hızla eskir.

2. Sistem promptu ve yapılandırma

Modelin önüne konan talimatlar, izin verilen konular ve çıktı kısıtları davranışı kökten değiştirir. Zayıf yapılandırılmış güçlü bir model, iyi yapılandırılmış ortalama bir modelden daha risklidir. Kurumsal dağıtımlarda güvenlik açıklarının önemli bölümü modelden değil yapılandırmadan doğar.

3. Bağlanan araç ve veri

Model web'e, dosyalara, e-postaya veya kurum içi sistemlere bağlandığında saldırı yüzeyi büyür: işlenen bir belgeye ya da web sayfasına gömülü talimatlar, dolaylı prompt injection ile modelin davranışını ele geçirmeye çalışabilir. "En güvenli model" bile, denetimsiz bağlanmış bir veri kaynağı üzerinden manipüle edilebilir.

4. Guardrail katmanı

Modelin dışında, girdi ve çıktıyı denetleyen bağımsız bir katman — saldırı kalıplarını, jailbreak denemelerini ve hassas veri sızıntısını modelden bağımsız yakalar. AltaySec'in Guardian ürünü bu katmanda çalışır. Guardrail'in kendisi de ölçüm ister: eşik çok gevşekse saldırı geçer, çok sıkıysa meşru talepler reddedilir.

5. Sağlayıcının veri politikası

Konuşmalarınız model eğitiminde kullanılıyor mu? Veriler hangi ülkede, ne kadar süre saklanıyor? Silme talebiniz gerçekten işliyor mu? Bu sorular modelin saldırı direncinden bağımsız ama çoğu kullanıcı için en somut güvenlik boyutudur — özellikle KVKK kapsamındaki kişisel verilerle çalışıyorsanız.

6. Kullanım şekli

Son katman sizsiniz. En sıkı sistem bile, kullanıcının yapıştırdığı hassas veriyi ya da doğrulamadan uyguladığı çıktıyı telafi edemez. Hangi veriyi verdiğiniz, hangi kararları devrettiğiniz ve çıktıyı ne kadar doğruladığınız, toplam riskin büyük bölümünü belirler.

Türkçede ölçüm neden farklı?

Buraya kadar anlatılan çerçeve dilden bağımsız. Ancak Türkiye'de yapay zeka kullanan bir kişi ya da kurum için tabloya bir katman daha eklenir: modelin güvenliği hangi dilde ölçüldü?

Yaygın güvenlik benchmark'larının büyük bölümü İngilizce üretilmiştir. Oysa modelin İngilizce saldırılara direnci, Türkçe saldırılara direncini garanti etmez: Türkçenin eklemeli yapısı, dolaylı rica kalıpları ve kültürel bağlam (yetki dili, resmiyet, aciliyet çerçevesi) İngilizce filtrelerin tanımadığı saldırı biçimleri üretir. AltaySec'in saha verisinden çıkardığı Türkçe prompt injection saldırı kalıpları, bu farkın somut örneklerini belgeliyor.

Madalyonun öbür yüzü de var: bazı modeller Türkçede meşru talepleri İngilizcedekinden daha sık reddediyor. Bu "aşırı red" davranışı da bir güvenlik metriğidir — güvenliği sadece "saldırıyı engelledi mi?" diye ölçerseniz, kullanılamayacak kadar kısıtlayıcı bir sistemi "güvenli" sanabilirsiniz. Türkçedeki bu dengesizliği over-refusal ölçümü yazısında ayrıca inceledik. Sonuç: Türkçe kullanacağınız bir modeli İngilizce test sonuçlarıyla değerlendirmek, yanlış haritayla yol bulmaya benzer.

Modeller nasıl karşılaştırılır: tekrarlanabilir test kriterleri

"Hangisi daha güvenli?" sorusunun anlamlı hâli şudur: "Benim senaryoma benzer koşullarda, aynı saldırı setiyle, aynı yapılandırmayla test edildiğinde hangisi nasıl davranıyor?" Sağlıklı bir karşılaştırmanın asgari kriterleri:

• Aynı saldırı seti: Tüm modeller aynı saldırı örnekleriyle, aynı sırayla test edilmeli.
• Sürüm sabitleme: Hangi modelin hangi sürümünün, hangi tarihte test edildiği kayıtlı olmalı.
• Çift yönlü ölçüm: Hem saldırı başarısı hem aşırı red ölçülmeli; tek yönlü ölçüm yanıltır.
• Dil eşleşmesi: Türkçe kullanım için Türkçe saldırı verisiyle test şart.
• Tekrarlanabilirlik: Aynı test yeniden koşulduğunda benzer sonuç vermeli; yöntem açık olmalı.

Bu kriterlerle kurduğumuz Yerli LLM Güvenlik Karnesi'ne bakabilirsiniz: modelleri Türkçe saldırı verisiyle tekrar üretilebilir biçimde değerlendiren, hâlâ BETA aşamasında olan bir karnedir; kapsadığı model sayısı ve notlar benchmark büyüdükçe güncellenir. Skorları bu makalede bilerek tekrarlamıyoruz — çünkü sürümler değiştikçe skorlar da değişir ve güncel sonuç her zaman karnenin kendisindedir. Test yöntemlerinin teknik arka planı için LLM güvenliği rehberi iyi bir başlangıç noktasıdır.

Bireysel kullanıcı için pratik seçim kriterleri

Kurumsal test altyapınız yoksa da yapabilecekleriniz var. Günlük kullanım için bir yapay zeka asistanı seçerken şu sorulara cevap arayın:

1. Verileriniz eğitimde kullanılıyor mu? Sağlayıcının veri politikasını açın ve konuşmaların model eğitiminde kullanılıp kullanılmadığına bakın. Kullanılıyorsa, kapatma seçeneği var mı? Bu tek ayar, gizlilik riskinizin büyük bölümünü belirler.
2. Oturum verisi ne kadar saklanıyor? Geçmişi silme, geçici sohbet modu ve veri indirme/taşıma seçeneklerini kontrol edin.
3. KVKK boyutu: Başkasına ait kişisel veriyi (müşteri bilgisi, TC kimlik numarası, sağlık verisi) bir asistana yapıştırmak, sizin de sorumluluğunuzda olan bir veri işleme eylemidir. Hangi işlerde ne kadar güvenilebileceği ayrı bir soru — bunu yapay zekâ güvenilir mi? yazısında ele aldık.
4. İş için kullanıyorsanız: Kişisel hesap yerine, veri işleme sözleşmesi ve yönetim denetimi sunan kurumsal sürümü tercih edin; kurum tarafındaki adımlar için güvenlik önlemleri kontrol listesi hazır bir çerçeve sunar.

Bu kriterlerin ortak noktası şu: hepsi markadan bağımsızdır. Hangi asistanı seçerseniz seçin, güvenliğin çoğunu bu ayarlar ve alışkanlıklar belirler. Başka bir deyişle, "en güvenli yapay zeka" aramak yerine kendi kullanımınızı güvenli hâle getirmek, çoğu durumda çok daha yüksek getirili bir yatırımdır.

Sık sorulan sorular

ChatGPT mi, Claude mu, Gemini mi daha güvenli?

Bu sorunun kalıcı bir cevabı yok; cevap sürüme, yapılandırmaya ve kullanım şekline göre değişir. Aynı ürünün iki sürümü arasında bile güvenlik davranışı farklılaşabilir ve sağlayıcılar modelleri düzenli olarak günceller. Marka üzerinden karar vermek yerine, kendi kullanım senaryonuza yakın koşullarda yapılmış güncel ve bağımsız test verisine bakın; kurumsal kullanımda ise modeli tek başına değil, guardrail katmanı ve veri politikasıyla birlikte değerlendirin.

Yerli modeller daha mı güvenli?

Yerli olmak tek başına bir güvenlik garantisi değildir; güvenlik, modelin nerede geliştirildiğinden çok nasıl eğitildiğine, nasıl yapılandırıldığına ve hangi katmanlarla korunduğuna bağlıdır. Yerli ve açık kaynak modellerin veri lokasyonu ve KVKK uyumu açısından avantajları olabilir; ancak Türkçe saldırılara dayanıklılık ayrıca test edilmelidir. Bu yüzden karar, iddiaya değil tekrarlanabilir test sonuçlarına dayanmalıdır.

Ücretsiz sürümler daha mı riskli?

Çoğu sağlayıcıda ücretsiz ve kurumsal sürümler arasındaki temel fark modelin kendisi değil, veri politikasıdır. Ücretsiz sürümlerde konuşma verileriniz model eğitiminde kullanılabilir; yönetim paneli, loglama ve erişim kontrolü gibi kurumsal güvenlik özellikleri de genellikle bulunmaz. Hassas veya kuruma ait veriyle çalışıyorsanız, eğitimde kullanım seçeneğini kapatabildiğiniz ya da bunun sözleşmeyle sınırlandığı bir sürüm tercih etmelisiniz.

Kurumsal kullanımda neye bakılmalı?

Kurumsal değerlendirmede model tek başına kalemlerden yalnızca biridir. Asıl bakılması gerekenler: veri işleme ve saklama politikası (KVKK dâhil), sistem promptu ve yapılandırmanın denetimi, modele bağlanan araç ve veri kaynaklarının oluşturduğu saldırı yüzeyi, girdi-çıktı denetimi yapan bir guardrail katmanı ve düzenli, tekrarlanabilir güvenlik testleridir. Karar markaya değil, bu katmanların her birinin kanıtlanabilir durumuna dayanmalıdır.

Kaynaklar

• OWASP GenAI Security Project — LLM ve üretken yapay zekâ güvenlik kaynakları
• OWASP Top 10 for LLM Applications — LLM uygulama riskleri
• NIST AI Risk Management Framework — yapay zekâ risk yönetimi çerçevesi
• MITRE ATLAS — yapay zekâ sistemlerine yönelik saldırı taktikleri matrisi

Bu rehber genel bilgilendirme amaçlıdır; herhangi bir model veya ürün için güvenlik garantisi vermez. Model davranışları sürümler arasında değişir; karar vermeden önce güncel ve bağımsız test verisine başvurun.

İlgili Yazılar

• Yapay Zekâ Güvenilir mi? Hangi İşte, Hangi Kanıtla
• Yapay Zekânın Güvenlik Riskleri
• Türkçe Prompt Injection: Saha Verisinden 5 Saldırı Kalıbı
• Over-Refusal: Türkçe'de Aşırı Red Uçurumu