Gözcü: Türkçe LLM tehdit verisi
Gözcü, Türkçe öncelikli bir LLM saldırı kütüphanesidir. Her kayıt OWASP LLM Top 10, MITRE ATLAS ve NIST AI 600-1 ile eşlenir, kalite kontrolünden geçer ve sürüm numarasıyla yayımlanır. Laboratuvardaki kontrollü simülasyonlardan beslenir; LLM sızma testlerimizde ve Guardian geliştirmesinde kullanılır.
- Niteliği
- İç veri altyapısı; satışa sunulan bir ürün değil
- Durum
- Beta, veri sürümü 2.0
- Eşleme
- OWASP LLM ve Agentic Top 10, MITRE ATLAS, NIST AI 600-1, KVKK m.12
- Dağıtım
- git üzerinden, sürüm numarası ve sha256 özetiyle
Kütüphanede neler var
Gözcü bir haber akışı değil, düzenli tutulan bir saldırı kütüphanesidir. Her kayıt bir kalite kontrolünden geçer ve bir test ya da kural için kullanılabilir bir çıktı üretir.
Türkçe saldırı taksonomisi
Jandarma soruşturması, banka teftiş kurulu ya da SGK kimliğine bürünme; morfolojik ve sıfır genişlikli karakterle kaçınma; Türkçe ve İngilizce karışık yazım. Teknikler tr_subtype taksonomisiyle sınıflanır.
Ayrıntı: Türkçe prompt injection kalıplarıKalite ve etik kontrolü
Her kayıt JSON Schema doğrulamasından, OWASP ve ATLAS biçim kontrolünden, kişisel veri kontrolünden geçer. Silah niteliğindeki saldırı metinleri maskelenir; ham metin açık depoda tutulmaz.
Standart eşlemesi
OWASP LLM ve Agentic Top 10, MITRE ATLAS teknikleri, NIST AI 600-1 ve KVKK m.12 eşlemesi her kayıtta bulunur. Kayıtlar raporlanabilir ve teknik şartnamelere girebilir.
Sürümlü yayın
Her sürüm SemVer numarası ve sha256 özetiyle yayımlanır; veriyi kullanan araçlar belirli bir sürüme sabitlenir. Veri değiştiğinde tüketici sözleşmesi kontrolü sessiz bozulmayı önler.
Laboratuvardan beslenme
Laboratuvardaki simülasyonlardan gelen Türkçe saldırılar ekip onayıyla kütüphaneye eklenir. Kütüphane böylece durağan bir veri seti olarak kalmaz.
Sunucusuz dağıtım
Kütüphane git üzerinden dağıtılır, ayrı bir sunucu gerektirmez. Veriyi kullanan araçlar onu çekip kendi çıktılarına derler: test senaryosu, tespit kuralı, eğitim sorusu.
Her değişiklikte şema doğrulama, standart eşleme, yanlış pozitif regresyonu, hassas veri maskeleme ve derleyici testleri çalışır. Veri büyüdükçe yeni kayıtlar aynı kontrollerden geçer.
Nerede kullanılır
Gözcü satışa sunulan bir ürün değil; ürünlerimizi ve hizmetlerimizi besleyen iç kaynaktır. Kütüphane güncellendikçe her sürüm ayrı yayımlanır.
- LLM sızma testi
- Testlerde kullanılan güncel Türkçe saldırı senaryoları
- Guardian
- Tespit kurallarının geliştirilmesi ve sınanması. Guardian'a canlı ve sürekli aktarım geliştirme aşamasında.
- Karne
- Dil modellerinin Türkçe saldırılara dayanıklılığını ölçen saldırı seti
İlgili yayınlar
Kütüphanenin dayandığı Türkçe saldırı kalıpları ve açık veri setleri.
Türkçe saldırı verisiyle yürütülen testleri görüşelim
LLM sızma testini ya da Guardian pilotunu kendi sisteminiz için değerlendirelim.