Açık kaynak çalışmalar
Yapay zekâ ajanları artık Skill, MCP sunucusu ve kural dosyası gibi eklentilerle çalışıyor. Bu eklentilere gizlenen talimatları, tedarik zinciri risklerini ve saldırıları görünür kılan açık kaynak araçlar, ölçütler ve rehberler yayımlıyoruz. Çalışmalar Türkçe önceliklidir ve ücretsiz olarak kullanılabilir.
- Dil
- Türkçe ve İngilizce
- Çerçeveler
- OWASP, MITRE ATLAS
- Yayın yeri
- GitHub ve Hugging Face
Öne çıkan çalışmalar
Tarayıcıda denenebilen ya da sonuçları açık veri olarak yayımlanan dört çalışma.
uncloak
Bir Skill, MCP sunucusu ya da kural dosyasını kurmadan önce içindeki gizli talimatları, enjeksiyon ve veri sızdırma risklerini gösterir. Kurulum gerektirmez; veri cihazdan çıkmaz.
Tarayıcıda deneyebilir ya da kaynak kodunu inceleyebilirsiniz.
guardrail-arena
Bir LLM guardrail'inin saldırıyı yakalayıp yakalamadığını ve güvenlik konulu masum metni gereğinden fazla engelleyip engellemediğini İngilizce ve Türkçe olarak iki eksende ölçen açık ölçüt. Güvenlik bağlamlı metinde aşırı red oranı %30–70 aralığına çıkıyor.
Skor tablosu ve veri seti yayında.
skills-in-the-wild
Herkese açık 3.168 agent eklentisinin taranmasıyla hazırlanan açık denetim: veri seti, bulgular ve yöntem. Örneklem kolaylık örneklemidir.
ai-honeypot
Zafiyetli bir AI ajanı gibi görünen tuzak sistem. Gelen saldırıları yakalar, sınıflandırır ve bir panelde gösterir.
Tüm çalışmalar
Depolar konu gruplarına göre listelenmiştir. Her deponun lisansı ve güncel durumu kendi sayfasında yer alır.
Araçlar
| Depo | Açıklama |
|---|---|
| uncloak | Skill, MCP ve kural dosyalarında gizli prompt injection taraması. |
| lethal-trifecta-lint | Ajan araç manifestinde "ölümcül üçlü" riskini işaretleyen CI kontrolü. |
| hf-dataset-scan | Veri setlerini gizli prompt injection zehirlenmesine karşı tarar; Hugging Face ve JSONL desteği, CI kontrolü. |
| turkish-pii-redactor | Sağlama doğrulamalı Türkçe kişisel veri maskeleme (TCKN, IBAN, VKN) ve tarayıcıda çalışan KVKK demosu. |
| ai-honeypot | AI ajanlarına yönelik saldırıları yakalayan tuzak sistem ve panel. |
| agent-security-ci | Eklenti güvenliği kontrollerini CI sürecine ekleyen hazır GitHub Actions. |
Türkçe guard değerlendirmesi ve bulgular
| Depo | Açıklama |
|---|---|
| turkish-over-refusal-set | Aşırı red ölçütü, 120 çiftlik sonda. Bulgu: ProtectAI, zararsız Türkçe metnin %59'unu işaretliyor; İngilizcede bu oran %0,8. |
| guard-blindspots-tr | Yaygın guard modellerinin Türkçe dayanıklılığı, 248 yüklük sonda. Bulgu: incelenen guard'lardan biri saldırıların %85'ini kaçırıyor. |
| turkish-casefold-evasion | İ ve ı harfleriyle naif filtrelerin %94,6 oranında atlatılması ve tek satırlık düzeltme. |
Açık veri ve ölçütler
| Depo | Açıklama |
|---|---|
| guardrail-arena | İki eksenli, İngilizce ve Türkçe guardrail ölçütü: yakalama ve aşırı red. |
| skills-in-the-wild | 3.168 eklentinin açık denetimi ve veri seti. |
| prompt-injection-corpus | Çok dilli prompt injection teknikleri; her biri savunmasıyla birlikte. |
| prompt-injection-detection-rules | Guardrail ve WAF için açık tespit kuralları. |
Skill, laboratuvar ve metodoloji
| Depo | Açıklama |
|---|---|
| llm-security-skills | Bir ajanı LLM güvenlik denetçisine dönüştüren 7 skill. |
| damn-vulnerable-agent-skill | Eğitim amaçlı, kasıtlı olarak zafiyetli Skill senaryoları. |
| llm-red-team-playbook | LLM ve agent red team oyun kitabı. |
OWASP 2026: Türkçe ve makine okunur
| Depo | Açıklama |
|---|---|
| owasp-llm-top10-2026-tr | OWASP LLM Top 10 2026'nın Türkçe ve makine okunur sürümü, 2025'ten 2026'ya değişim haritasıyla. Hugging Face veri seti olarak da yayında. |
| owasp-agentic-top10-2026-tr | OWASP Agentic Top 10 2026 (ASI01–ASI10) Türkçe, MITRE ATLAS eşlemeli. Hugging Face veri seti olarak da yayında. |
| llm-top10-2026-selfcheck | LLM01–LLM10 için etkileşimli öz değerlendirme; Hugging Face Space olarak yayında. İngilizce başlıklar resmî, Türkçe başlıklar gayriresmîdir. |
| agentic-top10-selfcheck | ASI01–ASI10 için etkileşimli öz değerlendirme; Hugging Face Space olarak yayında. İngilizce başlıklar resmî, Türkçe başlıklar gayriresmîdir. |
Rehber ve uyum
| Depo | Açıklama |
|---|---|
| mcp-security-checklist | MCP sertleştirme kontrol listesi. |
| owasp-agentic-skills-top10-tr | OWASP Agentic Skills Top 10, Türkçe. |
| kvkk-ai-compliance-kit | LLM uygulamaları için KVKK ve yapay zekâ uyum kiti. |
| eu-ai-act-technical-checklist | AB Yapay Zekâ Yasası için teknik uyum listesi. |
| ai-security-glossary | İki dilli AI ve LLM güvenliği sözlüğü. |
Kaynak listeleri
| Depo | Açıklama |
|---|---|
| awesome-agent-supply-chain-security | Agent eklenti güvenliği kaynak listesi. |
| awesome-turkish-ai-security | Türkçe AI güvenliği kaynakları. |
Rehberler ve koleksiyonlar
Araçları hangi amaçla kullanacağınızı anlatan yazılar ve toplu kaynaklar.
Öğrenme serisi
LLM güvenliğini adım adım anlatan yedi rehberlik Türkçe seri. LLM-Security-Turkiye
Hugging Face koleksiyonu
Türkçe öncelikli veri setleri ve modeller tek koleksiyonda. Koleksiyonu açın
Araç karşılaştırması
garak, promptfoo, PyRIT, LLM Guard ve Rebuff'ın hangi ihtiyaca uyduğunu anlatan açık kaynak LLM güvenlik araçları karşılaştırması.
Araç kütüphanesi
Her aracın amacını ve kaynak bağlantısını özetleyen AltaySec açık kaynak AI güvenlik araçları yazısı.
Kurumsal yapay zekâ sistemleri için bağımsız test
Bu araçları geliştiren ekip, kurumlara LLM sızma testi, çalışma zamanı koruması ve eğitim hizmeti de verir.