Yapay zekâ güvenliği hizmetleri
LLM uygulamalarınızı, RAG akışlarınızı ve AI agent'larınızı saldırgan gözüyle test ediyor, ekiplerinizi bu sistemleri güvenle kullanmaları için eğitiyoruz. Bulguları teknik düzeltme adımları ve yönetim özetiyle birlikte teslim ediyoruz.
- Raporlama
- OWASP LLM Top 10, MITRE ATLAS, KVKK
- İlk adım
- 30 dakikalık kapsam görüşmesi
- Teklif
- Kapsam, süre ve fiyat yazılı olarak
- Gizlilik
- İsterseniz gizlilik sözleşmesi
LLM sızma testi ve AI red teaming
Yapay zekâ sistemleriniz canlıya çıkmadan önce prompt injection, veri sızıntısı ve yetkisiz araç kullanımı risklerini tespit ederiz.
Prompt injection ve jailbreak
Güvenlik filtresinin aşılıp aşılamadığını ve sistem talimatlarının dışarı sızıp sızmadığını test ederiz.
AI agent ve araç kullanımı
Agent'ın manipüle edilerek yetkisiz işlem yapıp yapamayacağını tek tek araç yetkileri üzerinden sınarız.
RAG ve vektör veritabanı
Bağlam zehirleme ve bilgi bankasından hassas veri sızdırma senaryolarını deneriz.
Kurumsal AI red teaming
Birden fazla saldırı vektörünü birleştiren, gerçek bir saldırganın izleyeceği yolu taklit eden senaryolar yürütürüz.
- Teslim
- Kanıt istemleri, risk puanı, düzeltme yol haritası ve yeniden test
- Kimin için
- Yapay zekâ sistemlerini ve agent'larını canlıya almış ya da almak üzere olan kurumlar
- Çerçeve eşlemesi
- OWASP LLM01–LLM10, MITRE ATLAS, KVKK m.12, EU AI Act
Yapay zekâ güvenliği danışmanlığı
Yapay zekâ sistemlerinizin mimarisi, politikaları ve günlük kullanımı için güvenlik gereksinimlerini birlikte belirleyelim.
Mimari ve erişim
Veri akışlarını, RAG kaynaklarını, agent yetkilerini ve güven sınırlarını OWASP LLM Top 10 ve MITRE ATLAS çerçevesinde değerlendiriyoruz.
Kontroller ve öncelikler
Hassas veri, model çıktısı ve araç kullanımı için gerekli kontrolleri belirliyor; çalışmaları teknik ekiplerinizle birlikte önceliklendiriyoruz.
Güvenli yapay zekâ kullanımı eğitimi
ChatGPT, Claude ve Copilot gibi araçları kullanan çalışanlarınız için gizlilik, kurumsal veri ve KVKK odaklı eğitim programı.
Veri gizliliği riskleri
Hassas verinin model sağlayıcılarına ve eğitim verisine sızmasını önleyen çalışma alışkanlıkları.
Güvenli istem yazımı
Girdiyi güvenli tasarlama ve paylaşmadan önce veriyi maskeleme.
KVKK ve telif uyumu
Yapay zekâ çıktılarının hukuki sorumlulukları ve kurum için doğurduğu riskler.
Teknik destek
Eğitimi Guardian Edge ile tarayıcı katmanında kişisel veri maskelemesiyle destekleyebilirsiniz.
- Teslim
- Kuruma özel yapay zekâ güvenliği rehberi, canlı eğitim oturumu, katılım sertifikası
- Kimin için
- Yapay zekâyı günlük iş süreçlerinde kullanan tüm ekipler
- Dayanak
- KVKK'nın üretken yapay zekâ tavsiyeleri
Oltalama farkındalık eğitimi
E-posta, SMS, sesli arama ve sosyal medya üzerinden gelen kimlik avı girişimlerini tanıma eğitimi. Deepfake ses ve görüntü örneklerini de kapsar.
Oltalama taktikleri
Manipülatif e-postaları ve sahte alan adlarını tanıma yöntemleri.
Mobil ve SMS oltalaması
Mobil cihazlara gelen zararlı bağlantıları ayırt etme.
Deepfake ve sesli oltalama
Sahte ses ve görüntüyle yapılan yönlendirmeleri fark etme.
- Teslim
- Canlı eğitim ve oltalama analiz atölyesi
- Kimin için
- Kimlik avı girişimlerine açık tüm kurumsal ekipler
Temel siber güvenlik farkındalığı
Tüm çalışanlar için parola hijyeni, çok faktörlü kimlik doğrulama, güvenli uzaktan çalışma ve sosyal mühendislik temelleri.
Parola ve çok faktörlü doğrulama
Güçlü parola politikaları ve ikinci doğrulama adımının önemi.
Güvenli uzaktan çalışma
Evden ya da ortak ağlardan güvenli bağlantı kuralları.
Sosyal mühendislik
Gündelik iş hayatındaki yönlendirme girişimlerini tanıma.
- Teslim
- Temel siber güvenlik sınavı, katılım sertifikası, departman bazında sonuç raporu
- Müfredat
- ISO/IEC 27001 farkındalık kontrolleri ve KVKK gözetilerek hazırlanır
LLM Security Bootcamp
Güvenlik ve yazılım ekipleriniz için uygulamalı, yoğun LLM güvenliği programı. Açık grup ya da kuruma özel kapalı grup olarak düzenlenir.
İlgili düzenlemeler
Yapay zekâ bileşenleri de kurumun risk değerlendirmesine girer. Değerlendirmelerimizde aşağıdaki düzenlemeleri gözetir, bulguları ilgili maddelerle ilişkilendiririz.
7545 sayılı Siber Güvenlik Kanunu
Kapsama giren kurumlarda test, dokümantasyon ve denetim yükümlülükleri doğabilir. Yapay zekâ bileşenleri de envantere ve risk değerlendirmesine dahil edilmelidir.
KVKK ve üretken yapay zekâ
İstem, kayıt, RAG ve ince ayar akışlarındaki kişisel veriler için teknik ve idari tedbirler gerekir.
AB Yapay Zekâ Yasası
AB pazarına dokunan yüksek riskli sistemlerde risk yönetimi, kayıt tutma ve teknik dokümantasyon gereklilikleri doğar.
Temel kavramlar için yapay zekâ güvenliği rehberine, katman katman korumalar için yapay zekâ güvenliği çözümlerine bakabilirsiniz.
Çalışma süreci
Görüşmeden rapora kadar her adımın çıktısı bellidir.
-
Kapsam görüşmesi
Otuz dakikada sistemleri, entegrasyonları, veri akışlarını ve öncelikleri birlikte tanımlarız.
-
Teklif
Kapsam, süre, varsayımlar ve fiyat tek bir yazılı teklifte; yönetime sunulabilecek bir sayfalık özetle.
-
Test
Kritik bir açık bulduğumuzda raporu beklemeden ilgili ekibinize haber veririz.
-
Rapor ve yeniden test
Yönetim özeti, teknik ayrıntı ve önceliklendirilmiş yol haritası. Düzeltmelerden sonra yeniden test ederiz.
Kullandığımız çerçeveler
- OWASP LLM Top 10
- MITRE ATLAS
- OWASP Web Security Testing Guide
- PTES
- NIST AI RMF
- KVKK
Sık sorulan sorular
Yapay zekâ güvenliği testinin kapsamı ve maliyeti nasıl belirlenir?
Kapsam; uygulama sayısına, model ve agent mimarisine, entegrasyonlara, veri hassasiyetine ve test derinliğine göre belirlenir. AltaySec ön görüşmenin ardından süreyi, teslimatları, varsayımları ve fiyatı açıkça sunar.
Kendi güvenlik ekibimiz var, neden AltaySec?
İç ekip kendi sistemini test ederken kör noktalara sahiptir; bağımsız bir red team saldırganın göreceğini görür. Ayrıca çoğu klasik ekipte LLM/AI saldırı yüzeyini test edecek özel yetkinlik yoktur, biz bu boşluğu kapatırız.
Yapay zekâ güvenlik testi ne zaman yapılmalı?
Test; canlıya geçmeden önce, büyük model veya entegrasyon değişikliklerinden sonra ve üretimdeki sistemler için planlı aralıklarla yapılmalıdır. Böylece bulgular olay veya tedarik engeline dönüşmeden giderilebilir.
Bir sonraki yapay zekâ sürümünüzden önce kapsamı birlikte belirleyelim
Mimarinizi dinleyip ilgili saldırı yüzeyini çıkaralım; test, koruma ya da eğitimden hangisiyle başlamanız gerektiğini birlikte seçelim.