AI Engineering Envanteri
Modelden Önce Sistem Haritası
“Hangi modeli kullanıyoruz?” önemli bir sorudur ama güvenlik incelemesinin başlangıcı değildir. Önce sistemin nasıl teslim edildiğini, hangi artefaktların kimde olduğunu ve kararların yaşam döngüsünde nerede alındığını bilmek gerekir.
Aynı Uygulama, Üç Farklı Sorumluluk Haritası
Bir ekip API üzerinden hosted model kullanabilir, dışarıdan aldığı modeli kendi altyapısında çalıştırabilir ya da modeli eğitip uyarlayabilir. Kullanıcıya görünen ürün benzer olsa bile güvenlik sorumluluğu kökten değişir.
| Teslim modeli | Kurumun kontrol ettiği başlıca katman | Kritik tedarikçi kanıtı |
|---|---|---|
| Hosted AI hizmeti | Uygulama, veri akışı, erişim ve kullanım politikası | Model/hizmet değişiklikleri, veri işleme, bölge ve güvenlik taahhütleri |
| Dış kaynaklı modeli çalıştırma | Runtime, paketleme, model artefaktı ve altyapı | Model kökeni, lisans, hash, bağımlılık ve güvenli yükleme biçimi |
| Eğitme veya uyarlama | Veri, eğitim kodu, değerlendirme, model ve dağıtım | Temel model koşulları ve kullanılan dış veri/araç zinciri |
Bu ayrım yapılmadan kontrol listesi hazırlamak, kurumun yönetemediği bir alana kontrol yazıp gerçekten yönettiği alanı boş bırakabilir.
Altı Yaşam Döngüsü Adımı
Güvenlik incelemesi tek bir “production review” toplantısına sıkıştırılmamalıdır. Envanter; hedef ve kapsam, veri, model/servis seçimi, geliştirme-uyarlama, değerlendirme ve dağıtım-operasyon adımlarında güncellenmelidir.
Her adım farklı artefakt üretir: kullanım amacı ve kötüye kullanım senaryoları; veri envanteri ve lineage; model kartı ve tedarikçi kaydı; prompt, adapter veya training konfigürasyonu; eval sonuçları ve risk kabulü; deployment manifesti, log şeması ve incident runbook. Güvenlik sorusu bu artefakta bağlandığında takip edilebilir hale gelir.
Artefakt Var mı, Sahibi Kim?
“Model kartımız var” tek başına yeterli değildir. Hangi sürüm için geçerli olduğu, kim tarafından onaylandığı ve değişiklikte kimin güncelleyeceği bilinmelidir. Envanterde her artefakt için en az sahip, sürüm, kaynak, bütünlük kanıtı, hassasiyet sınıfı ve son doğrulama tarihi tutulmalıdır.
Bu kayıt, AI güvenliği ile klasik yazılım teslimini birbirine bağlar. Model değişimi change management’e; dataset revision veri yönetişimine; prompt ve tool değişimi uygulama güvenliğine; eval sonucu risk kabulüne dönüşür.
Güvenlik Ekibi Nerede Devreye Girer?
- Planlama: kabul edilemez kullanım, insan gözetimi ve yetki sınırları.
- Veri: kaynak hakkı, hassasiyet, tenant ayrımı, poisoning ve retention.
- Tedarik: model kökeni, sözleşme, bölge, değişiklik bildirimi ve bağımlılıklar.
- Geliştirme: prompt ve tool review, secret yönetimi, sandbox ve output handling.
- Değerlendirme: normal görev kalitesi ile güvenlik regresyonunu ayrı ölçme.
- Operasyon: telemetri, olay müdahalesi, rollback ve erişim gözden geçirme.
Minimum Uygulanabilir AI Envanteri
Kapsamlı platform kurmadan da başlanabilir. Her AI sistemi için şu on alan yeterli bir ilk kayıt oluşturur: iş sahibi, teknik sahibi, kullanım amacı, teslim modeli, model/servis ve sürümü, veri sınıfları, araçlar ve dış bağlantılar, kullanıcı/servis rolleri, temel eval seti, rollback ve olay sorumlusu.
Bu envanterin değeri sayfa sayısında değil, gerçek teslim akışına bağlanmasındadır. CI/CD, tedarik süreci ve risk kabulü envanteri güncellemiyorsa birkaç ay içinde statik bir katalog haline gelir.
Primer ile Kontrol Kataloğunu Karıştırmayın
AI engineering primer’ın görevi her risk için hazır kontrol yazmak değil, güvenlik profesyoneline sistemin nasıl üretildiğini anlaması için bir başlangıç vermektir. Kontrol seçimi; teslim modeli, yaşam döngüsü artefaktları ve sorumluluk sınırı netleştikten sonra yapılır.
Bu yazı ve bağlı DOI raporu, merge edilen primer üzerine Enes Deniz tarafından hazırlanan bağımsız uygulama notlarıdır; OWASP yayını veya onayı olarak sunulmaz. Kaynak ile yorum arasındaki bu sınır, teknik atfın parçasıdır.
Kaynaklar ve Kanıt Sınırı
- OWASP AI Exchange — merge edilen PR #187
- Canlı OWASP AI Engineering Primer
- Enes Deniz bağımsız companion report — DOI
- NIST AI RMF Generative AI Profile
Bu yazı Enes Deniz tarafından hazırlanmış bağımsız bir teknik değerlendirmedir. Bağlantılı upstream proje veya standart kuruluşu tarafından yayımlanmış ya da onaylanmış bir metin değildir. Merge, test ve kapsam iddiaları yukarıdaki birincil kayıtlara bağlanmıştır.