Haber Odasında Yapay Zekâ Güvenliği
Kaynak koruması, deepfake doğrulama ve 12 maddelik kontrol listesi

Haber odasında yapay zekâ güvenliği nedir?

Haber odasında yapay zekâ güvenliği, gazetecilik iş akışının her aşamasında — kaynak toplama, arşiv taraması, özetleme, çeviri, görsel ve işitsel doğrulama ve yayın — kullanılan büyük dil modeli (LLM) ve üretken yapay zekâ bileşenlerinin ortaya çıkardığı riskleri yönetme disiplinidir. Amaç üç şeydir: kaynağın ve muhbirin kimliğini korumak, yayınlanan içeriğin doğruluğunu güvence altına almak ve modeli manipüle etmeye çalışan dış içeriğe karşı yayın hattını dayanıklı kılmak.

Bu, genel kurumsal LLM güvenliğinden iki noktada ayrışır. Birincisi, haber odasının işlediği veri çoğu zaman kaynağı ifşa ederse hayati sonuç doğuran veridir; sızıntının maliyeti sadece regülasyon cezası değil, bir insanın güvenliğidir. İkincisi, gazeteci modele bilerek düşman içerik besler: doğrulanmamış e-postalar, sızdırılmış PDF'ler, sosyal medya paylaşımları, web sayfaları. Bu içeriğin özetleme hattına girmesi, dolaylı prompt injection için doğrudan bir kapıdır.

Medya sektörüne yapay zekâ güvenliği merceğinden bakan Türkçe kaynak azdır; bu yazı gazeteciliğe özgü tehdit modelini ve uygulanabilir bir kontrol listesini bir arada verir.

1 Ağustos 2026 reklam bildirimi zorunluluğu haber odasını nerede bağlar?

1 Ağustos 2026'da yürürlüğe giren düzenleme, yapay zekâ ile üretilen ve gerçek kişiden ayırt edilemeyen dijital karakterlerin kullanıldığı reklamlarda bu durumun açıkça belirtilmesini zorunlu kılar. Düzenleme, Ticaret Bakanlığı'nın Ticari Reklam ve Haksız Ticari Uygulamalar Yönetmeliği kapsamındadır ve reklam, influencer ve haksız ticari uygulama alanını hedefler.

Buradaki en sık yapılan hata, bunu "gazetecilik için bir yapay zekâ yasası" gibi okumaktır. Değildir. Düzenleme, bağımsız haber gazeteciliğini — röportaj, haber metni, analiz — doğrudan kapsamaz. Haber odasını yalnızca ürettiği ticari içerik üzerinden bağlar: sponsorlu içerik, natif reklam (advertorial), influencer iş birlikleri ve marka anlaşmalarına dayalı yapımlar. Bu tür içerikte yapay zekâ ile üretilmiş bir sunucu, ses veya görsel kullanılıyorsa bildirim yükümlülüğü doğar.

Pratik çıkarım: haber odasının reklam/marka içerik ekibi ile editoryal ekibi arasındaki üretim hattı birbirinden ayrılmalı ve ticari içerik tarafında yapay zekâ üretimi için bir bildirim/etiketleme adımı zorunlu hâle getirilmelidir. Türkiye'deki yapay zekâ düzenlemelerinin daha geniş çerçevesi için Türkiye yapay zeka düzenlemeleri 2026 yazısına bakabilirsiniz.

Kaynak ve muhbir koruması: PII maskeleme akışı

Bir gazeteci, sızdırılmış bir belgeyi özetlemesi ya da uzun bir yazışmadan kilit noktaları çıkarması için bir dil modeline metni verdiğinde, o metinde çoğu zaman kaynağın kimliğini ele veren veriler bulunur: telefon numarası, e-posta, TCKN, IBAN, araç plakası. Bu veri genel bir bulut LLM'ine gönderildiğinde hem KVKK açısından işlenmiş kişisel veri hâline gelir hem de üçüncü taraf günlüklerinde iz bırakabilir.

Savunma prensibi basittir: model, kimlik verisini hiç görmemelidir. Metin, modele ulaşmadan önce bir maskeleme katmanından geçmeli; kimlik alanları yer tutucularla değiştirilmelidir. Türk kimlik verileri bu iş için elverişlidir çünkü yapıları doğrulanabilir: TCKN'nin iki kontrol hanesi, VKN'nin kendi sağlaması, IBAN'ın mod-97'si vardır. Ham 11 haneli her sayıyı TCKN sanmak yanlış pozitif yağmuruna yol açar; sağlama doğrulamasıyla maskeleme hem hassas hem de eksiksiz olur.

AltaySec'in açık kaynak turkish-pii-redactor aracı tam olarak bunu yapar: TCKN, IBAN-TR, VKN, plaka, telefon, e-posta ve kredi kartını sağlama ile doğrulayarak maskeler; sıfır bağımlılıkla kütüphane, Presidio tanıyıcısı ve tamamen tarayıcı-içinde çalışan (metin sayfadan çıkmaz) bir araç olarak sunulur. Örnek akış:

from trpii.core import redact

ham = "Kaynak: 0532 111 22 33, TCKN 12345678950, IBAN TR33 0006 1005 1978 6457 8413 26"
maskeli = redact(ham)
# -> "Kaynak: [PHONE], TCKN [TCKN], IBAN [IBAN]"

# maskeli metin modele gider; ham metin haber odasından çıkmaz

Ayrıca muhbir iletişimi ve hassas kaynak notları, genel amaçlı asistanların bağlam penceresinden tümüyle ayrı tutulmalıdır. KVKK ve LLM özelinde maskeleme desenleri için KVKK ve LLM için PII maskeleme yazısı derinleştirir.

Haber-özetleme hattında dolaylı prompt injection

Gazeteci, model için en tehlikeli girdiyi bilerek sağlar: doğrulanmamış dış içerik. Bir web sayfasını, bir PDF'i ya da bir e-postayı "özetle" dediğinizde, o içeriğin içine gömülmüş talimatlar modelin sistem yönergesini ezmeye çalışabilir. Buna dolaylı prompt injection denir: saldırgan, gazeteciyle değil, gazetecinin okuttuğu belgeyle konuşur.

Haber-özetleme hattında bunun somut sonuçları vardır. Gömülü bir talimat modeli, bir ismi özetten çıkarmaya, uydurma bir "düzeltme" eklemeye, bir bağlantıyı meşru gibi göstermeye ya da önceki bağlamdaki hassas verileri dışarı sızdırmaya yönlendirebilir. Bu, teknik olarak HTML, PDF ve e-postada dolaylı enjeksiyon yazısında ele aldığımız mekanizmanın aynısıdır; buradaki fark katmandır: biz burada teknik saldırı vektörünü değil, onun haber odası iş akışına (topla → özetle → yayınla) uygulanmasını ele alıyoruz.

Savunma prensipleri:

• İçeriği veri olarak işaretle. Dış belge, modele "takip edilecek talimat" değil "özetlenecek veri" olarak açık sınırlarla verilmelidir; kaynak metin ile sistem yönergesi asla aynı düzlemde birleştirilmemelidir.
• Çıktıyı kaynağa karşı doğrula (grounding). Özet, ham metinde bulunmayan iddia içeriyorsa işaretlenmeli; her cümle kaynağa bağlanabilmelidir.
• Çalışma-zamanı süzgeci koy. Bir çalışma-zamanı guardrail katmanı, hem girdideki enjeksiyon kalıplarını hem de çıktıdaki veri sızıntısını yakalamalıdır.

AltaySec'in kendi derlediği açık kaynak prompt-injection-corpus, İngilizce ve Türkçe enjeksiyon/jailbreak tekniklerini OWASP LLM Top 10 ve MITRE ATLAS'a eşleyerek örnek yükler ve her biri için savunmayla listeler; bir haber odası, özetleme hattını sertleştirmeden önce bu tür kalıplara karşı test edebilir.

Deepfake doğrulama: görselin ve sesin köken denetimi

Üretken modeller, gerçek kişiden ayırt edilmesi güç görüntü, ses ve video üretebiliyor. Bir haber odası için bu iki yönlü bir risktir: yanlışlıkla sahte medyayı yayınlamak ve tersine, gerçek bir kaydın "deepfake" diye itibarsızlaştırılmasına zemin hazırlamak. İkisi de güveni aşındırır.

Doğrulama, tek bir dedektöre güvenmek yerine katmanlı bir protokol gerektirir:

• Köken ve provenance. C2PA / içerik kimlik bilgisi gibi kaynak-imza standartlarını kontrol edin; medyanın nereden geldiğini ve düzenlenip düzenlenmediğini izleyin.
• Bağlam çapraz kontrolü. Ters görsel arama, meta veri, gölge/ışık tutarlılığı, coğrafi ve zamansal doğrulama — otomatik dedektör skorunu tek başına kanıt saymayın.
• İnsan editör kararı. Otomatik araç bir sinyaldir, karar değildir; şüpheli medya için yayın öncesi ikinci bir editör onayı zorunlu olmalıdır.
• Kaynak teyidi. Görselin/sesin ilk elden kaynağına ulaşılamıyorsa, içerik "doğrulanamadı" etiketiyle ele alınmalıdır.

Yapay zekâ destekli kimlik taklidi ve sesli/görsel oltalamanın nasıl evrildiğini yeni nesil yapay zeka destekli phishing yazısında ayrıca ele aldık; haber odasının doğrulama refleksi aynı tehdit ailesine karşı çalışır.

12 maddelik haber odası yapay zekâ güvenlik kontrol listesi

Aşağıdaki liste, bir haber odasının yapay zekâ kullanımını denetlemek için madde madde uygulanabilir. Toplama, özetleme, doğrulama ve yayın katmanlarını kapsar.

1. Kaynak verisini maskele. Metin modele gitmeden önce TCKN, IBAN, telefon, e-posta, plaka gibi kimlik verileri sağlama-doğrulamalı bir maskeleme katmanından geçmeli.
2. Muhbir kanalını ayır. Hassas kaynak iletişimi ve notları, genel amaçlı bulut asistanlarının bağlamından tümüyle izole tutulmalı.
3. Dış içeriği "veri" olarak işaretle. Özetlenecek web/PDF/e-posta içeriği, sistem yönergesiyle aynı düzleme konmadan, talimat değil veri olarak modele verilmeli.
4. Çıktıyı kaynağa bağla (grounding). Özetteki her iddia ham kaynakta doğrulanabilir olmalı; kaynakta olmayan cümle işaretlenmeli.
5. Çalışma-zamanı guardrail koy. Girdide enjeksiyon kalıplarını, çıktıda veri sızıntısını yakalayan bir süzgeç katmanı devrede olmalı.
6. Ticari içerikte YZ bildirimi yap. Sponsorlu/natif reklam ve influencer içeriğinde yapay zekâ üretimi, 1 Ağustos 2026 zorunluluğu gereği açıkça belirtilmeli.
7. Deepfake doğrulama protokolü uygula. Görsel/ses için köken (provenance), bağlam çapraz kontrolü ve kaynak teyidi zorunlu; tek dedektör skoru kanıt sayılmamalı.
8. Üretken düzenlemeyi günlükle. Yapay zekâ ile üretilen/düzenlenen her görsel ve ses için değişiklik kaydı tutulmalı.
9. İnsanı döngüde tut. Model çıktısı, yayın öncesi bir editörün onayı olmadan yayımlanmamalı.
10. En az ayrıcalık uygula. Modelin ve entegrasyonların erişim ve yetkileri, işini görecek asgari düzeyle sınırlanmalı.
11. Olay müdahale planı hazır olsun. Uydurma/yanlış içerik yayına kaçarsa hızlı geri çekme, düzeltme ve şeffaf açıklama akışı tanımlı olmalı.
12. Politika, eğitim ve envanter. Yazılı bir haber odası yapay zekâ politikası, düzenli editör eğitimi ve kullanılan model/tedarikçi envanteri güncel tutulmalı.

Bu liste, iki katmanlı bir denetim aracıdır: hem editoryal hem de teknik ekip aynı maddeleri işaretleyebilir.

Politikayı çalışan bir savunmaya dönüştürmek

Kontrol listesi bir başlangıçtır; asıl iş onu yayın hattına gömülü, çalışan bir savunmaya çevirmektir. Maskeleme, girdi/çıktı süzgeci ve grounding kontrolleri manuel disipline bırakıldığında yorgun bir editörün gözünden kaçar. Bu kararların hattın kendisinde — model çağrısının önünde ve arkasında — uygulanması gerekir.

AltaySec'in LLM güvenlik duvarı yaklaşımı (Guardian), tam olarak bu çalışma-zamanı katmanını hedefler: girdideki enjeksiyon ve kimlik verisini, çıktıdaki sızıntı ve uydurmayı süzmek. Haber odasına özel bir yapay zekâ güvenlik değerlendirmesi için bizimle iletişime geçebilirsiniz.

Sonuç olarak medyada yapay zekâ güvenliği, tek bir araç değil, iş akışının her katmanına yerleşmiş bir disiplindir: kaynağı koru, dış içeriğe güvenme, çıktıyı doğrula, insanı döngüde tut.

Kaynaklar

• Ticaret Bakanlığı — Ticari Reklamlar (Reklam Kurulu, Ticari Reklam ve Haksız Ticari Uygulamalar Yönetmeliği)
• OWASP Top 10 for LLM Applications — LLM01: Prompt Injection
• OWASP Top 10 for Large Language Model Applications
• NIST — Artificial Intelligence Risk Management Framework (AI RMF)
• turkish-pii-redactor — Sağlama doğrulamalı Türkçe PII maskeleme (GitHub)
• prompt-injection-corpus — Çok dilli prompt injection/jailbreak derlemi (GitHub)

İlgili Yazılar

• HTML, PDF ve E-postada Dolaylı Enjeksiyon
• Türkiye Yapay Zeka Düzenlemeleri 2026
• KVKK ve LLM için PII Maskeleme
• Yeni Nesil Yapay Zeka Destekli Phishing