Samsung ChatGPT Sızıntısı: 2023 Vakası ve Dersler

Samsung ChatGPT sızıntısında ne oldu?

Olayı ilk duyuran, Kore'de yayımlanan ekonomi dergisi Economist (이코노미스트) oldu. Derginin 30 Mart 2023 tarihli haberine göre Samsung'un yarı iletken işlerini yürüten DS (Device Solutions) bölümü, daha önce yasakladığı ChatGPT'yi 11 Mart'tan itibaren kullanıma açtı. Mobil ve beyaz eşya tarafındaki DX bölümünde yasak sürüyordu. Şirket izin verirken çalışanlara bilgi güvenliğine dikkat etmelerini ve özel içerik girmemelerini söyleyen bir duyuru yayımlamıştı.

Haber, Samsung'un tespit ettiği olayları "iki ekipman bilgisi sızıntısı ve bir toplantı içeriği sızıntısı" olarak aktarır:

Samsung, dergiye yaptığı açıklamada olayları "şirket içi bir konu" olduğu gerekçesiyle teyit etmekten kaçındı. Kore haber ajansı Newsis'in 3 Nisan 2023 tarihli haberi ise şirketin aynı üç olay türünü çalışanlara duyurduğunu ve ChatGPT gibi açık yapay zekâ hizmetlerine şirket sırrı ve özel içerik girilmemesi talimatı verdiğini yazdı.

Üçüncü olay ayrıca öğreticidir. Toplantı kaydı tek bir dış servise değil, önce bir metne çevirme uygulamasına, sonra bir sohbet aracına gitti. Tek bir iş akışı, veriyi iki ayrı sağlayıcıdan geçirdi.

Samsung olaydan sonra hangi önlemleri aldı?

Samsung'un tepkisi kademeli oldu. Economist'in haberine göre şirket olayları öğrendikten sonra soru başına yükleme boyutunu 1024 bayt ile sınırlayan acil bir önlem uyguladı, ilgili çalışanlar hakkında inceleme başlattı ve gerektiğinde disiplin işlemi yapılacağını bildirdi. Çalışanlara, benzer bir olay tekrarlanırsa şirket ağından ChatGPT erişiminin engellenebileceği de duyuruldu. Şirket, DS bölümündeki İnovasyon Merkezi aracılığıyla şirket içi bir yapay zekâ hizmeti kurmayı değerlendiriyordu.

Şirketin iç duyurusundaki gerekçe açıktı: ChatGPT'ye girilen içerik dış sunuculara aktarılıp saklanır ve şirketin bunu geri alması mümkün değildir. İçerik modelin öğrenmesinde kullanılırsa hassas bilgi belirsiz sayıda kişiye ulaşabilir.

İkinci adım Mayıs 2023'te geldi. TechCrunch'ın 2 Mayıs 2023 tarihli haberine göre Samsung, şirketin verdiği bilgisayar, tablet ve telefonlarda ve iç ağa bağlanan diğer cihazlarda ChatGPT, Bing ve Bard gibi üretken yapay zekâ araçlarının kullanımını geçici olarak kısıtladı. Bir Samsung sözcüsü TechCrunch'a, güvenli bir kullanım ortamı için önlemler hazır olana kadar şirket cihazlarında üretken yapay zekâ kullanımının geçici olarak kısıtlandığını doğruladı. Aynı habere göre Nisan ayında yapılan iç ankette katılımcıların yaklaşık yüzde 65'i bu araçların güvenlik riski taşıdığını düşünüyordu.

Sızıntı neden bir saldırı değil, bir veri akışı sorunuydu?

Vakada kötü niyetli bir aktör, istem enjeksiyonu ya da sistem açığı yoktur. Çalışanlar izin verilen bir aracı, iş tanımlarına uygun işler için kullandı: hata ayıklama, kod iyileştirme ve tutanak hazırlama. Sorun, verinin sınıfı ile gittiği yer arasındaki uyumsuzluktu.

Bu ayrım savunmanın nereye bakacağını belirler. Saldırı tespit sistemleri bu olayı yakalamazdı, çünkü trafik meşru bir siteye giden olağan bir web isteğiydi. Yakalayabilecek kontroller veri sınıflandırma, yükleme denetimi ve araç sözleşmesidir. OWASP'ın 2025 LLM listesinde LLM02 Hassas Bilgi İfşası maddesi de riskin yalnızca modelin çıktısından değil, kullanıcının modele verdiği girdiden doğabileceğini vurgular.

Vakanın ikinci dersi, izin ile kontrolün aynı şey olmadığıdır. DS bölümü bir uyarı duyurusuyla kullanımı açmıştı. Duyuru, verimlilik baskısı altındaki bir mühendisin "bu kod hassas mı" sorusunu her seferinde doğru cevaplamasına dayanıyordu. Bu yüzden izin kararı, teknik kontrollerle birlikte verilmelidir. Kullanım politikası çerçevesi için gölge yapay zekâ yönetişimi rehberi yazısına bakabilirsiniz.

Yasak mı, onaylı araç mı? Tepkiler nasıl karşılaştırılır?

Samsung iki farklı tepkiyi sırayla denedi: önce boyut sınırı, sonra cihaz düzeyinde kısıtlama. Kurumlar bu seçenekleri kendi risk düzeylerine göre birleştirebilir.

Tablodan çıkan sonuç, katmanlı yaklaşımdır. Politika neyin yasak olduğunu söyler, onaylı araç meşru ihtiyacı karşılar, DLP hatayı yakalar, kayıt ise ne olduğunu gösterir. Kurumsal araç seçiminde kontrol noktaları için kurumsal ChatGPT güvenliği yazısı, sağlayıcı sözleşmesindeki saklama ve eğitimde kullanım maddeleri için LLM sağlayıcısında veri saklama kontrolü yazısı yol gösterir.

Kaynak kodu için ayrı kural nasıl yazılır?

Kaynak kodu, metin türleri arasında en sıkı kuralı gerektiren türdür. Kod; ticari sır niteliğindeki algoritmaları, iç ağ adreslerini, gömülü anahtarları ve henüz kapatılmamış zafiyetlerin izlerini taşıyabilir. Samsung vakasındaki kodlar da ölçüm verisi ve verim analiziyle ilgiliydi; yani üretim süreci hakkında bilgi içeriyordu.

Kaynak kodu kuralı için asgari maddeler:

• Kod yalnızca kurumun onayladığı ve sözleşmesi incelenmiş kod asistanlarına girilir.
• Onaylı araçta girdilerin model eğitiminde kullanılmadığı ve saklama süresi sözleşmede yazılıdır.
• Depolarda sır taraması zorunludur. Koda gömülü anahtar bırakılmaz.
• Üretim süreciyle ilgili kodlar, örneğin ölçüm, verim ya da müşteriye özel mantık, en yüksek sınıfta tutulur.
• Hata ayıklama için kodun tamamı yerine en küçük yeniden üretilebilir örnek paylaşılır.
• Toplantı kaydı ve tutanak gibi içerikler, metne çevirme dahil, yalnızca onaylı servislerde işlenir.

Benzer bir olay yaşanırsa ilk adımlar neler?

Bir çalışanın hassas veriyi dış bir yapay zekâ aracına girdiği anlaşıldığında amaç, zararı sınırlamak ve kayıt oluşturmaktır. Veri geri çağrılamayabilir, ancak verinin içindeki sırlar geçersiz kılınabilir.

1. Olayı kaydedin: kim, ne zaman, hangi araç, hangi hesap, hangi içerik.
2. İçeriği sınıflandırın: kişisel veri, ticari sır, kaynak kodu, erişim anahtarı.
3. Anahtar ya da parola varsa hemen yenileyin.
4. Sağlayıcının veri silme ve geri bildirim süreçlerini sözleşmeye göre işletin, yazışmayı saklayın.
5. Kişisel veri varsa hukuk birimiyle bildirim yükümlülüğünü değerlendirin. Kişisel Verileri Koruma Kurulu'nun 24 Ocak 2019 tarihli ve 2019/10 sayılı kararı, KVKK 12. maddedeki "en kısa sürede" ifadesini veri sorumlusunun ihlali öğrenmesinden itibaren en geç 72 saat olarak yorumlar.
6. Kök nedeni belirleyin ve kuralı, aracı ya da eğitimi güncelleyin.

Olay sonrası değerlendirmeyi suçlu aramadan yapın. Hata yapan çalışanın bildirimden çekinmesi, kurumun bir sonraki olayı geç öğrenmesine yol açar.

CISO hangi göstergeleri izlemeli?

Göstergeler, politikanın gerçekten işleyip işlemediğini gösterir. Sayıları kendi ortamınızdan ölçün ve eğilimi izleyin.

• Onaylı araç dışındaki yapay zekâ servislerine giden istek sayısı
• DLP'nin yükleme anında engellediği kaynak kodu ve kişisel veri olayları
• Onaylı araca geçen çalışan oranı ve istisna talepleri
• Sır taramasında bulunan ve yenilenen anahtar sayısı
• Bildirimden müdahaleye geçen süre

Engellenen yükleme sayısının artması hem sorunun büyüdüğünü hem de izlemenin iyileştiğini gösterebilir. Tek bir sayıya değil, olay türlerine ve çalışan geri bildirimine birlikte bakın. Yükleme anında çalışan kontrollerin mimarisi için yapay zekâ veri sızıntısı önleme yazısı daha geniş bir çerçeve sunar.

Sık Sorulan Sorular

Samsung ChatGPT sızıntısında tam olarak ne oldu?

Kore'de yayımlanan Economist dergisinin 30 Mart 2023 tarihli haberine göre Samsung'un yarı iletken bölümü 11 Mart'ta ChatGPT kullanımına izin verdi. Yirmi günden kısa sürede üç olay yaşandı. İki mühendis kaynak kodunu hata ayıklama ve optimizasyon için ChatGPT'ye girdi. Bir çalışan da metne çevrilmiş bir toplantı kaydını tutanak hazırlatmak için yükledi.

Samsung olaydan sonra hangi önlemleri aldı?

İlk adım acil önlemdi: soru başına yükleme 1024 bayt ile sınırlandı, ilgili çalışanlar hakkında inceleme başlatıldı ve olay tekrarlanırsa şirket ağında erişimin kesilebileceği duyuruldu. Mayıs 2023'te Samsung, şirket bilgisayarı, tablet ve telefonlarında üretken yapay zekâ kullanımını geçici olarak kısıtladığını TechCrunch'a doğruladı. Şirket içi araç geliştirme seçeneği de gündeme alındı.

Bu olay bir siber saldırı mıydı?

Hayır. Ortada bir saldırgan yoktu. Yarı iletken bölümü aracın kullanımına bir uyarı duyurusuyla izin vermişti ve çalışanlar gündelik mühendislik işlerini hızlandırmak istedi. Sızıntı, verinin kurum kontrolü dışındaki bir servise gönderilmesiyle gerçekleşti. Bu yüzden vaka, saldırı tespitinden çok veri akışı yönetiminin ve izin verilen kullanımın sınırlarının dersidir.

Üretken yapay zekâ araçları yasaklanmalı mı?

Genel yasak hızlı bir tepkidir, ancak tek başına kalırsa kullanımı kişisel cihazlara ve görünmeyen kanallara kaydırabilir. Daha dayanıklı yol; sözleşmesi incelenmiş onaylı bir araç sunmak, girilemeyecek veri türlerini örneklerle tanımlamak, veri sızıntısı önleme kontrolleri kurmak ve kullanımı izlemektir. Samsung'un kısıtlaması da kalıcı yasak olarak değil, güvenli ortam hazırlanana kadar geçici bir önlem olarak duyuruldu.

Kaynak kodunu yapay zekâ aracına girmek neden risklidir?

Kaynak kodu ticari sır, iç mimari bilgisi, gömülü erişim anahtarları ve zafiyet ipuçları taşıyabilir. Kod dış bir servise gönderildiğinde saklama süresi, erişim ve yeniden kullanım koşulları sağlayıcı sözleşmesine bağlı hale gelir. Samsung'un iç duyurusunda da belirtildiği gibi gönderilen veri şirket tarafından geri alınamaz. Bu nedenle kod için onaylı, kayıt tutan bir araç kullanılmalıdır.

Kaynaklar

• Economist (Kore): Samsung'un ChatGPT iznini izleyen üç sızıntı olayı, 30 Mart 2023 (Korece)
• Newsis: Büyük şirketlerin ChatGPT iç kuralları, 3 Nisan 2023 (Korece)
• TechCrunch: Samsung bans use of generative AI tools like ChatGPT after April internal data leak
• OWASP GenAI Security Project: LLM02:2025 Sensitive Information Disclosure
• KVKK: Veri İhlali Bildirimi ve 2019/10 sayılı Kurul Kararı

İlgili Yazılar

• Shadow AI Tespiti: DNS ve Proxy Loglarından Gölge Yapay Zekâ Envanteri Tanım değil, uygulanabilir tespit mühendisliği
• ChatGPT Kurumsal Kullanımda Güvenlik Rehberi Çalışan, Veri, Politika, Lisans
• AI DLP Nedir? LLM Çağında Veri Sızıntısı Önleme Programı Dört kontrol katmanını tek mimari altında birleştiren GRC yaklaşımı
• LLM Sağlayıcı Veri Saklama Politikaları Karşılaştırması