Sağlık Sektöründe Yapay Zeka Güvenliği
KVKK Madde 6, Tıbbi Cihaz ve Teşhis AI'ları · 2026

Sektördeki AI Kullanım Alanları

Türk sağlık sektöründe yapay zeka kullanımı 2026 itibarıyla pilot uygulama aşamasını çoktan geride bıraktı. Hastaneler, sağlık teknolojisi şirketleri ve sigorta kuruluşları farklı alanlarda yoğun yatırım yapıyor. Bu yatırımlar altı ana başlıkta toplanıyor.

En olgun alan tıbbi görüntü analizidır. Radyoloji görüntülerini ön incelemeden geçiren, anomali tespit eden, ölçümleri otomatikleştiren sistemler birçok hastanede üretim ortamındadır. İkinci alan klinik karar destek: hekim tedavi seçeneklerini değerlendirirken yapay zekanın benzer hasta profillerine dayalı önerilerinden yararlanıyor; tanı kararı yine hekimin elindedir ama süreç desteklenir.

Üçüncü alan hasta asistanlarıdır; randevu yönetimi, ilaç hatırlatma ve hasta sorularının ön elemesi için kullanılan dil modeli tabanlı asistanlar hızla yaygınlaşıyor. Dördüncüsü idari süreçler: faturalama, kodlama, sigorta talepleri ve raporlama gibi geri ofis işlerinde içerik üreten araçlar üretkenliği artırıyor. Beşincisi ilaç ve klinik araştırma alanıdır; molekül tasarımı, klinik çalışma analizi ve gerçek dünya kanıtı (real-world evidence) üretimi yapay zekayla hızlanıyor. Altıncı ve giderek büyüyen alan uzaktan izleme ve giyilebilir teknoloji: kalp ritmi, kan şekeri ve uyku verisi gibi sürekli akışları analiz eden modeller hem hastane hem tüketici tarafında gelişiyor.

Bu altı alanın ortak özelliği, ürettikleri yanlışların doğrudan insan sağlığına dokunması ve işledikleri verinin yasal olarak en yüksek koruma seviyesinde olmasıdır. Bu iki nokta sektörü diğer hiçbir alana benzemeyen bir güvenlik gereksinimine taşır.

KVKK Madde 6 Neden Ayrı Bir Konu?

Sağlık verisi, KVKK kapsamında özel nitelikli kişisel veri kategorisindedir; cinsel hayat, ırk, etnik köken, siyasi düşünce, dini inanç, biyometrik ve genetik veriler ile aynı statüye sahiptir. Bu statünün anlamı, normal kişisel verilere kıyasla daha katı koşullarda işlenebilmesidir.

Madde 6'nın getirdiği temel kısıtlama, bu verinin işlenmesi için ya ilgili kişinin açık rızasının ya da kanunlarda açıkça öngörülmüş olmasının aranmasıdır. Diğer hukuki sebepler (sözleşmenin ifası, meşru menfaat) sağlık verisi için doğrudan geçerli değildir. Sağlık ve cinsel hayata ilişkin veriler için ayrıca; kamu sağlığının korunması, koruyucu hekimlik, tıbbi teşhis, tedavi ve bakım hizmetlerinin yürütülmesi gibi belirli amaçlar dahilinde sır saklama yükümlülüğü altındaki kişiler tarafından işlenebilmesi yolu vardır.

Bu hukuki çerçeve yapay zeka uygulamaları için somut sonuçlar doğurur. Bir hastanede çalışan asistan model, hastayla konuşurken anestezi geçmişine bakar; bu bir Madde 6 işlemesidir ve doğru hukuki sebebin gerekçelendirilmiş olması gerekir. Eğitim verisi olarak hasta kayıtlarının kullanılması ise tamamen farklı bir amaçtır ve ayrıca dayandırılması gerekir; varsayılan olarak tedavi için alınmış rıza model eğitimini kapsamaz.

Pratik açıdan en kritik nokta, modelin çıktısında da Madde 6 verisinin oluşabilmesidir. Sağlık asistanı hastayla konuşurken halüsinasyon yoluyla başka bir hastanın tanısını üretebilir; ya da prompt enjeksiyonu sonrası sistem hassas bilgileri açığa çıkarabilir. Bu durum klasik veri sızıntısının çok daha ağır bir versiyonudur; KVKK ihlalinin yanı sıra hekim sorumluluğu, hastane itibarı ve hasta güvenini de zedeler.

Sektöre Özgü Altı Tehdit Vektörü

Genel yapay zeka tehditleri sağlık sektöründe de geçerlidir; ancak sektörün özel koşulları altı belirgin vektörü öne çıkarır.

1. Hasta Verisi Sızıntısı

En klasik ve en ağır vektör budur. Bir hastane asistanı, bağlam katmanından gelen başka hastalara ait bilgileri yanlışlıkla yanıta dahil edebilir. RAG sisteminden çekilen hasta kayıtları, vektör veritabanı yetki kontrolü zayıfsa, başka bir kullanıcı sorgusunda bağlama girebilir. Halüsinasyonla üretilen bilgi de aynı sonucu doğurur; modelin uydurduğu tanı, sanki gerçek hasta kaydıymış gibi okunabilir.

Sağlık bağlamında bu sızıntının ağırlığı, finansal bilgi sızıntısından kat kat fazladır. Tedavi geçmişi, ruh sağlığı kayıtları ve aile öyküsü gibi bilgiler kişinin yaşam boyu mahremiyetini etkiler; bir kez ifşa olduğunda telafisi mümkün değildir.

2. Teşhis Modelinde Önyargı

Tıbbi görüntü analizi ve klinik karar destek modelleri büyük ölçüde eğitim verisinin demografik bileşimine bağlıdır. Eğitim setinde belirli bir hasta profilinin baskın olması, modelin diğer profillerde sistematik biçimde yanlış kararlar üretmesine yol açabilir. Örneğin batı toplumlarından toplanmış ten lezyonu verisiyle eğitilen bir model, koyu tenli hastalarda kanser tanısını daha düşük doğrulukta tespit eder.

Bu önyargı bilinçli bir saldırı sonucu değil; yapı sorunudur. Ancak güvenlik perspektifinden saldırgan da bu zaafı manipüle edebilir; eğitim verisini zehirleyerek modelin belirli demografik gruplara karşı sistematik yanlış üretmesini sağlayabilir.

3. Tedavi Önerisinde Halüsinasyon

Dil modeli tabanlı klinik karar destek araçlarında halüsinasyon hekim için ciddi bir tuzaktır. Model bir literatür referansını, bir ilaç etkileşimini ya da bir doz aralığını uydurabilir; eğer hekim bu bilgiyi doğrulamadan kabul ederse hasta zarar görebilir. Önemli olan, modelin uydurduğu içeriğin sıklıkla mantıklı ve referansları gerçekmiş gibi sunulmasıdır; uzman olmayan bir göz için ayırt etmek zordur.

Bu vektör saldırı değil, modelin doğal sınırıdır; ama güvenlik perspektifinden yine de yönetilmesi gereken bir risktir. Çünkü yanlış öneri sonucu yaşanan zarar, hastane için hem hukuki hem etik yükümlülük doğurur.

4. Tıbbi Cihaz Yazılımı Manipülasyonu

Tıbbi cihaz olarak değerlendirilen yapay zeka yazılımları (örneğin görüntü analizinde otomatik raporlama yapan bir radyoloji modeli) Sağlık Bakanlığı düzenlemelerine tabidir. Bu cihazların belge süreçleri (CE, TÜRK), versiyon yönetimi ve değişiklik kontrolleri klasik yazılımdan farklıdır. Saldırgan açısından bu cihazlar yüksek değerli hedeflerdir; modelin manipülasyonu doğrudan klinik kararı saptırabilir.

Üretim ortamında yetkisiz model güncellemesi, eğitim sırasında veri zehirlenmesi ve cihaz arayüzü üzerinden parametre manipülasyonu bu kategoride değerlendirilir.

5. Hasta Asistanı Sosyal Mühendisliği

Hastayla doğrudan konuşan dil modeli asistanları sosyal mühendislik saldırılarının yeni bir aracı haline gelebilir. Saldırgan, asistanın sistem promptunu sızdırarak hastane prosedürlerini öğrenebilir ya da asistanı ikna ederek başka hastalar adına işlem talepleri üretebilir. Daha kötü senaryoda saldırgan, hastane asistanı kılığına bürünüp dış kanallarda sahte sağlık tavsiyeleri yayınlayabilir.

6. Telesağlık ve Uzaktan İzleme Sızıntıları

Giyilebilir cihazlardan ve uzaktan izleme platformlarından toplanan sürekli akışlar, çoğunlukla bulut tabanlı yapay zeka modelleriyle işlenir. Bu mimariler genellikle çok sayıda üçüncü taraf entegrasyonu içerir; her entegrasyon, hasta verisi için yeni bir maruz kalma noktası açar. Tedarik zinciri açıkları, bu kanalda sızıntının en sık yolu olarak öne çıkıyor.

Tıbbi Cihaz Yazılımı Düzenlemesi

Bir yapay zeka yazılımının tıbbi cihaz olarak değerlendirilmesi, üzerindeki yasal yükümlülüğü kökten değiştirir. Sağlık Bakanlığı'nın tıbbi cihaz yönetmelikleri kapsamında SaMD (Software as a Medical Device) olarak nitelendirilen yazılımların belgelenmesi, üretim süreçleri, klinik değerlendirme dosyaları, piyasaya sürme sonrası izlemesi (post-market surveillance) ve değişiklik kontrolleri klasik yazılımdan ciddi biçimde farklıdır.

Yapay zeka tarafında bu çerçeve birkaç ek soruyu beraberinde getirir. Birincisi, modelin sürekli öğrenen mi yoksa kilitli versiyonlu mu olduğudur; sürekli öğrenen modeller her güncellemede yeniden değerlendirme gerektirebilir. İkincisi, modelin klinik performansının dönemsel olarak nasıl ölçüldüğü ve veri sapmasının (data drift) nasıl izlendiğidir. Üçüncüsü, ciddi olay bildirim yükümlülüğüdür: model kaynaklı yanlış tanı ya da tavsiye bir hastayı zarara uğrattığında, bu olay düzenleyici otoriteye bildirilmek zorundadır.

CE belgesi sürecinde yapay zeka için MDR (EU Medical Device Regulation) ek kuralları ve son dönemde gelişen GMLP (Good Machine Learning Practice) ilkeleri referans alınır. Türk sağlık teknolojisi şirketleri Avrupa pazarına da hizmet veriyorsa, EU AI Act ile MDR arasındaki çift uyum gündeme gelir; her iki çerçeve de yüksek riskli kategori için ek yükümlülükler getirir.

Sağlık Bakanlığı henüz yapay zekaya özel bir tebliğ yayımlamamış olsa da SaMD değerlendirmesinde yapay zekanın özel yönlerine dikkat çeken rehberlik metinlerini düzenli olarak güncellemektedir. Önümüzdeki dönemde daha somut bir AI-SaMD tebliği gelmesi yüksek olasılıkla beklenebilir.

Hasta Hakları ve Açık Rıza

Sağlık verisinin işlenmesinde açık rıza, formalite olmaktan çıkıp bilinçli ve aydınlatılmış bir karar olmalıdır. Yapay zeka bağlamında bu rızanın kapsadığı durumlar netleşmelidir. Hasta rızasını imzaladığında, hangi verilerinin hangi yapay zeka sistemleriyle, hangi amaçlarla işleneceğini somut olarak anlamış olmalıdır.

Pratikte üç farklı düzeyde rıza gerekli olabilir. Birincisi tedavi amaçlı işleme rızası: hastanın kendi tanı ve tedavi sürecinde yapay zeka araçlarının kullanılmasına onay vermesidir. İkincisi model eğitimi rızası: hasta kayıtlarının (anonimleştirilmiş ya da olduğu gibi) gelecekteki modellerin eğitiminde kullanılmasına onay vermesidir; bu rıza ayrı verilmelidir, tedavi rızasının içine sıkıştırılamaz. Üçüncüsü üçüncü taraf paylaşım rızası: hastane verisinin sağlık teknolojisi tedarikçileriyle paylaşılmasına onaydır.

Madde 11'den doğan haklar da burada özel ağırlık taşır. Hasta, kendisi hakkındaki yapay zeka destekli kararlara itiraz edebilir, otomatik analiz sonuçlarının insan tarafından gözden geçirilmesini talep edebilir. Bir teşhis destek aracı bir görüntüyü kanser kuşkusuyla işaretlediğinde, hastanın gerçek tanı için hekim değerlendirmesine erişimi standart süreç olmalıdır; modelin çıktısı tek başına kararın temeli haline gelmemelidir.

Veri sahibi tarafından silme talebi geldiğinde durum karmaşıklaşır. Hastanın geçmiş kayıtları arşivlerden silinebilir; ancak bu kayıtlarla eğitilmiş bir modelin parametrelerinden o kişinin etkisini çıkarmak teknik olarak son derece zordur. Bu yüzden eğitim aşamasında anonimleştirme ya da takma adlaştırma katmanı, hasta hakları yönünden değil teknik mümkünlük yönünden de zorunludur.

Kurumsal Savunma Yaklaşımı

Sağlık sektöründe yapay zeka güvenliği genel ilkelerin üzerine sektöre özgü beş katman daha ekler. Bu katmanlar birbirinden bağımsız çalışabilir ama birlikte uygulandığında sektör seviyesinde olgun bir koruma sağlar.

Birinci katman veri sınıflandırma ve etiketlemedır. Hastanenin tüm verisi düz bir kütle değildir; Madde 6 kapsamındaki veriler, sıradan idari kayıtlardan teknik olarak ayrılmış halde, ayrı erişim politikalarıyla saklanmalıdır. Yapay zeka sistemleri bağlam olarak veri çekerken bu etiketler retrieval katmanında karara bağlanmalıdır; modelin görmemesi gereken veri zaten retrieval'a düşmemelidir.

İkinci katman hasta düzeyinde erişim denetimidır. Bir asistan ya da klinik karar destek modeli, yalnızca o anki kullanıcının yetkili olduğu hastalara ait veriyi görmelidir. Hekim X hasta Y'nin verisine erişebilir ama hasta Z'ye değil; bu yetki kuralı vektör veritabanı seviyesinde uygulanmalıdır, model katmanında değil. Aksi halde retrieval bypass saldırılarıyla başka hasta verisi sızabilir.

Üçüncü katman klinik karar denetim kaydıdır. Modelin verdiği her klinik öneri, hangi girdilerle, hangi modelin hangi versiyonu tarafından üretildiği kayda alınmalıdır. Bu kayıt, hekimin sonradan kararı gözden geçirmesini, hatalı bir öneri varsa kaynağa inilmesini ve düzenleyici denetim durumunda kanıt sunulmasını mümkün kılar.

Dördüncü katman hekim denetim mekanizmasıdır. Otomatik karar mekanizmalarının yüksek etki taşıdığı durumlarda (görüntü analizi, ilaç dozajı önerisi) hekimin denetim akışına dahil olması süreç olarak zorunlu kılınmalıdır. Modelin çıktısı dosyaya doğrudan yazılmaz; hekim onayından sonra sisteme işlenir. Bu yaklaşım hem klinik kalite hem hukuki sorumluluk açısından savunulabilir bir konum sağlar.

Beşinci katman tedarikçi denetimidır. Sağlık teknolojisi tedarikçileri genellikle hasta verisini buluta taşır; bu taşıma sözleşmesel olarak nasıl güvence altındadır, ne zamana kadar saklanır, hangi alt yüklenicilerle paylaşılır? Bu soruların yazılı cevapları olmadan hiçbir entegrasyon canlıya alınmamalıdır. Tedarikçinin denetim hakkı, ihlal bildirim süresi ve veri yerleşimi seçeneği sözleşmenin temel maddelerinden olmalıdır.

Tipik Bir Olay Senaryosu

Soyut çerçeveyi bir vakayla somutlaştıralım. Orta büyüklükte bir özel hastanenin yapay zeka destekli randevu asistanını düşünelim. Asistan, hastaların telefon ya da WhatsApp üzerinden gönderdiği taleplere göre randevu oluşturuyor; gerektiğinde geçmiş tedavi bilgilerinden referans alıyor.

Bir Pazartesi sabahı kalite ekibi bir şikayet alır: bir hasta, kendisine ait olmayan bir tedavi geçmişinin asistan tarafından kendisine okunduğunu söyler. Asistan, "Geçen ay aldığınız diyabet kontrol ilaçlarınız için tekrar randevu mu istiyorsunuz?" diye sormuş, ancak hasta diyabet hastası değildir.

Olay inceleme süreci başlatılır. Önce kayıttan ilgili konuşmanın tam akışı çıkarılır. Görülür ki asistan, RAG sisteminden hasta kaydı çekerken yanlış kayıtla eşleştirme yapmıştır. Sebep tek değildir; hastanın telefon numarası, kayıt tabanında benzer numaralı başka bir hastayla karışmıştır ve retrieval katmanı eşleme kontrolünü yapmamıştır. Üstelik yanlış kayıtla eşleştirme alarm üretmemiştir, çünkü retrieval davranış izleme bu vakaya odaklı kurallarla tasarlanmamıştır.

Müdahale beş koldan ilerler. Birincisi, etkilenen iki hasta da bilgilendirilir; gerçekte sızan veri ne kadar, hangi içerikler aktarıldı netleştirilir. İkincisi, asistanın retrieval katmanına telefon numarası eşleme doğrulaması eklenir; tek bir alan üzerinden değil, en az iki kimlik özelliğinin doğrulanmasıyla hasta seçimi yapılır. Üçüncüsü, davranışsal anomali kurallarına "asistan farklı bir hastanın detayını açıkladıysa" tetikleyicisi eklenir; sonraki olaylar erken yakalanır. Dördüncüsü KVKK Kurumuna bildirim hazırlanır; Madde 6 verisi söz konusu olduğu için ilgili hasta bildirimi de zorunluluğun parçasıdır. Beşincisi, geriye dönük tarama yapılır; aynı kalıbın geçmiş haftalarda kaç vakada yaşandığı çıkarılır.

Vaka iki açıdan öğreticidir. Birincisi, sızıntının kaynağı kötü niyetli bir saldırgan değil; iç sürecin eksikliğidir. Yapay zeka güvenliği yalnızca saldırgana karşı değil, sistemin kendi köşelerinde unutulan kontrollere karşı da bir disiplindir. İkincisi, sektör bağlamında zarar boyutu derhal hukuki bir tabloya dönüşür; sağlık verisi söz konusu olduğunda olay yalnızca bilgi sistemleri meselesi değil aynı zamanda mahremiyet hakkı meselesidir.

Sık Yapılan Hatalar

Sağlık sektöründe yapay zeka çalışmalarında karşılaştığımız tipik tuzakların başında "hasta verisi anonim, sorun yok" varsayımı gelir. Akademik literatür, sözde anonimleştirilmiş sağlık verisinin sıklıkla yeniden tanımlanabildiğini açık biçimde göstermiştir; özellikle nadir tanıların ya da küçük coğrafi bölgelerin söz konusu olduğu durumlarda re-identifikasyon kolaylaşır. Etkili anonimleştirme tek bir adım değil, çok katmanlı bir disiplindir.

İkinci yaygın hata tedavi rızasının model eğitimi rızası gibi yorumlanmasıdır. Hasta tedavi sürecinde verdiği rızanın geleceğin modellerini eğitmek için yeterli olduğu varsayılır; bu varsayım hem hukuki hem etik açıdan savunulamaz. Model eğitimi ayrı bir amaçtır ve ayrı rıza gerektirir.

Üçüncü tuzak, yapay zekanın çıktısının hekim raporuna doğrudan yazılmasıdır. Model bir görüntüyü "şüpheli" olarak işaretlediğinde, bu işaret raporda doğrudan yer aldığında, sorumluluk zinciri belirsizleşir. Doğru yaklaşım, modelin çıktısının hekim notu olarak değil, hekimin değerlendirdiği bir veri katmanı olarak konumlanmasıdır.

Dördüncüsü tedarikçi entegrasyonlarını sözleşmesiz ya da yetersiz sözleşmeyle kabul etmektir. Sağlık verisi söz konusuyken, hangi alt yüklenicinin neyi gördüğüne dair yazılı şeffaflık olmazsa, kurum bir KVKK denetiminde savunmasız kalır. Son olarak klinik karar denetim kaydını tasarımın sonuna bırakmak ciddi bir eksikliktir; bir olay yaşandığında modelin neden o öneriyi verdiğine geri dönülemiyorsa, hem kurum içi öğrenme hem hukuki savunma imkânsız hale gelir.

Sonuç

Türk sağlık sektörü, yapay zeka yatırımlarından en somut faydayı görme potansiyeli olan sektörlerden biridir; aynı zamanda hata maliyetinin en yüksek olduğu alandır. KVKK Madde 6'nın ek koruma çerçevesi, tıbbi cihaz yazılımının düzenleyici yükümlülükleri ve klinik kararın insan sağlığına doğrudan etkisi, bu sektörde yapay zeka güvenliğinin diğer sektörlerden ayrılmasını zorunlu kılar.

Sağlam bir kurumsal savunma; veri sınıflandırma, hasta düzeyinde erişim denetimi, klinik karar denetim kaydı, hekim denetim mekanizması ve tedarikçi denetimi üzerine kurulur. Bu beş katman, hastanelerin ve sağlık teknolojisi şirketlerinin yapay zeka olgunluğunu üretkenlik kayıpları yaşamadan güvenli bir tabana taşır.

AltaySec olarak sağlık sektörüne özel yapay zeka tehdit değerlendirmesi, Madde 6 odaklı uyumluluk analizi ve klinik karar destek modelleri için risk yönetim mimarisi üzerine çalışmalarımızı sürdürüyoruz. Sektörel seri ilerleyen yazılarda kamu, e-ticaret ve telekom alanlarını da ele alacak.