Air Canada Chatbot Kararı ve Kurumsal Sorumluluk

Air Canada chatbot davasında ne oldu?

Olay bir yas indirimi (bereavement fare) talebiyle başladı. Jake Moffatt'ın büyükannesi 11 Kasım 2022'de Ontario'da hayatını kaybetti. Moffatt aynı gün Vancouver'dan Toronto'ya uçuş ayırtmak için Air Canada'nın sitesine girdi ve sitedeki destek chatbot'una yas indirimini sordu.

Chatbot'un yanıtı, hemen seyahat etmesi gereken ya da zaten seyahat etmiş yolcuların, biletin düzenlendiği tarihten itibaren 90 gün içinde bilet iade başvuru formunu doldurarak indirimli tarife talep edebileceğini söylüyordu. Yanıttaki "bereavement fares" ifadesi, şirketin "Bereavement travel" başlıklı sayfasına bağlantı veriyordu. O sayfa ise seyahat tamamlandıktan sonra yapılan taleplerde politikanın uygulanmadığını belirtiyordu. Yani chatbot, kendi verdiği bağlantıdaki sayfayla çelişiyordu.

Şirket temsilcisi, Şubat 2023'teki yazışmada sorunu chatbot'u güncellemek için not ettiğini de yazdı. Air Canada ayrıca 200 dolarlık bir kupon önerdi. Moffatt kuponu kabul etmedi ve 880 dolar talep etti. Uyuşmazlık bu noktadan sonra tribunale taşındı.

Tribunal hangi gerekçeyle şirketi sorumlu tuttu?

Tribunal, talebi ihmalli yanlış beyan olarak değerlendirdi. Kararın 25. paragrafına göre bu sorumluluk için beş unsur gerekir: özen yükümlülüğü, beyanın yanlış ya da yanıltıcı olması, beyanın ihmalle yapılması, müşterinin beyana makul biçimde güvenmesi ve bu güvenin zarara yol açması. Tribunal, hizmet sağlayıcı ile tüketici arasındaki ticari ilişkide özen yükümlülüğünün bulunduğunu kabul etti.

Kararın en çok alıntılanan kısmı 27. paragraftır. Air Canada, chatbot dahil temsilcilerinin verdiği bilgiden sorumlu tutulamayacağını savundu. Tribunal üyesi Christopher C. Rivers bunu, chatbot'un kendi eylemlerinden sorumlu ayrı bir tüzel kişi olduğunu ima etmek olarak nitelendirdi ve "dikkate değer bir iddia" dedi. Gerekçe kısadır: chatbot etkileşimli bir bileşen taşısa da Air Canada'nın web sitesinin bir parçasıdır. Şirket, sitesindeki tüm bilgiden sorumludur ve bilginin statik bir sayfadan ya da chatbot'tan gelmesi fark yaratmaz.

1. paragraf, kurumların ürün ekipleri için en öğretici kısımdır. Tribunal, Air Canada'nın chatbot'un doğruluğu için makul özeni göstermediğine karar verdi. Şirket, "Bereavement travel" sayfasının chatbot'tan neden daha güvenilir olduğunu açıklamadı. Müşterinin sitenin bir bölümündeki bilgiyi başka bir bölümden neden teyit etmesi gerektiğini de açıklamadı. 29. paragrafta müşterinin chatbot'a güvenmesi makul bulundu.

Şirketin tarife (taşıma sözleşmesi) savunması da sonuç vermedi. Air Canada tarifenin ilgili bölümünü dosyaya sunmadığı için tribunal sözleşmeye dayalı bir savunmanın kanıtlanmadığını belirtti. Hüküm 44. paragraftadır: 650,88 dolar tazminat, 36,14 dolar karar öncesi faiz ve 125 dolar başvuru ücreti, toplam 812,02 Kanada doları.

Karar neyi söylüyor, neyi söylemiyor?

Karar, bir şirketin kendi kanalında müşteriye verdiği bilgiden sorumlu olduğunu ve bu bilginin bir chatbot tarafından üretilmesinin sorumluluğu ortadan kaldırmadığını söyler. Tutar küçüktür, ancak gerekçe her sektöre taşınabilecek kadar geneldir.

Kararın söylemediği şeyler de önemlidir:

• Chatbot'un hangi teknolojiyle çalıştığını belirlemez. 14. paragrafa göre Air Canada chatbot'un niteliği hakkında bilgi vermedi. Sorumluluk teknolojiye değil, beyanın kendisine bağlandı.
• Yapay zekâya özgü bir düzenlemeye dayanmaz. Sonuç, genel haksız fiil ilkeleriyle kuruldu.
• Uyarı metinlerinin etkisini tartışmaz. Bu konuda karardan kesin bir sonuç çıkarmak doğru olmaz.
• Başka ülkelerin mahkemelerini bağlamaz. Türkiye'deki sonuç, somut olaya ve uygulanacak hukuka göre değerlendirilir.

Vaka, güvenlik literatüründe de yer buldu. OWASP'ın 2025 LLM listesindeki LLM09 Yanlış Bilgi (Misinformation) maddesi, olgusal hata örneği olarak Air Canada chatbot'unu anar. NIST'in üretken yapay zekâ profili (NIST AI 600-1) ise aynı riski "konfabulasyon", yani hatalı içeriğin kendinden emin biçimde sunulması olarak tanımlar.

Air Canada chatbot vakasından hangi kontroller çıkar?

Vakadaki her kırılma noktası, somut bir kontrole karşılık gelir. Aşağıdaki tablo, kararda görülen sorunları kurumsal kontrollere ve sorumlu birimlere eşler.

Bu kontrollerin ortak noktası, modelin doğruluğuna güvenmek yerine yanlışın müşteriye ulaşmasını zorlaştırmaktır. Çalışma anında çıktı denetiminin nasıl kurulduğu çalışma zamanı LLM korumaları yazısında ayrıntılı anlatılır.

Bağlayıcı konularda en güvenli desen, yanıtı üretmek yerine onaylı metni göstermektir. Chatbot soruyu anlar, ilgili politika maddesini bulur ve metni değiştirmeden sunar. Model yalnızca açıklama cümlesi kurar, sayı, süre ve koşulları değiştiremez. Politika metni sürümlenir ve chatbot'un hangi sürüme dayandığı kayda geçer.

Bağlayıcı bilgi veren chatbot nasıl test edilir?

Test, politika metninden türetilmiş ve bilerek zorlayan bir soru setiyle yapılır. Amaç, chatbot'un istisna, geriye dönük talep ve sınır durumlarında politikadan sapıp sapmadığını görmektir. Air Canada vakasındaki soru tam da böyle bir istisnaydı: "Seyahatten sonra başvurabilir miyim?"

Asgari test seti şunları içermelidir:

• Her bağlayıcı politika için doğrudan soru ve aynı sorunun farklı ifadeleri
• Geriye dönük talep, süre aşımı ve istisna soruları
• Yanıttaki bağlantının içeriğiyle yanıtın kendisini karşılaştıran kontrol
• Politika değiştikten sonra eski kuralı tekrar eden yanıtları yakalayan regresyon testi
• Müşterinin baskı kuran ifadeleri, örneğin "temsilciniz bana söz verdi" gibi cümleler
• Desteklenen her dilde aynı soruların tekrarı

Test sonucu ikili okunmalıdır. Politikayla çelişen tek bir yanıt, yayın engeli sayılır. Kapsamlı test yöntemi için kurumsal chatbot güvenlik testi rehberi adım adım bir çerçeve sunar. Saldırgan senaryoları da kapsayan bağımsız bir değerlendirme gerekiyorsa LLM sızma testi bu seti genişletebilir.

Hatalı yanıt bildirildiğinde süreç nasıl işlemeli?

Kararda dikkat çeken bir ayrıntı vardır: şirket temsilcisi hatayı Şubat 2023'te kabul etti, ancak uyuşmazlık bir yıl sonra tribunal kararıyla kapandı. Hatalı yanıt bildirimini bir müşteri şikâyeti olarak değil, bir olay olarak ele almak bu tür süreçleri kısaltır.

Önerilen akış:

1. Konuşma kaydını ve o anda geçerli politika sürümünü değiştirmeden saklayın.
2. Yanıtı onaylı politika metniyle karşılaştırın ve hatayı sınıflandırın.
3. Müşteri için telafi kararını hukuk ve müşteri hizmetleri birlikte verin.
4. Chatbot'u düzeltin ya da ilgili konuyu düzeltme bitene kadar sabit metne alın.
5. Kayıtlarda aynı ya da benzer yanıtı almış diğer müşterileri arayın.
6. Hatalı soruyu regresyon test setine ekleyin.

Beşinci adım çoğu zaman atlanır. Bir chatbot aynı soruya aynı hatalı yanıtı birçok müşteriye vermiş olabilir. Kayıtları tarayıp etkilenenleri önceden bulmak, tek tek şikâyet beklemekten daha az maliyetlidir.

Yönetim ve hukuk birimi hangi soruları sormalı?

Yönetim düzeyindeki asıl soru şudur: chatbot'umuz kurum adına neyi söyleyebilir ve söylediğinin sorumluluğunu nasıl yönetiyoruz? Bu sorunun cevabı yazılı olmalı ve düzenli raporlanmalıdır.

1. Chatbot hangi konularda serbest yanıt verir, hangilerinde yalnızca onaylı metin gösterir?
2. Bağlayıcı sayılabilecek bilgilerin listesi var mı ve hukuk birimi onayladı mı?
3. Politika değiştiğinde chatbot'un bilgi kaynağı aynı gün güncelleniyor mu?
4. Hatalı yanıt bildirimi kaç saat içinde değerlendiriliyor ve kim karar veriyor?
5. Konuşma kayıtları ve politika sürümleri bir uyuşmazlıkta kanıt olarak sunulabilecek biçimde saklanıyor mu?
6. Sağlayıcı sözleşmesi, model hatasından doğan zararın paylaşımını nasıl düzenliyor?

Bu soruların cevapları yönetim kurulu raporlamasına girmelidir. Raporun yapısı için yönetim kurulu yapay zekâ risk raporlaması yazısına bakabilirsiniz. Vakanın kısa özeti şudur: müşteriye konuşan chatbot'a, aynı işi yapan bir çalışana uyguladığınız bilgi doğruluğu ve denetim standardını uygulayın.

Sık Sorulan Sorular

Air Canada chatbot davasında karar ne oldu?

British Columbia Civil Resolution Tribunal, 14 Şubat 2024 tarihli Moffatt v. Air Canada, 2024 BCCRT 149 kararında havayolunu ihmalli yanlış beyandan sorumlu tuttu. Chatbot, zaten seyahat etmiş yolcunun biletin düzenlendiği tarihten itibaren 90 gün içinde yas indirimi isteyebileceğini söylemişti. Tribunal 650,88 dolar tazminat, 36,14 dolar faiz ve 125 dolar başvuru ücreti olmak üzere toplam 812,02 Kanada doları ödenmesine hükmetti.

Air Canada chatbot'un ayrı bir sorumlu olduğunu mu savundu?

Kararın 27. paragrafına göre Air Canada, chatbot dahil temsilcilerinin verdiği bilgiden sorumlu tutulamayacağını savundu. Tribunal bunu, chatbot'u kendi eylemlerinden sorumlu ayrı bir tüzel kişi gibi sunmak olarak nitelendirdi ve kabul etmedi. Gerekçe açıktır: chatbot etkileşimli olsa da şirketin web sitesinin bir parçasıdır ve bilginin statik sayfadan ya da chatbot'tan gelmesi fark yaratmaz.

Chatbot'a uyarı metni eklemek sorumluluğu ortadan kaldırır mı?

Karar uyarı metnini ayrıca tartışmadı, bu yüzden uyarının sonucu değiştirip değiştirmeyeceği bu karardan çıkarılamaz. Tribunal ise müşterinin sitenin bir bölümündeki bilgiyi başka bir bölümden teyit etmek zorunda olmadığını belirtti. Uygulamada uyarı metni beklentiyi yönetir, ancak fiyat, iade ve iptal gibi bağlayıcı konularda yanıtı onaylı kaynağa bağlamak gerekir.

Bu karar Türkiye'deki şirketleri bağlar mı?

Bağlamaz. Karar, Kanada'nın British Columbia eyaletinde küçük alacak uyuşmazlıklarına bakan bir tribunale aittir ve Türk mahkemeleri için emsal niteliği taşımaz. Gerekçesi ise geneldir: şirket kendi kanalında müşteriye verdiği bilgiden sorumludur ve bilginin hangi araçla üretildiği bunu değiştirmez. Türk hukukundaki sonucu somut olaya göre hukuk biriminizle değerlendirin.

Bağlayıcı bilgi veren chatbot nasıl test edilir?

Fiyat, iade, iptal ve kampanya gibi konular için onaylı politika metninden türetilmiş bir soru seti hazırlayın. Her model, istem ya da politika değişikliğinde bu seti çalıştırın. Yanıtı hem politika metniyle hem de chatbot'un verdiği bağlantıdaki sayfayla karşılaştırın. Çelişen yanıtı yayın engeli sayın ve kayıtlarda aynı yanıtı almış müşterileri arayın.

Kaynaklar

• Civil Resolution Tribunal: Moffatt v. Air Canada, 2024 BCCRT 149
• OWASP GenAI Security Project: LLM09:2025 Misinformation
• NIST: AI 600-1 Generative Artificial Intelligence Profile
• BBC Travel: Air Canada chatbot misinformation, what travellers should know

İlgili Yazılar

• Kurumsal Chatbot Güvenlik Testi: Adım Adım Rehber
• Runtime LLM Guardrails Üretim Ortamında Yapay Zekâ Savunması
• Yönetim Kuruluna Yapay Zeka Risk Raporlaması CISO için 12 göstergelik KRI seti ve tek sayfalık rapor şablonu
• Perakende Chatbot Güvenlik Testi ve Yapay Zekâ Riskleri