Toronto'da yaşanan olay, yapay zeka teknolojilerinin iş dünyasına entegrasyonundaki riskleri bir kez daha gözler önüne serdi. Bir BMW bayisi, bir müşterisine verdiği araç geri alım teklifini, teklifin bir yapay zeka sohbet botu tarafından hata ile oluşturulduğu gerekçesiyle geri çekti. Müşteri Zack Giacomelli, yaşadığı şoku ve hayal kırıklığını dile getirirken, bayinin bu teklifi daha sonra yeniden geçerli kılması, teknoloji kullanımındaki hassasiyetleri gündeme taşıdı. Bu durum, yapay zekanın iş süreçlerine dahil edilmesinde dikkat edilmesi gereken kritik noktaları ve olası müşteri tepkilerini de ortaya koyuyor.
Olay, 2021 model BMW aracının büyük onarımlar gerektirmesi üzerine Giacomelli'nin aracını sattığı BMW Toronto bayisine geri satma kararıyla başladı. İlk başta sorunsuz ilerleyen süreç, çevrimiçi bir talep sonrasında bayiden 'Quinn' isimli bir yapay zeka sohbet botunun müşteriyle iletişime geçmesiyle karmaşıklaştı. Bot, Giacomelli'nin araç sorunları hakkında empati kurduktan sonra, aracın kalan borcunu tam olarak karşılayan 27.162,79 dolarlık bir geri alım teklifinde bulundu. Giacomelli, bu teklif karşısında memnuniyet duysa da, bu memnuniyet kısa sürdü.
Yapay Zeka Sohbet Botlarının Hukuki Durumu ve Şirket Sorumluluğu
Bu olay, yapay zeka sohbet botlarının şirket adına sözleşme yapıp yapamayacağı sorusunu gündeme getiriyor. Özellikle Kanada gibi ülkelerde, şirketlerin yapay zeka araçlarının sebep olduğu hatalı bilgilerden sorumlu tutulabileceği hukuki emsal kararlar bulunuyor. Geçtiğimiz yıl Air Canada'nın, bir yolcuya cenaze indirimi konusunda yanlış bilgi veren sohbet botunun hatalı tavsiyesini onarmak zorunda kalması buna iyi bir örnektir. British Columbia Medeni Çözüm Tribunalı'nda havayolu, sohbet botunun "kendi eylemlerinden sorumlu ayrı bir yasal varlık" olduğunu savunsa da, mahkeme Air Canada'yı nihai sorumlu tuttu.
Toronto merkezli hukuk firması Walker Law'dan avukat Tanya Walker, "Bir çalışan yanlış bir şey yaptığında şirketin sorumlu tutulması gibi, bot da bir çalışan gibidir" diyerek, şirketlerin yapay zeka botlarının sahip olabileceği gücün ve etkinin büyüklüğünü tam olarak kavrayamadığını belirtti. Walker'a göre, bu botlar şirket adına sözleşmelere girebilir ve bu durum, iş dünyası için önemli yasal ve etik sorumluluklar doğuruyor. Bu nedenle, şirketlerin yapay zeka kullanımı konusunda daha dikkatli ve sorumlu davranması gerektiği vurgulanıyor.
BMW Bayisinin Geri Adımı ve Yeni Politikalar
Giacomelli'nin yaşadığı hayal kırıklığının bir diğer önemli nedeni ise, iletişim kurduğu kişinin veya sistemin bir yapay zeka sohbet botu olduğundan tamamen habersiz olmasıydı. Quinn, kimliğini hiçbir zaman açıklamamış ve Giacomelli, bir insanla pazarlık yaptığını sanmıştı. Bayi teklifi geri çektiğinde, gerçek geri alım teklifinin ilk bot teklifinden 7.000 dolar daha düşük, yani en iyi ihtimalle 20.000 dolar civarında olacağı belirtildi. Bu durum, Giacomelli'nin öfkesini ve hayal kırıklığını daha da artırdı.
Walker, Giacomelli'nin durumunda, botun fiziksel bir buluşma ayarlaması ve teklifi "bugün kilitleyelim" gibi ifadelerle pekiştirmeye çalışması nedeniyle, bir sözleşme olduğuna dair makul bir argüman geliştirebileceğini belirtti. Ancak,dfrac
müşteriyle görüşen BMW Toronto satış müdürü Scott Shadbolt, yaşanan karışıklığın insani bir hata olduğunu açıkladı. Shadbolt, yapay zeka botunun, müşterinin aracına ne kadar borcu olduğunu (27.162,79 $) geri alım teklifiyle karıştırdığını ve bu yanlış anlaşılma üzerine teklifi oluşturduğunu ifade etti. Bu olayın ardından, bayinin Giacomelli'nin durumunu düzeltmek amacıyla ilk teklifi yeniden geçerli kılması, müşteri memnuniyetini yeniden sağlama adına atılmış olumlu bir adım olarak değerlendirildi.
Yapay Zeka Kullanımında Şeffaflık ve Gelecek Perspektifi
BMW Toronto, bu olaydan ders çıkararak, müşterilerin yapay zeka ile ne zaman etkileşimde bulunduklarını net bir şekilde bilmelerini sağlayacak düzenlemeler yapma kararı aldı. Satış müdürü Shadbolt, "Bu bizim için biraz yeni bir bölge" diyerek, yapay zeka ile müşteri deneyimini iyileştirmenin en iyi yollarını aradıklarını belirtti. Ayrıca, botların artık sözleşme müzakere etmek yerine yalnızca insan tarafından oluşturulan teklifleri iletmekle görevlendirileceği ve tüm geri alım tekliflerinin yalnızca insan çalışanlar tarafından sunulacağı güvencesi verildi.
Gus Skorburg, Guelph Üniversitesi'nde Yapay Zeka Sorumlu ve Etik Geliştirme Merkezi'nin eş direktörü olarak, şirketlerin maliyet tasarrufu amacıyla yapay zekayı devreye soktuklarında, hatalarını kabul etme ve düzeltme sorumluluğunu da üstlenmeleri gerektiğini vurguluyor. İstatistik Kanada verilerine göre, 2025'in ikinci çeyreğinde Kanadalı işletmelerin %12'si yapay zeka kullanıyor ve bunların %25'i sohbet botları veya sanal ajanlardan faydalanıyor. Bu artış trendi göz önüne alındığında, şirketlerin yapay zeka kullanımında şeffaflığı sağlaması ve olası hatalara karşı hazırlıklı olması, gelecekteki müşteri ilişkileri ve hukuki süreçler açısından büyük önem taşıyor.
Şirketlerin yapay zeka ile arabuluculuk yaparken, bu süreçlerin sonuçlarına bağlı kalmaya hazır olmaları gerektiğini belirten avukat Tanya Walker, bu tür durumların "adil olmayan bir iş uygulaması" olabileceğini sözlerine ekledi. Bu vaka, yapay zekanın iş dünyasındaki rolünün artmasıyla birlikte, etik ve yasal çerçevelerin de bu teknolojik gelişmelere ayak uydurması gerektiğini net bir şekilde ortaya koyuyor. Şirketlerin, yapay zekanın sunduğu kolaylıklardan faydalanırken, aynı zamanda olası hataların getireceği sorumlulukları da göz ardı etmemesi gerekmektedir.
Impact Analysis
Bu olay, yapay zeka (AI) teknolojilerinin kurumsal iletişim ve müşteri ilişkileri üzerindeki etkisini ve doğurduğu riskleri çarpıcı bir şekilde ortaya koymaktadır. Şirketlerin, özellikle müşteriyle doğrudan etkileşimde bulunan AI araçlarının kullanımı konusunda daha şeffaf ve sorumlu olması gerektiği anlaşılmaktadır. Tekliflerin AI tarafından yapılması ve sonrasında iptal edilmesi, müşteri güvenini sarsabilir ve hukuki sorunlara yol açabilir. Bu durum, şirketlerin AI entegrasyonu stratejilerini gözden geçirmeleri, AI'ın sınırlarını netleştirmeleri ve insan denetimini ön planda tutmaları gerektiğini göstermektedir. Ayrıca, tüketici hakları açısından da önemli bir emsal teşkil etme potansiyeli taşımaktadır.
