Mississippi'de federal bir mahkemede görülen davada, her iki tarafın avukatlarının da yapay zeka (AI) kullandığı ortaya çıktı. Bu durum, üretken yapay zeka araçlarının birbirlerine karşı argüman üretmek için kullanıldığı ender bir senaryoya işaret ediyor. Dava hakimi, avukatların mahkemenin zamanını boşa harcadığını belirterek sert bir yaptırım kararı yayınladı. Kararda, “Hukuk alanında yaygınlaşan doğrulanmamış yapay zeka kullanımının olduğu bir çağda, bu dava bir damga vurma (rubber-stamp) olmanın risklerini taşıyan bariz bir örnek teşkil ediyor” denildi.
Kuzey Mississippi Bölge Mahkemesi kıdemli yargıcı Sharion Aycock, “Bu dava, her iki tarafın avukatlarının da benzer yaptırıma tabi eylemlerde bulunduğu olağandışı bir senaryo sunuyor. Mahkeme, 'yapay zeka halüsinasyonlarının yol açtığı mahkeme başvurularını ele almakla yine görevlendirildi'” ifadelerini kullandı. Bu durum, yapay zekanın hukuki süreçlerde ne kadar dikkatsizce kullanılabileceğini ve bunun sonuçlarını gözler önüne serdi.
Yapay Zeka Kaynaklı Hukuki Hatalar ve Sonuçları
Davanın Arka Planı ve Tarafların Durumu
Söz konusu dava, avukat Tom Withers ile Aberdeen şehri arasındaki sözleşmesel bir anlaşmazlıkla ilgiliydi. Anlaşmazlık, görünüşte ödenmemiş hukuki ücretler üzerine kuruluydu. Davada Withers'ın kendisi avukatlık yapmıyordu ve mahkeme tarafından herhangi bir yaptırıma uğramadı. Davanın ilk kez, yapay zeka halüsinasyonları içeren davalar hakkında sık sık paylaşım yapan avukat Rob Freund tarafından fark edildiği belirtildi.
Freund, durumu “yapay zeka hatalarının komedisi” olarak nitelendirerek, “İki müvekkilin, esasen ChatGPT (veya benzeri bir LLM) için birbirine karşı argüman üretmesi için ödeme yaptığı” yorumunu yaptı. Bu durum, avukatların sadece bilgi almakla kalmayıp, aynı zamanda bu bilgileri doğrulamadan doğrudan mahkemeye sunduklarında ne kadar büyük riskler aldıklarını gösteriyor.
Mahkemenin Tepkisi ve Yaptırımlar
404 Media'nın daha önceki haberlerinde de avukatların dilekçelerini hazırlarken yapay zeka kullandığı ve bu durumun yarattığı sorunlar sıkça ele alınmıştı. Bu mahkeme davasındaki spesifik detaylar, daha önce görülen benzer bir tabloyu çiziyor: Her iki tarafın avukatları da iddialarını desteklerken var olmayan, hayali davalara atıfta bulunmuşlardı. Farklılık yaratan unsur ise davadaki tüm avukatların bu durumdan sorumlu tutulması oldu.
Yargıç Aycock, bu nedenle yargılamayı durdurdu, duruşmayı iptal etti ve davada yer alan dört avukatı da görevden aldı. İki avukat mahkeme önünde iki yıl süreyle yasaklanırken, tüm avukatlar kullandıkları yapay zekanın çıktısını doğrulamadıkları için kusurluluk değerlendirmesine bağlı olarak 1.000 ila 3.500 dolar arasında değişen para cezalarına çarptırıldı.
Yapay Zeka Kullanımına Yönelik Artan Hakim Endişesi
Ülke genelindeki hakimler, yapay zeka kullanan avukatlardan giderek daha fazla rahatsızlık duyduklarını dile getiriyorlar. Geçtiğimiz hafta, New York'ta bir hakimin, çeşitli avukatları hayali davalara atıfta bulundukları için sert bir şekilde ele aldığına dair bir haber yayınlanmıştı. Bu durum, yapay zekanın hukuki metin üretiminde bir araç olarak kullanılmasına yönelik denetimlerin sıkılaşması gerektiğini ortaya koyuyor.
Hakimler, yapay zekanın sunduğu bilgilerin doğruluğunu teyit etme sorumluluğunun avukatlarda olduğunu vurguluyor. Aksi takdirde, hukuki süreçlerin güvenilirliği ve adaletin tecellisi ciddi şekilde zarar görebilir. Bu tür vakalar, yapay zeka destekli araçların sorumlu ve etik kullanımı konusunda daha fazla farkındalık yaratma ihtiyacını doğuruyor.
Etki Analizi
Bu vaka, yapay zekanın özellikle hukuki alan gibi kritik sektörlerdeki potansiyel risklerini ve beraberinde getirdiği etik sorumlulukları net bir şekilde ortaya koymaktadır. Avukatların, yapay zeka tarafından üretilen bilgileri sorgulamadan kabul etmesi, mahkemelerin zamanını boşa harcamakla kalmayıp, aynı zamanda adalet sisteminin kendisine olan güveni de sarsmaktadır. Bu durum, yapay zeka araçlarının hukuki süreçlerde kullanımına ilişkin daha sıkı düzenlemeler ve denetim mekanizmalarının gerekliliğini gündeme getirmektedir.
Özellikle üretken yapay zeka modellerinin “halüsinasyon” görme (yanlış veya uydurma bilgi üretme) eğilimi, hukuki argümanların temelini oluşturan kaynakların doğruluğu konusunda ciddi endişeler yaratmaktadır. Mahkemelerin, avukatların yapay zeka çıktısını doğrulamalarını zorunlu kılması ve bu ihlaller için yaptırım uygulaması, gelecekte benzer durumların yaşanmasını engelleme potansiyeli taşımaktadır. Bu gelişme, teknoloji ve hukuk arasındaki hassas dengeyi yeniden tanımlama sürecinin bir parçası olarak değerlendirilmelidir.
