Mississippi'de görülen federal bir mahkeme davasında, her iki tarafın avukatlarının da yapay zeka (YZ) kullandığı ortaya çıktı. Bu durum, jeneratif YZ araçlarının birbirine karşı argümanlar üretmek için kullanıldığı olağandışı bir senaryo yarattı. Davaya bakan yargıç, avukatların mahkemenin zamanını boşa harcadığını belirterek, “Hukuk alanında yaygınlaşan doğrulanmamış YZ kullanımının olduğu bir çağda, bu dava bir damga basma makinesi olmanın risklerini sergileyen bir örnek teşkil ediyor” dediği sert bir yaptırım kararında bu durumu kaleme aldı.
Kuzey Mississippi Bölge Mahkemesi Kıdemli Amerika Birleşik Devletleri Yargıcı Sharion Aycock, “Bu dava, her iki tarafın avukatlarının da benzer yaptırımlara tabi eylemlerde bulunduğu sıra dışı bir senaryoyu Mahkeme'ye sunuyor” diyerek, mahkemenin “YZ halüsinasyonları içeren dava dosyalarını ele almakla yine ‘yükümlü tutulduğunu’” ifade etti. Bu olay, hukuki süreçlerde yapay zeka kullanımının getirdiği riskleri ve doğrulama mekanizmalarının önemini bir kez daha gözler önüne serdi.
Yapay Zekanın Hukuki Süreçlerdeki Rolü ve Sonuçları
Olayın Detayları ve Mahkemenin Tepkisi
Söz konusu dava, avukat Tom Withers ile Mississippi'nin Aberdeen şehri arasında, görünüşte ödenmemiş hukuki ücretlerle ilgili bir sözleşmesel anlaşmazlığı içeriyordu. Davada Withers’ın avukat olmadığı ve mahkeme tarafından herhangi bir yaptırıma tabi tutulmadığı belirtildi. Dava ilk olarak, sık sık yapay zeka kaynaklı hatalar içeren davalar hakkında paylaşımlar yapan bir avukat olan Rob Freund tarafından fark edildi. Freund, durumu “bir dizi YZ hatası komedisi” olarak nitelendirerek, “sanki iki müvekkil, birbirine karşı argüman üretmesi için temelde ChatGPT'ye (veya her ne ise LLM'e) para ödüyormuş gibiydi” şeklinde yorum yaptı.
Bu olay, avukatların dava dosyalarını hazırlarken yapay zeka kullanma eğiliminin arttığı bir dönemde yaşandı. Her iki tarafın avukatlarının da argümanlarını sunarken mevcut olmayan, uydurma (halüsinasyon görmüş) emsal kararlara atıfta bulunması, daha önce de karşılaşılan bir durumun benzer bir örneğini teşkil ediyor. Ancak bu davadaki fark, davada yer alan tüm avukatların bu durumla ilişkilendirilmesi oldu. Yargıç Aycock, bu gelişme üzerine yargılamayı durdurdu, duruşmayı iptal etti ve davada yer alan dört avukatı da görevden uzaklaştırdı.
Yaptırımlar ve Avukatların Sorumluluğu
Yargıç Aycock, kullandıkları yapay zeka çıktılarının doğruluğunu teyit etmemelerinden kaynaklanan sorumlulukları konusundaki değerlendirmesine bağlı olarak, iki avukatın mahkeme önünde iki yıl süreyle görünmekten men edildiğini belirtti. Diğer tüm avukatlar ise, sorumluluk derecelerine göre 1.000 ila 3.500 dolar arasında değişen para cezalarına çarptırıldı. Bu kararlar, hukuki metinlerde yapay zeka çıktılarının mutlak bir güvenilirlikle kullanılmaması gerektiği ve avukatların bu konudaki nihai sorumluluğunun altını çizdi.
Ülke genelindeki yargıçlar, yapay zeka kullanarak dosya hazırlayan avukatlardan giderek daha fazla rahatsızlık duyduklarını dile getiriyor. Geçtiğimiz hafta New York'ta bir yargıcın, farklı avukatların uydurma emsal kararlara atıfta bulunması nedeniyle bu avukatları sert bir dille ele aldığına dair bir haber yapılmıştı. Bu durum, hukuki profesyoneller arasında yapay zeka araçlarının sorumlu kullanımı konusunda artan bir endişe olduğunu gösteriyor.
Etki Analizi
Hukuk Sektöründe Yapay Zeka Kullanımının Geleceği
Bu dava, hukuk sektöründe yapay zeka teknolojilerinin entegrasyonunun potansiyel tehlikelerini ve zorluklarını açıkça ortaya koymaktadır. Yapay zekanın verimlilik artırma ve karmaşık görevleri kolaylaştırma potansiyeli yadsınamaz olsa da, doğruluğunun teyit edilmemiş çıktılarının hukuki süreçlerde ciddi hatalara ve zaman kayıplarına yol açabileceği görülmüştür. Hakimlerin ve mahkemelerin bu duruma karşı giderek daha sert tepki vermesi, gelecekte yapay zeka kullanımına ilişkin daha sıkı düzenlemelerin ve denetim mekanizmalarının geliştirilebileceği sinyalini vermektedir.
Avukatların, yapay zeka araçlarını kullanırken en üst düzeyde dikkat göstermeleri ve üretilen bilgileri bağımsız olarak doğrulamaları büyük önem taşımaktadır. Aksi takdirde, bu tür hatalar yalnızca mahkemelerin güvenilirliğini zedelemekle kalmayacak, aynı zamanda avukatların mesleki itibarlarını ve itibarlarını da tehlikeye atacaktır. Mahkemelerin, yapay zeka kaynaklı yanlış bilgilendirmelerle mücadelede daha proaktif adımlar atması beklenmektedir.
