Son yıllarda, avukatların jeneratif yapay zeka kullanarak hazırladıkları yasal belgelerde sahte atıflar, alıntılar ve önemli hatalar yaptıkları vakalarla sıkça karşılaşmaktayız. Bu durum genellikle mahkeme kayıtlarında ortaya çıkmakta, karşı taraf veya yargıçlar tarafından fark edilerek, profesyonel etik ve hukuki meslek disiplini açısından ciddi sonuçlar doğurabilmektedir. Bazen bu tür hatalar, yargılamayı uzatmanın ve mahkeme zamanını boşa harcamanın bedeli olarak ağır yaptırımlara yol açmaktadır.
Geçtiğimiz ay New York Yüksek Mahkemesi'nde görülen bir temyiz duruşmasında, bir avukatın yapay zeka ile ürettiği sahte atıflar kullandığı canlı yayında tespit edildi. 20 Mayıs'ta New York Eyaleti Yüksek Mahkemesi Temyiz Bölümü Hakimleri Valerie Brathwaite Nelson ve Hector LaSalle, söz konusu avukata ve karşı tarafın avukatına 20 dakikadan uzun süren bir konuşmayla durumu "çarpıcı, endişe verici, hayal kırıklığı yaratan ve üzücü" olarak nitelendirerek tepki gösterdiler.
Yapay Zeka ve Hukuki Belge Hazırlama Sorunları
Sahte Atıfların Ortaya Çıkışı ve Hukuki Sonuçları
Davacı Judith Landberg, kaldırımdaki ağaç köklerinin neden olduğu yamuk tuğlalar üzerinde tökezleyerek yaralandığı iddiasıyla New York şehrine dava açmıştır. Duruşmada, davacının avukatı Michael Sanders, bir kaldırımın tanımını savunmaya çalışıyordu. Hakim Nelson, duruşma sırasında, davacı tarafının sunduğu dilekçede en az üç adet uydurma olduğu düşünülen dava atfının yer aldığını belirtmiş ve bu atıfların veya alıntıların gerçekte var olmadığına dair bir izlenim edindiğini ifade etmiştir.
Sanders'ın sadece var olmayan davaları değil, aynı zamanda hukuki durumu yanlış temsil ettiği düşünülen 10 ek dava atfı yaptığını da belirten Nelson, avukata "Buna nasıl yanıt veriyorsunuz?" sorusunu yöneltmiştir. Sanders, bu özel atıflar hakkında konuşmaya hazır olmadığını belirterek savunmaya geçmiş ancak Hakim Nelson, profesyonel davranış kurallarının 3.3 A maddesine atıfta bulunarak bir avukatın mahkemeye bilerek yanlış bir olgu veya hukuk beyanında bulunamayacağını ve daha önce yaptığı yanlış bir beyanı düzeltmekle yükümlü olduğunu hatırlatmıştır.
Avukatın Savunması ve Yargıçların Tepkisi
Sanders, "Herhangi bir atıf yanlışsa, en derin özürlerimi sunarım" diyerek kekeledi. Ancak Hakim LaSalle, "Bu davaları nereden aldınız?" diye sorduğunda, Sanders "Bu davaların spesifik olarak ne olduğunu bilmiyorum" yanıtını vermiştir. LaSalle ve Nelson, Sanders'ı atıflar ve kaynakları hakkında birkaç dakika daha sorgulamaya devam etmişlerdir. Yargıçlar doğrudan üretken yapay zekayı dile getirmemiş olsalar da, avukatların yapay zeka kullanarak argüman ve temyiz hazırlarken sahte atıflar eklediği salgın hastalığı göz önüne alındığında, bu durumun yapay zeka ile ilgili olduğu kuvvetle muhtemeldir.
Diğer davalarda yapay zekayı kullandığı tespit edilen avukatlar, soğuk algınlığından acelesi olmaya, hatta paralegal sorumluluğuna kadar çeşitli bahaneler öne sürmüşlerdir. Genel olarak yargıçlar, bu durumdan oldukça bıkkın görünmektedir. Hakim LaSalle, "Sadece bilginiz olsun, çünkü bu konuda daha da kötüye gitmenizi istemem, mevcut olmayan ilkelerden bahsediyorsunuz" diyerek Sanders'ı uyarmıştır. "Size bir şey söyleyeyim. Bunu geçen hafta gördük. Umudum, bugün için hazırlık yaparken, bunu okuyup 'Ah, bir hata yaptık Yargıç' diyeceğinizdi. Bazen olur, değil mi? Ben bunu umuyordum. Bunu alamadık. Size şimdi bu davaları incelemeniz için biraz zaman verelim mi?" Sanders, bunun muhtemelen 15 dakikadan uzun süreceğini belirtmiştir.
Karşı Taraf Avukatının Rolü ve Sorumluluğu
Daha sonra mülk sahibinin avukatı Ross Friscia söz almış, ancak Hakim LaSalle, Sanders'ı sorgulamaya devam ederek, "Temyiz mahkemesi standardı ortaya koyuyor ki bu mevcut değil. Bunu argümanının bir bileşeni olarak kullanıyordu ve bunu bize bildirmeyi düşünmediniz mi?" diye sormuştur. Friscia, "Özellikle atıfta bulunduğu hukuki ilkenin yanlış olduğunu fark etmedim" diyerek yanıt vermiştir.
Hakim LaSalle, "Üzgünüm, size argümanınızı yapmanız için her fırsatı vereceğim. Ama kafam karıştı. Dürüst olmak gerekirse. Tamamen... Ve ben burada... Avukatlar hata yapar. Kolay bir meslek değil. Avukatlara vurmak istemem ama yaptığımız işlerde baroya çok güveniyoruz. Bu yüzden yaptığım ilk şey, meslektaşlarım adına konuşmak istemem ama yazdıklarını gördükten sonra, sizin belgelerinize baktığımda, bir şey referans etmesini beklerdim. [...] Bu tek bir dava değildi, avukat, birkaç dava vardı ve siz de bunu bize bildirmeyi uygun görmediniz. Bu bana gerçekten çarpıcı geliyor." dedi.
Friscia, mahkemeye derin özürlerini sunarak, "Sayın Yargıç, mahkemeye özür dilerim. Bundan sonra daha fazla özen göstereceğim" demiştir. LaSalle, "Umarım öyledir. Bana değil, müvekkilinize özür dilemelisiniz" diye eklemiştir. Friscia, "Evet, bunun için özür dilerim. Ve bundan sonra, her davayı kontrol edeceğim, genel hukuk ilkeleri belirtse bile... Mahkemeye bildireceğim" diyerek taahhütte bulunmuştur.
Yargıç Nelson'dan Uyarılar ve Dava Sonucu
Hakim Nelson bu noktada devreye girerek, "Buradaki yanlış beyanlar o kadar büyük bir derecede ki, sadece bir görüş farklılığını yansıtamaz. Bir temyiz mahkemesi avukatı olarak, eğer işi yapsaydınız ve dilekçeleri okuyup yanıtlardınız, ana dilekçedeki bir şeyin yanlış olduğunu fark etmeniz gerekirdi, birçok şeyin yanlış olmasa bile. Bu endişe verici çünkü hepimiz mahkemenin görevlileriyiz ve sizin de mahkemeye işi bildirme, bu tür yanlış beyanlar, uydurma davalar ve uydurma atıflar ve bir temyiz mahkemesi davasının sonucunu yanlış beyan etme konusunda bir sorumluluğunuz var. Devam edebilirim ama dilekçeyi okuyup davalara bakmış olsaydınız, mahkemeyi uyarmak da sizin sorumluluğunuzda olduğunu fark ederdiniz." dedi.
Friscia, dilekçeleri belirli konulara yanıt vermek üzere uyarladığını ancak açıklama yapmaya devam etmediğini belirtmiş; tekrar özür dileyip bir dahaki sefere daha titiz olacağını söyleyerek sözlerini tamamlamıştır. Ardından, New York Şehri'ni temsil eden avukat Elizabeth Freedman söz almıştır. Nelson, Freedman'a da aynı soruyu yönelterek, "Peki, bu mahkemeye, davacı vekili tarafından görünürdeki uydurma ve yanlış beyanlar içeren bir dilekçe sunulduğunu bu mahkemenin dikkatine sunmadaki başarısızlığınızı nasıl açıklıyorsunuz?" diye sormuştur. Freedman, dilekçeleri okuduğunu ancak meselenin kendi konuları olmadığı için üzerinde durmadığını belirterek mahkemeden özür dilemiştir.
Etki Analizi
Bu olay, yapay zeka teknolojilerinin hukuki alanda kullanımının getirdiği riskleri ve bu risklere karşı dikkatli olunması gerekliliğini açıkça ortaya koymaktadır. Mahkemelerin ve avukatların, yapay zeka destekli araçları kullanırken dahi, sunulan bilgilerin doğruluğunu titizlikle teyit etme sorumluluğu bulunmaktadır. Sahte atıflar ve yanlış bilgiler, hem yargılamanın adaletini tehlikeye atmakta hem de hukuki mesleğin güvenilirliğini zedelemektedir. Bu tür vakaların tekrarlanmaması için avukatların ek eğitim alması ve yapay zeka araçlarının denetim mekanizmalarının güçlendirilmesi gerekmektedir.
