Yeni Zelanda, cinsel içerikli derin sahte (deepfake) görüntüler oluşturmayı ve yaymayı suç haline getirecek bir yasal düzenlemeye hazırlanıyor. Ülkede ilk okuması yapılacak olan 'Derin Sahte Dijital Zarar ve Sömürü Yasa Tasarısı' (Deepfake Digital Harm and Exploitation Bill), tüm siyasi yelpazede destek görüyor. Bu yasal adım, yapay zeka (YZ) destekli sahte cinsel materyallerin hızla artan yayılımıyla mücadelede önemli bir dönüm noktası olabilir. Tasarı, rıza olmadan cinsel içerikli deepfake üretmek, paylaşmak veya satmak eylemlerini cezai bir yaptırıma bağlamayı hedefliyor.
Bu düzenleme, özellikle Elon Musk'ın Grok AI sohbet robotunun X platformunda kullanılarak kadınların ve kız çocuklarının dijital olarak soyulması ve yaklaşık üç milyon civarında cinsel içerikli görüntü üretilmesi gibi vakaların ardından geldi. Yeni Zelanda, bu konuda yalnız değil; Birleşik Krallık, Avustralya, Güney Kore ve Amerika Birleşik Devletleri gibi ülkeler de rıza dışı deepfake oluşturma ve paylaşımını suç sayan yasaları yürürlüğe koymuş veya genişletmiştir. Bu yasal düzenlemeler önemli bir başlangıç adımı olsa da, cinsel içerikli deepfake'lerin yayılmasını engellemek için teknolojinin kendisinin de düzenlenmesi gerektiği uzmanlarca vurgulanıyor.
Deepfake Teknolojisi ve Yaygınlığı
Deepfake, gerçek bir kişinin aslında söylemediği veya yapmadığı bir şeyi yapmış gibi göstermek amacıyla YZ tarafından oluşturulan görüntü, ses veya video içerikleridir. Görüntü tabanlı cinsel istismarda bu, genellikle bir kişinin rızası olmadan yapay zeka kullanılarak ikna edici ancak sahte cinsel materyallerin üretilmesi anlamına gelir. Bazı durumlarda, sosyal medyadan alınan sıradan fotoğraflar manipüle edilerek müstehcen görüntülere dönüştürülürken, diğer YZ sistemleri yalnızca metin komutlarından tamamen uydurma cinsel içerikler üretebilmektedir. Bu tür istismar vakaları ezici bir çoğunlukla kadınları hedef almaktadır. Yapılan araştırmalar, çevrimiçi deepfake videolarının %98'inin pornografik olduğunu ve büyük ölçüde kadınları hedef aldığını göstermektedir. Mağdurlar için, görüntünün gerçek bir orijinalden mi yoksa tamamen uydurma mı olduğuna bakılmaksızın zararlar önemli boyutlardadır; insanlar aşağılanma, korku, endişe, kontrol kaybı ve cinsel özerkliğin ihlal edildiğini bildirmektedir.
Bu teknolojinin sunduğu imkanlar, kötüye kullanıma açık bir zemin hazırlamaktadır. Özellikle yüz değiştirme ve dijital olarak kişileri çıplak gösterme yetenekleri, bireylerin mahremiyetine ve itibarına ciddi zararlar verebilmektedir. Bu sahte içerikler, sosyal medyada hızla yayılarak mağdurlar üzerinde kalıcı psikolojik etkilere neden olabilmektedir. YZ modellerinin, internetten toplanan devasa veri kümeleri üzerinde eğitilmesi ve bu veri kümelerinin sıklıkla kadın ve kız çocuklarının görsellerini rızaları veya bilgileri olmadan içermesi de sorunun temelinde yatan bir başka katmandır. Bu durum, kadınların bedenlerinin hem YZ sistemleri için ham madde hem de bu sistemler tarafından üretilen istismarın hedefi haline gelmesine yol açmaktadır.
Yeni Zelanda Yasal Mevzuatındaki Boşluklar
Yeni hazırlanan yasa tasarısı, mevcut yasal mevzuattaki boşlukları doldurmayı amaçlamaktadır. Şu anki durumda Yeni Zelanda'da cinsel içerikli deepfake'lere özel bir cezai yaptırım bulunmamaktadır. Mevcut yasalar uygulanabilir olsa da, YZ kaynaklı istismarı önlemek amacıyla tasarlanmamışlardır. Örneğin, 2015 tarihli Zararlı Dijital İletişim Yasası (Harmful Digital Communications Act 2015), zararlı dijital iletişimin yayınlanmasını cezalandırmakta ve bu yasa, cinsel içerikli bir deepfake vakasında en az bir kez kullanılmıştır. Ancak bu suçun kanıtlanması, failin ciddi duygusal sıkıntıya neden olma niyetini taşıdığı ve bu sıkıntının fiilen gerçekleştiği ispatlanmalıdır. Bu gereklilikler, görüntü tabanlı cinsel istismar mağdurları için zorlu engeller teşkil edebilmektedir.
2022 yılında yasaya eklenen yeni bir suç tipi, sözde "intikam pornosu" (revenge porn) vakalarını ele almak üzere tasarlanmıştı; bu yasa, mahrem bir görsel kaydın rıza olmadan paylaşılmasını suç haline getirmiştir. Bu düzenleme, Ceza Yasası'ndaki (Crimes Act) mevcut suçların yanında yer almaktadır. "Mahrem görsel kayıt" kavramı, 2000'li yılların başlarında gizli kameralarla yapılan gizli çekimlerle mücadele etmek için getirilmişti. Parlamento, özellikle tuvaletler veya soyunma odaları gibi mahremiyet beklentisinin olduğu alanlarda kadın ve kız çocuklarını hedef alan "upskirting" ve "downblousing" olarak bilinen istismar biçimlerine yanıt olarak bu düzenlemeyi yapmıştı. Dolayısıyla yasa, bir kişinin gizlice kaydedilip kaydedilmediğine odaklanmıştı. Ancak deepfake'ler bu çerçeveyi karmaşıklaştırmaktadır, çünkü ortada hiçbir kayıt işlemi gerçekleşmemiş olabilir. Bu durum, mahrem bir görüntünün gerçek olduğu durumlarda mevcut yasanın, tamamen uydurulmuş bir görüntüye göre daha net olabileceği anlamına gelmektedir.
Cezai Yaptırımların Ötesinde Bir Yaklaşım
Deepfake yasa tasarısı, "oluşturulan, sentezlenen veya değiştirilen" görüntüleri de kapsayacak şekilde "mahrem görsel kayıt" tanımını genişleterek bu belirsizliği gidermeye çalışmaktadır. Ancak yasa tasarısı, Yeni Zelanda'nın görüntü tabanlı cinsel istismara verdiği yanıttaki daha geniş bir eğilimi de yansıtmaktadır: yasal düzenlemeler genellikle yeni teknolojiler mevcut korumalardaki boşlukları ortaya çıkardıktan sonra evrimleşmektedir. İlk olarak gizli kameralar ve gizli kayıtlar, ardından intikam pornosu ve şimdi de üretken yapay zeka. Ceza hukuku, reaktif bir rol oynamakta ve yeni teknoloji aracılığıyla işlenen cinsel zararları kapsayacak şekilde geleceğe dönük olarak tasarlanmamıştır.
Yeni teknolojilerin hızlı gelişimi, cezai yaptırımların tek başına cinsel içerikli deepfake'lerin yayılmasını durdurmasının pek olası olmadığını göstermektedir. Deepfake oluşturma araçları ucuz, hızlı ve giderek daha erişilebilir hale gelmektedir. Yapılan bir soruşturma, hem Apple hem de Google uygulama mağazalarında onlarca "nudify" (müstehcenleştirme) ve yüz değiştirme uygulaması tespit etmiştir. Bu uygulamalar, sıradan fotoğraflardan saniyeler içinde cinsel içerikli görüntüler üretebilmektedir. Müstehcen veya aşağılayıcı içerikleri yasaklayan uygulama mağazası politikalarına rağmen, bu araçların birçoğu genellikle görüntü düzenleme uygulamaları olarak gizlenmiş bir şekilde kolayca erişilebilir durumdadır.
Teknoloji Düzenlemeleri ve Gelecek Perspektifi
Üretken yapay zeka sistemleri, genellikle kadın ve kız çocuklarının görsellerini bilgileri veya rızaları olmadan içeren, internetten kazınan (scraped) devasa veri kümelerine dayanmaktadır. Sonuç olarak, kadınların bedenleri hem yapay zeka sistemleri için ham madde hem de bu sistemler tarafından üretilen istismarın hedefi haline gelmektedir. Bu nedenle Yeni Zelanda'nın ceza hukukunun ötesine geçerek düzenleme konularını ele alması gerekmektedir. Avustralya, Birleşik Krallık ve Avrupa Birliği gibi ülkeler, müstehcenleştirme uygulamalarını ve web sitelerini yasaklama yönünde adımlar atmaktadır. Yeni Zelanda'nın da bu yaklaşımı benimsemesi beklenmektedir.
Daha geniş bir perspektifte, Yeni Zelanda'nın yüksek riskli YZ sistemleri, özellikle de rıza dışı cinsel içerik üretebilen teknolojiler için bir düzenleyici çerçeve oluşturmayı düşünmesi gerekmektedir. Bu çerçeve, görüntü oluşturma sistemlerinde zorunlu güvenlik önlemleri, bu araçları dağıtan uygulama mağazaları ve platformlar üzerinde daha güçlü yükümlülükler ve YZ eğitim verileriyle ilgili şeffaflık gerekliliklerini içerebilir. Derin Sahte Dijital Zarar ve Sömürü Yasa Tasarısı önemli bir ilerleme olup parlamentonun bunu onaylaması gerekmektedir. Ancak Yeni Zelanda, üretken YZ çağında görüntü tabanlı cinsel istismarla anlamlı bir şekilde mücadele etmek istiyorsa, ceza hukuku konuşmanın sonu olmamalıdır.
Etki Analizi
Yeni Zelanda'nın deepfake teknolojisine yönelik atacağı bu yasal adımlar, dijital ortamda bireysel hakların korunması açısından küresel çapta emsal teşkil edebilecek niteliktedir. Özellikle yapay zeka destekli içerik üretiminin hızla geliştiği günümüz dünyasında, rıza dışı deepfake üretimi ve yayılımının cezalandırılması, mağdurların korunmasında önemli bir adım olacaktır. Ancak, teknolojinin hızına ayak uydurabilmek için sadece cezai yaptırımlarla sınırlı kalmayıp, teknoloji geliştiricileri, platformlar ve veri sağlayıcıları üzerinde de düzenleyici sorumluluklar getirilmesi, sorunun kökten çözümüne katkı sağlayacaktır. Bu, dijital dünyada etik standartların ve yasal çerçevelerin sürekli güncellenmesi gerekliliğini ortaya koymaktadır.
