Yapay zeka teknolojilerinin hızla geliştiği günümüzde, bu sistemlerin eğitimi için kullanılan veri toplama yöntemleri ve etik boyutları giderek daha fazla tartışma konusu oluyor. Üretken yapay zeka devriminin erken aşamalarında, Kenya'daki sözleşmeli çalışanların şaşırtıcı derecede düşük ücretlerle çalıştırıldığına dair ortaya çıkan rahatsız edici gerçekler, şimdi de Meta'nın akıllı gözlükleriyle ilgili endişelerle birleşti. Meta'nın, Ray-Ban akıllı gözlükleri aracılığıyla kaydedilen görüntüleri kullanarak yapay zeka sistemlerini eğiten bir tedarikçiyle olan ilişkisini sessizce sonlandırması, 1.000'den fazla çalışanın işini kaybetmesine yol açtı.
Bu olayın ardından, söz konusu tedarikçi Sama, Nairobi'deki 1.108 çalışanının işine son verdiğini duyurdu. Bazı çalışanlar, incelemeleri istenen görüntülerin hassas doğası hakkında bilgi verdikten sonra cezalandırıldıklarını iddia etti. Olayın detayları ilk olarak Şubat ayında, Kaliforniya merkezli outsourcing firması Sama'nın Nairobi şubesindeki çalışanların, iki İsveçli gazeteciye verdikleri demeçlerle ortaya çıktı. Çalışanlar, görevlerinin, akıllı gözlüklerden alınan ve kullanıcıların kayıt altına alındıklarından habersiz oldukları kişileri gösteren görüntüleri etiketlemek olduğunu belirttiler.
Meta Akıllı Gözlükleri ve Veri Toplama Tartışmaları
Meta'nın Ray-Ban akıllı gözlükleri, ses ve video kaydı yapabilen bir yapay zeka asistanına sahip. Bu kaydedilen verilerin bir kısmı, yapay zeka eğitim verisi olarak kullanılıyor. Yapay zeka sistemlerinin zorlandığı durumları ve içerikleri etiketleme görevi ise insan çalışanlara düşüyor. Meta, hizmet şartlarının bu detayları açıkladığını ve gözlüklerin yapay zeka modunu etkinleştirmek için kullanıcıdan açık izin aldığını belirtiyor. Buna rağmen, Sama çalışanları, gözlüklerin bankacılık bilgilerini, özel sohbetleri, banyolarda çıplak insanları ve samimi anları kaydettiğini bildirdiler. Bu durum, gizlilik endişelerini daha da artırdı.
Raporun ardından Meta, Sama'nın kendi standartlarını karşılamadığı gerekçesiyle sözleşmesini feshetti. Sama ise işlerinin standart dışı olduğuna dair herhangi bir uyarı almadıklarını açıkladı. Bu gelişmeler yaşanırken, Sama çalışanlarının, firmanın köstebeği kimliğini bulmaya çalışmasıyla güvenlik önlemlerinin sıkılaştırıldığı ve görev yapmadan çalışmaya zorlandıkları bildirildi. Bu olay, yapay zeka verilerinin toplanma biçiminin etik boyutlarını ve çalışan haklarını bir kez daha gündeme getirdi.
Yapay Zeka Eğitiminde Etik Kaygılar ve Geçmiş Vaka İncelemeleri
İşten çıkarma kararı sonrası Sama'nın geçmişteki faaliyetleri de mercek altına alındı. Sama, OpenAI'nin ChatGPT'yi eğitmek için de çalıştığı firma olarak biliniyor. 2022'deki lansman öncesinde, chatbot'u daha az toksik hale getirmek amacıyla Kenya merkezli çalışanların, rahatsız edici içerikleri filtrelemek için günde 2 doların altında bir ücretle çalıştığı ve bunun zihinsel sağlıkları üzerinde belgelenmiş etkileri olduğu ortaya çıkmıştı. Hatta o yıl Meta ve Sama, yanıltıcı iş ilanları kullanarak insan kaçakçılığı yapmak ve sendikalaşmaya çalışan işçileri işten çıkarmakla da suçlanmıştı.
Akıllı gözlüklerin kayıt yetenekleri, Google Glass'ın yıllar önce keskin bir kamu tepkisiyle karşılaşmasından bu yana eleştirilerin odağında yer alıyor. Meta'nın bu kategoriyi daha gizli donanımlarla yeniden canlandırmasının ardından, kullanıcıların bu cihazları mahkeme salonlarında, polis operasyonlarında ve hatta sınavların yapıldığı sınıflarda kullandığına dair belgeler mevcut. Bu durum, teknolojinin kötüye kullanılma potansiyelini ve buna karşı alınması gereken önlemleri sorgulatıyor.
Pazar Rekabeti ve Gelecek Perspektifleri
Akıllı gözlük teknolojileri alanında rekabet giderek artıyor. Apple'ın da Meta Ray-Ban'lere rakip olmak amacıyla dört farklı akıllı gözlük tasarımı üzerinde çalıştığı bildiriliyor. Bu rekabet ortamı, teknolojinin daha da gelişmesini sağlarken, aynı zamanda gizlilik ve etik standartların belirlenmesi açısından da önem taşıyor. Meta'nın yaşadığı bu son olay, şirketleri, veri toplama süreçlerinde daha şeffaf olmaya ve çalışan haklarını daha fazla gözetmeye teşvik edebilir.
Bu tür olaylar, yapay zeka teknolojilerinin toplumsal etkilerini ve etik sorumluluklarını anlamamız açısından kritik öneme sahip. Teknolojinin faydalarından yararlanırken, insan haklarına ve gizliliğe saygı gösterilmesi gerektiği gerçeği bir kez daha gözler önüne seriliyor. Gelecekte, yapay zeka eğitiminde kullanılan verilerin kaynağı ve bu süreçte yer alan çalışanların hakları konusunda daha sıkı düzenlemeler ve denetim mekanizmalarının oluşturulması bekleniyor.
Etki Analizi
Meta'nın akıllı gözlük verilerini kullanarak yapay zeka eğiten yüklenici firma Sama ile olan sözleşmesini feshetmesi ve bunun sonucunda 1.000'den fazla çalışanın işten çıkarılması, yapay zeka endüstrisindeki etik tartışmaları daha da alevlendirdi. Bu olay, yalnızca veri gizliliği ve çalışan hakları konusundaki mevcut endişeleri derinleştirmekle kalmadı, aynı zamanda teknoloji devlerinin tedarik zincirlerindeki etik standartlara uyumunu da sorgulattı. Şirketlerin, yapay zeka sistemlerini eğitirken kullandıkları verilerin hassasiyeti ve bu süreçte yer alan insan emeğinin değeri konusunda daha dikkatli olmaları gerektiği açıkça ortaya kondu. Ayrıca, bu tür olaylar, yapay zeka teknolojilerinin gelişiminin, etik ve yasal çerçevelerle birlikte ilerlemesi gerekliliğini vurguluyor. Teknoloji şirketlerinin, kâr odaklı büyüme stratejileri ile toplumsal sorumlulukları arasında denge kurması, gelecekteki teknolojik ilerlemelerin sürdürülebilirliği açısından hayati önem taşıyor.
