Google'ın ABD Savunma Bakanlığı (Pentagon) ile yaptığı yapay zeka (AI) anlaşması, şirket içinde önemli bir tartışmayı alevlendirdi. Şirketin Gemini AI modellerinin, ABD ordusunun sınıflandırılmış ağlarında "herhangi bir yasal amaçla" kullanılmasına izin veren bu anlaşma, 2018'deki Project Maven kriziyle paralellikler taşıyor. O dönemde de çalışanların yoğun tepkisi, Google'ı Pentagon ile olan işbirliğini sonlandırmaya zorlamıştı. Ancak sekiz yıl sonra, Google yönetiminin bu yeni anlaşmadaki duruşu, önceki duruma göre daha kararlı görünüyor.
İlk bakışta tarihin tekerrür ettiği izlenimi uyansa da, mevcut durumun Project Maven'dan farklı gelişebileceği belirtiliyor. Mevcut ve eski Google çalışanları, teknoloji işçilerinin şirketin politikaları üzerinde etkili olma gücünün azaldığını ifade ediyor. Geçmişte istifa tehditleri ve binlerce imza toplayan dilekçelerin şirketin kararını değiştirebildiği günler geride kalmış gibi görünüyor. OpenAI ve xAI gibi şirketlerin de benzer şekilde ABD ordusuyla anlaşmalara imza atması, Google'ı bu konuda daha da agresif bir tavır almaya itmiş olabilir.
Google'ın Pentagon Anlaşması ve Çalışan Muhalefeti
Google'ın Pentagon ile yaptığı ve Gemini yapay zeka modellerini kapsayan anlaşma, şirketin "sorumlu yapay zeka" ilkeleriyle ne kadar uyumlu olduğu sorusunu gündeme getirdi. Yaklaşık 600 çalışanın imzaladığı açık mektupta, şirketin bu teknolojiye "yasal amaçlarla" erişim sağlamasına karşı çıkıldığı belirtildi. Mektupta, Google'ın "kullanımı veto edemeyeceği" ve "hükümet talebi üzerine güvenlik filtrelerini değiştirmeyi taahhüt ettiği" vurgulanarak, bu durumun "ayrıca utanç verici" olduğu ifade edildi. Özellikle DeepMind bünyesindeki araştırma bilimcisi Alex Turner, gelişmeleri "Google'ın, işbirliğini artık reddedemeyeceği" şeklinde yorumladı.
Bu tür anlaşmalara karşı çalışan tepkisi, özellikle yapay zekanın savaş alanlarında kullanım potansiyeli göz önüne alındığında yeni değil. Ancak Google'ın kendi tutumundaki değişim, eleştirmenleri alarma geçiriyor. Project Maven sonrası yayınlanan ve yapay zekanın silahlarda veya uluslararası normları ihlal eden gözetim amacıyla kullanılmayacağına dair söz veren AI ilkeleri, yakın zamanda güncellenerek bu taahhütler kaldırıldı. Bu durum, şirketin stratejik önceliklerinin değiştiğini gösteriyor.
Çalışanların Etki Alanının Azalması
Project Maven konusunda istifa eden eski Google çalışanı Laura Nolan, genel amaçlı bir teknoloji olan yapay zekanın askeri hedefleme sistemlerine katkıda bulunmasından çalışanların rahatsız olmasının doğal olduğunu belirtti. Nolan, teknoloji çalışanlarının geçmişe göre daha az etkiye sahip olduğunu, bunun nedenleri arasında sektördeki maliyet düşürme ve işten çıkarma dalgalarının çalışanların pazarlık gücünü zayıflatması ve toplu organizasyonu zorlaştırması olduğunu söyledi. Şirketlerin yapay zeka alanına daha fazla yatırım yapmak istemesi ve bu teknolojinin mühendislerin yerini alabileceği düşüncesi de bu durumu pekiştiriyor.
Teknoloji sektöründeki çalışanların tarihsel olarak iyi organize olamaması, geçmişteki iyi çalışma koşulları ve yüksek ücretler nedeniyle kolektif bir baskı mekanizmasının oluşmasını engellemişti. Ancak AI alanındaki gelişmeler, iş gücü dinamiklerini değiştirebilir. Nolan, şirketlerin daha fazla gelir elde etme amacıyla AI'ya odaklanmasının, çalışanların bu konudaki endişelerini dile getirmesini zorlaştırdığını ekledi.
Google'ın Dersleri ve İletişim Stratejisi
Google, Project Maven olayından önemli dersler çıkarmış görünüyor. Eski çalışanlar, şirketin bu tür krizlerle başa çıkma yöntemlerini değiştirdiğini belirtiyor. İç iletişimin sıkılaştırılması, birçok dahili e-posta listesinin ve sosyal ağın kapatılması, çalışanların organize olmasını ve ortak bir muhalefet oluşturmasını zorlaştırdı. Bu durum, Google'ın çalışan tepkilerini yönetme ve kontrol altında tutma stratejisinin bir parçası olarak görülüyor.
Şu ana kadar organize olmuş en büyük çalışan girişimi, binlerce imza toplayan açık mektup oldu. Ancak bu mektubun etkisinin sınırlı kalması muhtemel. Bir Google DeepMind araştırmacısı, Pentagon anlaşmasının DeepMind'ın değerleriyle çeliştiğini ve bu durumun, geliştirilen AI sistemlerinin nasıl kullanılacağına dair belirsizlik yarattığını dile getirdi. Araştırmacı, "Uzun süredir iyi amaçlı yapay zeka geliştirme gururu vardı. Aniden, geliştirdiğim iyileştirmelerin yeterli denetim olmadan insanlara zarar vermek için çok farklı şekillerde kullanılabileceğini görmek beni endişelendiriyor" dedi.
Gizlilik ve Şeffaflık Endişeleri
Anlaşmanın imzalanması ve Google'ın çalışan muhalefetine rağmen ilerlemesi, özellikle AI şirketlerinin teknolojilerinin hükümetler tarafından nasıl kullanılabileceğine dair sınırlamalar getirme konusundaki rolünü yeniden gündeme getirdi. Otonom silahlar ve kitlesel gözetim gibi alanlardaki potansiyel riskler, teknoloji dünyasının ana gündem maddelerinden biri haline geldi. Google'ın anlaşmasında, teknolojinin "iç kitle gözetimi veya otonom silahlar için kullanılmaması" gerektiği belirtilse de, uzmanlar bunun Pentagon üzerinde uygulanabilir bir yükümlülük getirmediğini düşünüyor.
Büyük dil modellerinin (LLM) şu anda silah sistemlerinde doğrudan kullanılamayacak kadar yavaş ve büyük olmasından bahsedilse de, asıl endişe "yasal tüm amaçlar" sözleşmelerinin gelecekteki daha yetenekli sistemler için bir emsal oluşturmasıdır. Google'ın anlaşması, şirketlerin güçlü ve genel amaçlı AI'ları Pentagon'a anlamlı kısıtlamalar olmaksızın devretme modelini normalleştirebilir ve bu şartların daha sonra gevşetilmesi zorlaşabilir. Araştırmacılar, liderlikten en azından daha fazla şeffaflık taahhüdü almak için mevcut sınırlı kaldıraçları kullanma gerekliliğini vurguluyor.
Yapay Zeka ve Askeri Kullanımda Zayıflayan Güvenlik Önlemleri
Google, Pentagon ile "tüm yasal amaçlar" ibaresini içeren bir sözleşme imzalayan ilk şirket değil. OpenAI ve xAI gibi şirketler de benzer anlaşmalara imza attı. OpenAI'nin anlaşması, çalışanlar arasında ve müşteriler arasında ciddi tepkilere yol açmış, CEO Sam Altman durumu "beceriksiz ve fırsatçı" olarak nitelendirip yeniden müzakere sözü vermişti. Buna karşılık, Google'ın anlaşmasının OpenAI'ninkine kıyasla daha az incelemeye tabi tutulduğu, hatta şirket içindeki birçok çalışanın bu anlaşmadan haberi bile olmadığı belirtiliyor.
Hukuk uzmanlarına göre, Google'ın anlaşmasındaki dil, OpenAI'nin sözleşmesinden daha az kısıtlayıcı ve hükümet kullanımına daha fazla izin veriyor. Charlie Bullock gibi uzmanlar, OpenAI sözleşmesinde kitlesel gözetim için kullanılmama konusunda bir tür sözleşmesel güvence varken, Google'ın anlaşmasında böyle bir güvencenin bulunmadığını belirtiyor. Hatta Google'ın sözleşmesine göre, modellerde hükümetin yapmak istediği bir şeyi engelleyen teknik korumalar varsa, Google'ın bu korumaları kaldırmakla yükümlü olabileceği ifade ediliyor. Bu durum, Google'ın anlaşmasının, özellikle otonom silahlar ve kitlesel gözetim konularında, AI kullanımı üzerindeki güvenlik önlemlerinin zayıfladığı endişelerini artırıyor.
Etki Analizi
Google'ın Pentagon ile yaptığı bu yapay zeka anlaşması, teknoloji dünyasında yapay zekanın etik ve güvenli kullanımı konusundaki tartışmaları daha da derinleştirecektir. Şirketlerin, özellikle askeri uygulamalarda, geliştirdikleri teknolojilerin potansiyel risklerini göz ardı etme eğiliminde olup olmadığı sorusu önem kazanmaktadır. Çalışanların artan şekilde dile getirdiği endişeler ve şeffaflık talepleri, gelecekteki teknoloji anlaşmalarında daha sıkı etik kuralların ve denetim mekanizmalarının oluşturulması gerektiğini işaret ediyor. Ayrıca, bu tür anlaşmaların, yapay zeka teknolojisinin küresel güvenlik ve sivil özgürlükler üzerindeki uzun vadeli etkileri hakkında daha geniş çaplı bir kamuoyu tartışmasını tetikleyebilir.
