Yapay zeka alanında faaliyet gösteren şirketlerden Anthropic, ABD Savunma Bakanlığı'nın (DOD) yapay zeka modeli Claude'un kullanımına ilişkin güvenlik önlemlerinin kaldırılması talebini reddettiğini açıkladı. Şirket, bu önlemlerin "kitlesel iç gözetim" ve "tamamen otonom silahlar" gibi potansiyel olarak sakıncalı kullanımları engellemek için kritik önem taşıdığını belirtiyor.
Anthropic CEO'su Dario Amodei, yaptığı açıklamada, şirketin teknolojisinin kullanımı konusunda Pentagon liderlerine sınırsız bir serbestlik tanınmasının mevcut güvenlik protokollerini aşacağını ifade etti. Amodei, "Yapay zeka, savunmayı güçlendirmek yerine demokratik değerlere zarar verebilecek dar bir kullanım alanı olduğunu düşünüyoruz," diyerek şirketin etik prensiplerine bağlılığını vurguladı. Bu durum, teknoloji şirketleri ile askeri kurumlar arasındaki yapay zeka etiği ve güvenlik politikaları konusundaki hassas dengeyi bir kez daha gündeme getirdi.
Yapay Zeka Güvenlik Önlemleri ve Etik İkilemler
Anthropic'in Güvenlik Politikaları ve İtiraz Gerekçeleri
Anthropic, özellikle hassas alanlarda yapay zeka teknolojilerinin kullanımına yönelik katı güvenlik ve etik standartlar belirlemiştir. Şirketin Claude modeli üzerinde uyguladığı kısıtlamalar, yapay zekanın kötüye kullanılmasını önlemeyi amaçlamaktadır. Bu kısıtlamalar arasında, kitlesel iç gözetim amacıyla kullanılmasına karşı çıkılması ve insan kontrolü olmadan hareket eden otonom silah sistemlerinde kullanılmaması yer almaktadır. Amodei'ye göre, gelişmiş yapay zeka sistemleri henüz bu tür kritik görevler için yeterli güvenilirliğe sahip değildir.
Şirket, ABD Savunma Bakanlığı'nın sunduğu "çalışmayan" (unworkable) olarak nitelendirdiği taleplerin, temel insan hakları ve demokratik değerlerle çeliştiğini savunuyor. Amodei, "Sınırda yapay zeka sistemleri henüz tam otonom silahları çalıştırmak için yeterince güvenilir değil. Bunlar, uygun güvenlik önlemleriyle konuşlandırılmalı ve bu önlemler bugün mevcut değil," şeklinde konuştu. Anthropic, Savunma Bakanlığı ile bu sistemlerin güvenilirliğini artırmak için araştırma ve geliştirme konusunda işbirliği yapma teklifinde bulunmuş, ancak bu teklifin kabul edilmediğini belirtmiştir.
Pentagon'un Baskısı ve Savunma Üretim Yasası Tehdidi
Savunma Bakanlığı'nın bu konudaki talepleri, haftalardır süren müzakerelerin bir parçasıydı. Pentagon, Anthropic'in işbirliği yapmaması durumunda, ABD Başkanı'na ulusal savunma endişeleri doğrultusunda şirketleri mal veya hizmet üretmeye zorlama yetkisi veren Savunma Üretim Yasası'nı (Defense Production Act) devreye sokma tehdidinde bulunmuştu. Bu yasanın işletilmesi, Anthropic'in teknolojisinin Pentagon yüklenicileri tarafından kullanılmasını yasaklayabilir.
Axios'un haberine göre, Pentagon'un Anthropic'i tedarik zinciri riski olarak sınıflandırma sürecini başlattığı bildirildi. Bu çerçevede, Savunma Bakanlığı temsilcilerinin Boeing ve Lockheed Martin gibi havacılık devlerinden Claude'a olan bağımlılıklarını belgelemelerini istediği belirtiliyor. Bu hamle, Anthropic üzerinde önemli bir baskı oluşturma amacı taşıyor.
Karşılıklı Açıklamalar ve Güvenlik Açmazı
Pentagon sözcüsü Sean Parnell, X platformu üzerinden yaptığı açıklamada, bakanlığın Amerikalıların kitlesel gözetimi için yapay zeka kullanma niyetinde olmadığını ve insan müdahalesi olmadan çalışan otonom silahlar geliştirmek istemediğini belirtti. Parnell, bu anlatının "sahte" olduğunu ve medya tarafından yayıldığını iddia etti. Bakanlığın temel talebinin, Pentagon'un tüm yasal amaçlar için Anthropic'in modelini kullanmasına izin verilmesi olduğunu ekledi.
Amodei ise, güçlü yapay zeka sistemlerinin, bireysel olarak zararsız görünen dağınık verileri otomatik olarak ve büyük ölçekte birleştirerek herhangi bir kişinin hayatına dair kapsamlı bir resim oluşturabileceğini dile getirdi. Bu tür gözetimlerin mevcut yasalarla sınırlı olmasının nedeninin, yasaların yapay zekanın hızla gelişen yeteneklerine henüz ayak uyduramaması olduğunu belirtti. Amodei, "Vicdani olarak bu taleplerini kabul edemeyiz," diyerek Anthropic'in pozisyonunu korudu.
Etki Analizi
Bu durum, yapay zeka geliştiricilerinin etik sorumlulukları ile ulusal güvenlik ihtiyaçları arasındaki karmaşık ilişkiyi gözler önüne seriyor. Anthropic'in kararlılığı, yapay zeka etiği konusunda bir emsal teşkil edebilir ve diğer teknoloji şirketlerini benzer durumlarda kendi ilkelerine bağlı kalmaya teşvik edebilir. Öte yandan, Pentagon'un olası misilleme adımları, teknoloji sektörü ile savunma sanayii arasındaki ilişkilere dair önemli soru işaretleri doğuruyor. Yapay zekanın gelecekteki askeri ve sivil uygulamalarında etik sınırların nasıl belirleneceği, bu olayın uzun vadeli etkileri arasında yer alacaktır.
