Anthropic katil robot yarışına mı katıldı ve Pentagon ile yaşanan krizin perde arkasında neler var

Yapay zeka dünyasında taşlar yerinden oynuyor. Anthropic’in Pentagon’un 100 milyon dolarlık devasa drone sürüsü projesine gizlice başvurduğu ortaya çıkarken, şirket ile ABD hükümeti arasındaki “etik” savaşı yeni bir boyut kazandı. İşte Claude’un savaş meydanlarına inme çabasının perde arkasındaki tüm detaylar ve teknoloji dünyasını sarsan o gizli müzakerelerin sonuçları.

Yapay zeka etiği konusundaki hassasiyetiyle tanınan Anthropic’in, ABD Savunma Bakanlığı (Pentagon) tarafından düzenlenen ve sesle kontrol edilen otonom drone sürüsü teknolojileri geliştirmeyi hedefleyen 100 milyon dolarlık ödüllü yarışmaya teklif sunduğu bildirildi. Bloomberg’e konuşan ve sürece yakın olan kaynaklar, bu başvurunun şirket ile Pentagon arasında teknolojinin askeri amaçlarla kullanımına dair oldukça sert müzakerelerin yürütüldüğü bir dönemde gerçekleştiğini ifade etti. Ancak bu hamle, beklenen iş birliği yerine büyük bir krize kapı araladı.

İsminin açıklanmasını istemeyen kaynakların paylaştığı bilgilere göre, Anthropic’in teklifini sunmasının hemen ardından dikkat çekici bir gelişme yaşandı. ABD Savunma Bakanı Pete Hegseth’in cuma günü Pentagon yüklenicilerine ve ortaklarına Anthropic ile ticari faaliyet yürütmeyi yasaklama talimatı verdiği iddia edildi. Bu karar, yapay zeka devinin askeri projelerdeki geleceği üzerinde büyük bir soru işareti yarattı.

Katil robot tartışması ve tarafların kırmızı çizgileri

Taraflar arasındaki anlaşmazlığın odak noktasında, insan müdahalesi olmadan hedef seçip ateş açabilen ve kamuoyunda “katil robotlar” olarak adlandırılan otonom silah sistemlerinde yapay zekanın üstleneceği rol yer alıyor. Anthropic yöneticileri daha önceki beyanlarında yapay zekanın savaş alanında geniş kapsamlı ve yasal kullanımını desteklediklerini dile getirmişlerdi. Ancak şirket, kitlesel iç gözetim ve tamamen otonom silah sistemlerini kesin bir “kırmızı çizgi” olarak tanımlıyor.

Kaynaklar, Anthropic’in geliştirmeyi planladığı teknolojinin bu sınırları aşmayacağına dair bir inancı olduğunu belirtiyor. Şirket yönetimine göre, olası bir ölümcül drone sürüsü operasyonel hale gelse bile, sistemin her aşamada insan operatörler tarafından izlenebileceği ve gerektiğinde durdurulabileceği öngörülüyordu. Bu yaklaşım, tam otonomi isteyen bazı askeri kanatlarla fikir ayrılığı yaşanmasına neden oldu.

Claude savaş meydanında emirleri nasıl yönetecekti

Anthropic’in Pentagon’a sunduğu teklifin teknik detayları da gün yüzüne çıktı. Şirketin planına göre, Claude adlı yapay zeka aracı komutanların niyetlerini dijital komutlara dönüştürecek ve çok sayıda drone’un koordinasyonunu sağlayacaktı. Bu kurguda yapay zeka, hedef seçimi veya silah kullanım kararlarını kendi kendine vermeyecek, sadece karmaşık operasyonel süreçlerin yönetiminde bir köprü görevi görecekti.

Şirket ayrıca, insanların sistem üzerinde tam bir gözetim yetkisine sahip olmasını şart koştu. Buna ek olarak Pentagon ile birlikte otonom silahların güvenli geliştirilmesi ve test edilmesine yönelik ortak bir araştırma programı kurulmasını önerdi. Ancak bu güvenlik odaklı önerilerin, Pentagon’un hız ve tam otonomi beklentileriyle ne kadar örtüştüğü tartışma konusu olmaya devam ediyor.

Beş aşamalı plan ve operasyonel süreçler

Pentagon’un ocak ayında duyurduğu bu yarışma, yazılım geliştirme aşamasından başlayıp gerçek saha testlerine kadar uzanan beş aşamalı bir araştırma-geliştirme programı olarak kurgulandı. Bakanlık, drone’ların saldırı amaçlı kullanılacağına işaret ederken, insan-makine etkileşiminin sistemlerin “öldürücülüğü ve etkinliği” üzerinde doğrudan belirleyici olacağını vurguladı.

Programın ilk aşaması tamamen yazılım odaklı ilerleyecek. Temel amaç, hava ve deniz gibi farklı alanlarda faaliyet gösteren drone’ların bir sürü halinde koordineli hareket etmesini sağlayacak altyapıyı kurmak. İlerleyen süreçte ise hedef farkındalığı paylaşımı ve “fırlatmadan görev sonlandırmaya” kadar tüm operasyon sürecinin otonom veya yarı otonom sistemlerle ele alınması planlanıyor.

Anthropic neden elendi ve SpaceX ile OpenAI ne yaptı

Son gelen bilgilere göre Anthropic, yarışmada seçilen şirketler arasında yer almadı. Şirketin neden elendiği resmi olarak açıklanmazken, Anthropic tarafı otonom silah sistemlerini çalıştıracak kadar güvenilir bir yapay zeka seviyesine henüz ulaşılmadığını savunmaya devam ediyor. Pentagon’a bağlı Özel Operasyonlar Komutanlığı ile Savunma İnovasyon Birimi tarafından yürütülen bu süreçte diğer devlerin yolu açıldı.

Kazanan başvurular arasında Elon Musk’ın SpaceX ve xAI ortaklığının sunduğu teklif öne çıktı. Öte yandan, Pentagon’un Anthropic’i devre dışı bırakma kararından sadece saatler sonra OpenAI’ın bakanlıkla yeni bir anlaşma yaptığını duyurması büyük tepki topladı. Sosyal medyada ChatGPT’ye yönelik boykot çağrıları yükselirken, OpenAI CEO’su Sam Altman, anlaşmanın otonom silah sistemleri de dahil olmak üzere güç kullanımında “insan sorumluluğunu” şart koştuğunu belirterek eleştirilere yanıt verdi.

Uzmanlar, aynı anda birden fazla drone’u uçurmanın teknik olarak mümkün olduğunu ancak çok sayıda drone’un otonom bir şekilde ortak bir hedef doğrultusunda hareket etmesini sağlayacak yazılımın hala en büyük engel olduğunu belirtiyor. Yarışmanın ilerleyen aşamaları, askeri teknolojide yapay zekanın sınırlarını belirleyecek.