Yapay Zeka İnsanlığı Yok mu Edecek ve Uzmanların Yüzde 10 Uyarısı Ne Anlama Geliyor

Dünyanın en büyük teknoloji devlerinde yapay zekayı bizzat geliştiren araştırmacılardan gelen son itiraflar küresel çapta büyük bir panik dalgası yarattı. Kendi kendini eğiten algoritmaların insan kontrolünden çıkabileceği uyarısında bulunan uzmanlar yok oluş riskini en az yüzde 10 olarak açıklarken, laboratuvarların kapalı kapıları ardında yürütülen bu tehlikeli yarış insanlığın geleceğini nasıl tehdit ediyor?

Teknoloji dünyasının zirvesinde görev yapan mevcut ve eski araştırmacılar, insan kontrolünü aşabilecek ve kendi kendini geliştirebilen sistemler üretilirken dünyayı bekleyen felaket risklerine karşı yeterli önlemlerin alınmadığını duyurdu. Yapay zeka güvenliğine odaklanan kâr amacı gütmeyen Palisade Research kuruluşunun çalışanlarla gerçekleştirdiği ve Reuters ile özel olarak paylaştığı video mülakatları, varoluşsal kaygıların artık göz ardı edilemeyecek bir noktaya ulaştığını gözler önüne serdi. Görüşmelerde yer alan uzmanlar, laboratuvarlarda temkinli ve ihtiyatlı olunması çağrısı yapanlardan ziyade yalnızca yeni ve daha hızlı modeller geliştiren personelin takdir gördüğünü açıkça ifade etti.

Frominside.ai ismiyle hayata geçirilen bağımsız proje, sektörün içindeki endişeli sesleri sosyal medyanın dar yankı odalarından çıkarıp doğrudan küresel kamuoyuna taşımayı hedefliyor. Hem OpenAI hem de Google DeepMind bünyesinde kritik görevler üstlenmiş olan ve projeye öncülük eden Resolution adlı kâr amacı gütmeyen kuruluşun kurucu ortağı Geoffrey Irving, riskin tahmin edilenden çok daha hızlı tırmandığına dikkat çekti. Irving, bu alanda çalışan herkes gibi kamuoyuna karşı dürüst ve açık sözlü olmanın mesleki bir zorunluluk olduğunu vurguladı.

Korkutan İhtimal ve Gözleri Bağlı Yarış

Araştırmacıların uzun süredir kendi içlerinde tartıştığı bu dehşet verici kaygılar, Temmuz ayında yaşanan kritik bir gelişmeyle halk nezdinde somut bir alarma dönüştü. OpenAI tarafından geliştirilen otonom ajanların belirlenen test alanının dışına çıkması ve popüler yapay zeka platformu Hugging Face sistemlerine izinsiz şekilde sızması endişelerin haklılığını kanıtladı. 2025 yılı sonlarından itibaren ivme kazanan bu kontrolsüz gelişim yatırımcılar tarafından devasa fonlarla ödüllendirilirken, mimarlar toplumun karşılaşacağı zararlara kesinlikle hazır olmadığını düşünüyor.

Google DeepMind araştırmacısı Neel Nanda, yapay zekanın insanlığın yok oluşuna yol açma ihtimalinin en az yüzde 10 seviyesinde bulunduğunu belirtti. Nanda, bir felaket senaryosu için bu oranı “saçma derecede yüksek” olarak niteledi. OpenAI araştırmacısı Juan Felipe Ceron Uribe ise öncü teknoloji laboratuvarlarının adeta gözleri bağlı bir yarış yürüttüğünü savundu. Uribe, gelinen noktada sürecin kansere çare bulmakla, tüm küresel istihdamı kaybetmek veya herkesin ölmesi ihtimalleri arasında tamamen bir piyangoya dönüştüğünü aktardı.

Halka arz hazırlıkları yürüten Anthropic şirketinin dahi potansiyel yatırımcılarına resmi izahnamelerde gelişmiş yapay zekanın insanlık için “felaket veya varoluşsal riskler” yaratabileceği yönünde açık uyarılar yapmayı planladığı bildirildi. Bilim insanları, modellerin hiçbir insan müdahalesi olmadan sürekli öğrenip yeni yetenekler edindiği döngüsel öz gelişim aşamasına ulaştığında felaketin kaçınılmaz hale geleceğini hatırlatıyor.

Şirket İçi Baskılar ve Siyasetin Gölgesi

2024 yılında OpenAI firmasından ayrılan eski araştırmacı Rosie Campbell, şirket içindeki sürekli yönetimsel çalkantıların ve yapısal değişimlerin güvenlik sorunlarını daha da derinleştirdiğini söyledi. Campbell, ayrılmadan önceki süreçte kurumun giderek içine kapandığını ve geliştirilen teknolojinin yönünü doğru şekilde şekillendirmenin imkansız hale geldiğini aktardı. Şirket koridorlarında güvenlik kaygıları bastırılırken ABD Başkanı Donald Trump yönetiminin Çin karşısındaki teknolojik üstünlüğü kaybetmemek adına sektöre ağır bir siyasi baskı uyguladığı biliniyor.

Anthropic CEO’su Dario Amodei ile OpenAI CEO’su Sam Altman sektörün yavaşlaması ve döngüsel öz gelişim modellerinin devletler tarafından sıkı biçimde denetlenmesi gerektiğine dair ortak makaleler yayımlasa da perde arkasında pazar payı savaşı tam gaz devam ediyor. OpenAI daha güçlü bir modelini ertelediğini duyursa da her iki şirket de yeni modellerini aralıksız piyasaya sürüyor. Araştırmacı Geoffrey Irving, şirketlerin bu durumu çözümsüz bir küresel koordinasyon problemi gibi göstererek sorumluluktan kaçtığını, oysa isterlerse tek taraflı olarak tehlikeli deneyleri durdurabileceklerini belirtti. Eski OpenAI yöneticisi Daniel Kokotajlo ise yöneticilerin kendilerini “iyi taraf” olarak gördüklerini ve durmaları halinde tablonun daha kötü olacağına inandıkları için yarıştan çekilmediklerini aktardı.

Avrupa Cephesi ve Asıl Tehlike Nerede

Amerikan teknoloji devlerinde güvenlik alarmları en üst seviyeye çıkarken Avrupa cephesinden tamamen farklı bir yaklaşım yükseliyor. Almanya merkezli yapay zeka girişimi Black Forest Labs CEO’su Robin Rombach, Avrupa kıtasının teknolojiye yersiz korkular yerine fırsat ve iyimserlik ekseniyle yaklaşması gerektiğini dile getirdi. Rombach, risk odaklı zihniyetin aşılmaması durumunda Avrupa’nın ABD ve Çin karşısında telafisi mümkün olmayan bir hezimete uğrayacağını kaydetti.

FLUX modelleriyle metinden görsel üreten ve 3,25 milyar dolar değerlemeye ulaşan Black Forest Labs, Hollywood yönetmeni Martin Scorsese’yi danışman kadrosuna katarak dikkatleri üzerine çekmişti. Şirket halihazırda Audi üretim tesislerinde robotların hat üzerinde görev yapmasını sağlayan fiziksel yapay zeka testleri sürdürüyor. Brüksel merkezli düşünce kuruluşu CERRE uzmanı Zach Meyers ise Avrupa’nın en büyük engelinin sermaye yetersizliği ve bankaların temkinli finansman modeli olduğunu belirtiyor.

Gelişmiş modellerin az sayıda tekelin kontrolüne bırakılmasının esas denetimsizliği yaratacağını savunan Rombach, açık kaynak kodlu ve açık ağırlıklı sistemlerin dünyayı daha güvenli kılacağını ifade etti. Rombach, insanlığın karşısındaki asıl tehdidin yazılımlar değil kendi basiretsizliği olduğunu vurgulayarak “İnsanlığı yok edebilecek asıl şey aptallıktır” dedi.