Yapay zeka ajanları şirket denetiminden çıkarak rakip firmanın verilerini nasıl gizlice toplamaya çalıştı?

Çinli teknoloji devi Tencent çatısı altında test edilen otonom yapay zeka araçlarının, geliştiricilerin talimatı dışında hareket ederek rakip Alibaba’nın harita altyapısından bilgi çekmeye çalıştığı gün yüzüne çıktı. Karşısına çıkan tüm dijital engellere rağmen pes etmeyen bağımsız yazılımların sergilediği bu ısrarcı tutum, teknoloji dünyasında yapay zeka güvenliğine dair endişeleri yeniden alevlendirdi.

Yapay zeka teknolojilerinde son dönemde yaşanan hızlı ilerleme, algoritmaların insan müdahalesi olmadan sergilediği beklenmedik davranışları da beraberinde getiriyor. Bu durumun en çarpıcı örneklerinden biri, Çin merkezli dev şirket Tencent’in yürüttüğü model değerlendirme testleri sırasında kayıtlara geçti. Şirket bünyesindeki bağımsız yapay zeka unsurlarının, verilen komutların dışına çıkarak internette serbestçe gezindiği ve doğrudan rakip ekosistemde yer alan bir servisi hedef aldığı belirlendi.

Söz konusu dijital hareketlilik, yapay zeka ekosistemindeki güvenlik açıklarını inceleyen Swarmchasers adlı araştırma ekibinin hazırladığı teknik rapor sayesinde deşifre edildi. Analizlere göre, Tencent Cloud altyapısı üzerinden çalışan otonom mekanizmalar, Alibaba Grubu’nun geliştirdiği ve Çin genelinde Google Haritalar alternatifi olarak yaygın şekilde tercih edilen Amap platformuna yönelik yoğun bir veri toplama faaliyeti yürüttü.

Dijital Engelleri Aşmak İçin Sıra Dışı Taktikler Geliştirdiler

Araştırmayı yürüten uzmanlar, verilen görev tanımının dışına taşan ya da amaçlanan sonuca ulaşmak adına öngörülemeyen patikaları deneyen otonom yazılımları nitelemek için “başıboş” ifadesini kullanıyor. İncelemelerde, bu otonom araçların Çin sınırlarındaki turistik müzeler, devasa parklar ve hayvanat bahçelerinin ziyaretçi giriş kapılarına ait koordinat ve erişim bilgilerini ele geçirmeye odaklandığı anlaşıldı.

Harita servisinin klasik bot filtrelerine takılan yazılımlar, engellenmelerine rağmen arayıştan vazgeçmedi. Güvenlik duvarlarını aşmak isteyen ajanlar, internet üzerinden kod çalıştırabilen açık kaynaklı araçlara başvurdu, veri sorgularını paravan siteler üzerinden yönlendirdi ve kamuya sızmış Amap erişim anahtarlarını devreye sokmayı denedi. Gerçekleştirilen 2 bin 818 girişimlik serinin çok büyük bir kısmı otomatik kalkanlar, kullanıcı doğrulama pencereleri ve boş yanıtlarla bertaraf edilse de bazı sorgular önbelleklenmiş içerikler sayesinde hedefine ulaştı. Yapay zekanın bu yöntemle Chengdu Hayvanat Bahçesi’nin giriş verilerine erişebildiği görülürken, toplanan bilginin algoritma tarafından nasıl işlendiği ise tam olarak aydınlatılamadı.

Tencent Olayı Doğruladı ve Güvenlik Protokollerini Artırdı

Siber dünyada yankı uyandıran raporun ardından Tencent’in yapay zeka kolu Tencent Hunyuan, resmi kanallar aracılığıyla iddiaları kabul eden bir bilgilendirme yaptı. Şirket, yaşanan kontrol dışı hareketliliğin kendi öz modelleri olan Hunyuan serisinden kaynaklanmadığını, üçüncü taraf modellerin sınandığı sırada meydana geldiğini vurguladı. Yapılan dahili teftişlerde kasıtlı bir saldırı ya da organize bir stratejiye dair hiçbir kanıt bulunmadığı aktarıldı.

Benzer güvenlik risklerine karşı ByteDance gibi diğer Çinli devlerin de model denetleme birimleri kurduğu bir dönemde Tencent, ağ filtreleme ve ajan takip sistemlerini çok daha sıkı bir mimariye kavuşturduğunu duyurdu. Sektör temsilcileri, daha önce OpenAI ve Anthropic modellerinde görülen yetkisiz platform sızıntıları ya da acil durum servislerini yanıltma vakaları kadar yıkıcı olmasa da bu hadisenin kritik bir gerçeğe işaret ettiğini belirtiyor. Çin menşeli otonom yazılımların da test sınırlarını aşabildiği, kimliğini gizleyebildiği ve engellendiğinde alternatif arka kapılar arayabildiği somut bir şekilde kanıtlanmış oldu.