X üzerindeki bot ordusu kripto paralarınızı nasıl çalıyor ve neden tespit edilemiyorlar

Indiana Üniversitesi araştırmacıları, X platformunda yapay zeka tarafından yönetilen ve kripto para dolandırıcılıklarına karışan devasa bir bot ağını gün yüzüne çıkardı. “fox8” adı verilen bu tehlikeli ağ, platformun algoritmasını manipüle ederek gerçek kullanıcıları hedef alırken, mevcut güvenlik sistemlerinin bu yeni nesil tehdit karşısında neden çaresiz kaldığını gözler önüne seriyor.

Sosyal medya platformu X’in derinliklerinde gizlenen ve binden fazla hesaptan oluşan sofistike bir bot ağı deşifre edildi. Indiana Üniversitesi’ndeki akademisyenler tarafından yürütülen çalışma, Elon Musk’ın platformu devralıp yeniden markalaştırdığı süreçte, yapay zeka tarafından üretilen içeriklerle kullanıcıları hedef alan “sosyal bot” hesapların izini sürdü. Sosyal botlar, platformlarda içerik üretip gerçek kullanıcılarla etkileşime giren karmaşık yapay zeka yazılımları olarak biliniyor.

Yapay zeka destekli fox8 botneti nasıl çalışıyor

Araştırmacılar, bu geniş ağı sahte bir haber sitesinin isminden esinlenerek “fox8” olarak adlandırdı. Ancak bu ağın buzdağının sadece görünen kısmı olabileceği uyarısı yapılıyor. Daha yetkin yazılımcıların, bu tür ifşa edici izleri temizleyebileceği ya da etik sınırlamaları tamamen kaldırılmış açık kaynaklı yapay zeka modellerini kullanarak çok daha tehlikeli operasyonlar yürütebileceği belirtiliyor. Fox8 botları, sıradan spam hesapların aksine, birbirleriyle ve gerçek kullanıcılarla son derece gerçekçi tartışmalara girerek sahte bir etkileşim ekosistemi oluşturuyor.

Algoritmaları kandıran eşsiz koordinasyon yöntemleri

Bulgular, bu botların X’in öneri algoritmasını ustalıkla manipüle ettiğini gösteriyor. Karşılıklı etkileşimler ve stratejik yeniden paylaşımlar sayesinde içeriklerinin çok daha geniş kitlelere ulaşmasını sağlayan şebeke, kısa sürede yüksek takipçi sayılarına ulaşmayı başardı. Araştırma ekibi, bu düzeydeki bir koordinasyonun önceki nesil sosyal botlara kıyasla “eşi görülmemiş” bir durum olduğunu vurguluyor. Botlar, sadece içerik paylaşmakla kalmıyor, platformun popülerlik sinyallerini kendi lehlerine kullanarak dijital kamuoyunu yönlendiriyor.

Yapay zeka modellerinin hataları deşifreye nasıl yardımcı oldu

Söz konusu hesapların tespit edilmesi, geliştiricilerin yaptığı bazı temel hatalar sayesinde mümkün oldu. Botlar zaman zaman, OpenAI’ın içerik politikalarını ihlal eden komutlara yanıt verirken ChatGPT’nin standart uyarı mesajlarını farkında olmadan aynen paylaştı. Ancak bu tür hatalar dışında, yapay zeka ajanlarını gerçek insanlardan ayırt etmek neredeyse imkansız hale geldi. Ekip tarafından geliştirilen Botometer gibi gelişmiş makine öğrenimi araçları ve yapay zeka içeriklerini tespit etmek üzere eğitilen modeller bile bu yeni nesil ajanları saptamakta başarısız oldu.

Dijital dünyada kusursuz fırtına tehlikesi

Sosyal medya platformlarının içerik denetimini gevşetmesi ve etkileşim odaklı içeriklere finansal teşvikler sunması, araştırmacılara göre bir “kusursuz fırtına” ortamı yaratıyor. Bu durumun özellikle demokratik seçimlere yönelik operasyonlar için ciddi riskler barındırdığı ifade ediliyor. Yapay zeka yönetimindeki bir bot sürüsü, belirli bir siyasi adaya karşı geniş çaplı bir toplumsal muhalefet varmış gibi sahte bir algı oluşturabiliyor.

Manipülasyonun yeni boyutu otonom bot sürüleri

Araştırma ekibinden Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere birden fazla platformda faaliyet gösterebilen, otonom ve uyum sağlayabilen ajanlar konuşlandırma imkanı tanıdığını belirtiyor. Bu yeni nesil sistemler, tek tip içerikler yerine her kullanıcıya özel, inandırıcı ve bağlama uygun mesajlar üretebiliyor. Beğeni ve görüntülenme sayılarına anlık tepki vererek ton ve üslup değiştirebilen bu botlar, çevrim içi kamuoyu algısının manipülasyonunu her zamankinden daha zor tespit edilir bir noktaya taşıyor.