X platformunda kripto dolandırıcılığı yapan devasa bot ordusu nasıl yakalandı

Indiana Üniversitesi araştırmacıları, Elon Musk’ın X platformunda binden fazla hesaptan oluşan ve yapay zeka ile yönetilen devasa bir bot ağını gün yüzüne çıkardı. Fox8 adı verilen bu şebekenin, gelişmiş algoritmaları bile kandırarak kripto para dolandırıcılığı yaptığı ve gerçek kullanıcıları hedef aldığı belirlendi.

Indiana Üniversitesi’ndeki araştırmacılar, sosyal medya platformu X üzerinde kripto para dolandırıcılıklarına karışan binden fazla bottan oluşan karmaşık bir ağı ortaya çıkardı. 2023 yılının ortalarında, Elon Musk’ın Twitter’ı X olarak yeniden markalaştırdığı ancak akademisyenlere yönelik ücretsiz veri erişimini henüz kesmediği kritik bir dönemde yapılan bu çalışma, yapay zeka tarafından üretilen içeriklerin ne kadar tehlikeli olabileceğini gösteriyor. Araştırma ekibi, sosyal medya platformlarında içerik üretip kullanıcılarla etkileşime giren ve tamamen yapay zeka yazılımları tarafından yönetilen bu “sosyal bot” hesapların izini sürerek Fox8 adı verilen ağı deşifre etti.

Algoritmayı Kandıran Yeni Nesil Stratejiler

Fox8 botneti, sahte haber sitelerinden birinin adından esinlenilerek bu şekilde isimlendirildi. Araştırmacılar, bu ağın aslında buzdağının sadece görünen kısmı olduğunu ve çok daha yetkin geliştiricilerin bu tür ifşa edici içerikleri filtreleyebileceğini belirtiyor. Bulgulara göre Fox8 botları, birbirleriyle ve gerçek kullanıcı hesaplarıyla son derece gerçekçi görünen karşılıklı tartışmalar yürüterek sahte bir etkileşim ekosistemi oluşturdu. Bu koordineli yöntem sayesinde X’in öneri algoritmasını yanıltmayı başaran botlar, içeriklerinin çok daha geniş kitlelere ulaşmasını sağladı ve kısa sürede binlerce takipçiye ulaştı. Uzmanlar, bu düzeydeki bir koordinasyonun önceki nesil sosyal botlara kıyasla eşi görülmemiş bir durum olduğunu vurguluyor.

Yapay Zeka Hataları Botları Ele Verdi

Araştırma ekibi, söz konusu hesapları aslında geliştiricilerin yaptığı çok basit teknik hatalar sayesinde tespit edebildi. Botlar zaman zaman OpenAI’ın içerik politikalarını ihlal eden istemlere yanıt verirken ChatGPT’nin tipik uyarı mesajlarını hiçbir değişiklik yapmadan aynen paylaşıyordu. Bu durum, hesapların arkasındaki otomasyonu kanıtlayan en somut veri oldu. Yapay zeka modelleri 2022’den bu yana çok daha sofistike bir sosyal ajan neslinin ortaya çıkmasına olanak tanıdı. Öyle ki ekip tarafından geliştirilen Botometer gibi gelişmiş makine öğrenimi araçları bile bu yapay zeka ajanlarını gerçek insan hesaplarından ayırt etmekte zorlandı. Hatta yapay zeka tarafından üretilmiş içerikleri tespit etmek üzere özel olarak eğitilmiş modeller bile bu yeni nesil botlar karşısında başarısız oldu.

Demokrasi ve Seçim Güvenliği İçin Büyük Risk

Kötü niyetli kişi ve kuruluşların artık çok daha güçlü yapay zeka dil modellerine erişebildiği bir dönemde, sosyal medya platformlarının içerik denetimini gevşetmesi “kusursuz fırtına” ortamı oluşturuyor. Bu durumun özellikle demokratik seçimlere yönelik yabancı ve yerli etki operasyonları açısından ciddi riskler barındırdığı ifade ediliyor. Yapay zeka tarafından yönetilen bir bot sürüsünün, belirli bir siyasi adaya karşı geniş çaplı bir muhalefet varmış gibi sahte bir algı oluşturabileceği uyarısı yapılıyor. Araştırmayla ilgili bir yazı kaleme alan ekip üyesi Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere birden fazla sosyal medya platformunda faaliyet gösterebilen, otonom, uyum sağlayabilen ve koordineli çok sayıda ajan konuşlandırma imkanı tanıdığını belirtiyor.

Bu yeni nesil dijital ajanların, basit ve kalıplaşmış dezenformasyon kampanyalarından çok daha ölçeklenebilir ve sofistike operasyonlar yürütmesine imkan sağladığı görülüyor. Bot sürüleri artık tek tip spam içerikler yerine, kullanıcıların bireysel tercihlerine ve çevrim içi sohbetlerin bağlamına göre özelleştirilmiş, inandırıcı mesajlar üretebiliyor. Beğeni ve görüntülenme sayıları gibi platform sinyallerine anlık tepki vererek ton ve üslup değişikliği yapabilen bu yapay zeka ağları, çevrim içi kamuoyu algısının manipülasyonunu her zamankinden daha zor tespit edilir bir hale getiriyor.