X platformunda kripto paralarınızı hedef alan sinsi bot ordusu nasıl tespit edildi

Indiana Üniversitesi araştırmacıları, X üzerinde kripto para dolandırıcılığı faaliyetleri yürüten binden fazla hesaptan oluşan devasa bir bot ağını deşifre etti. Yapay zeka desteğiyle sosyal medya algoritmalarını kandıran ve “fox8” adı verilen bu sinsi şebeke, gerçek kullanıcılardan ayırt edilemeyen etkileşimlerle dijital varlıkları nasıl tehdit ediyor?

Sosyal medya platformu X, son dönemde yapay zeka tarafından yönetilen sofistike bir dolandırıcılık operasyonuyla çalkalanıyor. Indiana Üniversitesi’ndeki bilim insanları, 2023 yılının ortalarında Elon Musk’ın platformu yeniden markalaştırdığı süreçte kritik bir keşfe imza attı. Araştırmacılar, sosyal medyada yapay zeka tarafından üretilen içerikler paylaşan ve kullanıcılarla doğrudan etkileşime giren binden fazla hesabı içeren bir “sosyal bot” ağının izini sürmeyi başardı.

Sosyal botlar, temel olarak sosyal medya platformlarında insan gibi davranarak içerik üreten ve etkileşime giren yapay zeka yazılımları olarak biliniyor. Ortaya çıkarılan bu yeni ağ, sahte haber sitelerinden birinin ismine atıfla “fox8” botneti olarak isimlendirildi. Ancak uzmanlar, keşfedilen bu yapının sadece buzdağının görünen kısmı olduğu konusunda ciddi uyarılarda bulunuyor.

Algoritmayı Manipüle Eden Kusursuz Koordinasyon

Elde edilen bulgular, Fox8 botlarının önceki nesil botlardan çok daha karmaşık bir strateji izlediğini gösteriyor. Bu hesaplar, sadece tek taraflı paylaşım yapmak yerine hem birbirleriyle hem de gerçek kullanıcılarla oldukça gerçekçi görünen tartışmalara giriyor. Karşılıklı yanıtlar ve yeniden paylaşımlar yoluyla sahte bir etkileşim ekosistemi oluşturan botlar, bu sayede X’in öneri algoritmasını yanıltmayı başarıyor.

Sistemin bu şekilde manipüle edilmesi, dolandırıcılık içeriklerinin çok daha geniş kitlelerin önüne düşmesine ve hesapların kısa sürede binlerce takipçiye ulaşmasına zemin hazırlıyor. Araştırma ekibi, botlar arasındaki bu düzeydeki koordinasyonun sosyal medya tarihinde eşi benzeri görülmemiş bir durum olduğunu vurguluyor. Daha yetkin geliştiricilerin, gelecekte bu tür ifşa edici içerikleri filtreleyebileceği veya etik sınırlamaları tamamen kaldırılmış açık kaynak yapay zeka modellerini kullanabileceği öngörülüyor.

Yapay Zeka Hataları Bot Ordusunu Ele Verdi

Bu sofistike ağın tespit edilmesi ise geliştiricilerin yaptığı oldukça basit ancak kritik hatalar sayesinde mümkün oldu. Bazı botlar, OpenAI’ın içerik politikalarını ihlal eden komutlara yanıt verirken ChatGPT’nin standart uyarı mesajlarını farkında olmadan profillerinde paylaştı. Bu durum, hesapların arkasında bir yapay zeka motorunun çalıştığını kanıtlayan en somut delil oldu.

Buna rağmen, 2022’den bu yana gelişen yapay zeka modelleri, insanı taklit etme konusunda devasa bir aşama kaydetti. Araştırma ekibi tarafından geliştirilen Botometer gibi gelişmiş makine öğrenimi araçları bile bu yeni nesil yapay zeka ajanlarını gerçek insanlardan ayırt etmekte zorlanıyor. Hatta yapay zeka içeriklerini tespit etmek üzere özel olarak eğitilen modellerin dahi bu testlerde başarısız olduğu gözlemlendi.

Demokrasi ve Dijital Güvenlik İçin Büyük Risk

Sosyal medya platformlarının içerik denetimini gevşetmesi ve etkileşim odaklı finansal teşvikler sunması, uzmanlar tarafından “kusursuz fırtına” olarak tanımlanıyor. Bu ortamın sadece finansal dolandırıcılıklar için değil, aynı zamanda demokratik seçimlere yönelik dezenformasyon operasyonları için de büyük bir risk barındırdığı belirtiliyor. Yapay zeka yönetimindeki bir bot sürüsü, belirli bir siyasi adaya karşı yapay bir kamuoyu algısı oluşturarak seçmenleri manipüle etme potansiyeline sahip.

Araştırma ekibinden Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere birden fazla platformda otonom ve uyumlu hareket edebilen çok sayıda ajan konuşlandırma imkanı tanıdığını ifade ediyor. Bu yeni nesil sistemler, tek tip spam içerikler yerine kullanıcıların bireysel tercihlerine ve sohbetin bağlamına göre özelleştirilmiş, inandırıcı mesajlar üretebiliyor. Beğeni ve görüntülenme sayılarına anlık tepki vererek üslubunu dinamik biçimde değiştirebilen bu botlar, çevrim içi gerçekliğin manipülasyonunu tespit etmeyi her zamankinden daha zor hale getiriyor.