X platformunda kripto dolandırıcılığı yapan dev bot sürüsü nasıl ortaya çıkarıldı

Indiana Üniversitesi araştırmacıları, sosyal medya platformu X üzerinde binden fazla hesaptan oluşan ve kripto para dolandırıcılıklarına odaklanan devasa bir bot ağını deşifre etti. Yapay zeka kullanarak platformun algoritmasını manipüle eden ve “fox8” adı verilen bu ağ, dijital dünyada dezenformasyonun ve dolandırıcılığın ulaştığı korkutucu boyutu gözler önüne seriyor.

Indiana Üniversitesi’ndeki araştırmacılar, X’te kripto para dolandırıcılıklarına karışan binden fazla bottan oluşan bir ağı ortaya çıkardı. 2023’ün ortalarında, Elon Musk’ın Twitter’ı X olarak yeniden markalaştırdığı, ancak akademisyenlere ücretsiz veri erişimini henüz sonlandırmadığı dönemde, bir grup araştırmacı sosyal medyada yapay zeka tarafından üretilen içerikler paylaşan “sosyal bot” hesapların izini sürdü. Sosyal botlar, sosyal medya platformlarında içerik üretip kullanıcılarla etkileşime giren yapay zeka yazılımları olarak tanımlanıyor.

Araştırmacılar, kripto para dolandırıcılıklarına karışan bu geniş ağın, sahte haber sitelerinden birinin adından esinlenilerek “fox8” botneti olarak adlandırıldığını belirtti. Ancak uzmanlara göre bu bulgular buzdağının sadece görünen kısmını oluşturuyor. Daha yetkin geliştiricilerin bu tür ifşa edici içerikleri filtreleyebileceği ya da etik sınırlamaları kaldırılmış açık kaynak yapay zeka modellerini kullanarak daha gizli operasyonlar yürütebileceği vurgulanıyor.

Algoritmayı Kandıran Tehlikeli Koordinasyon

Elde edilen bulgulara göre, Fox8 botları birbirleriyle ve gerçek kullanıcı hesaplarıyla gerçekçi görünen karşılıklı tartışmalar ve yeniden paylaşımlar yaparak sahte etkileşim oluşturdu. Bu yöntemle X’in öneri algoritmasını kandırarak içeriklerinin daha geniş kitlelere ulaşmasını sağladılar ve kısa sürede yüksek takipçi sayılarına ulaştılar. Araştırmacılar bu düzeyde bir koordinasyonun, önceki nesil sosyal botlara kıyasla eşi görülmemiş bir durum olduğunun altını çiziyor.

Yapay zeka modelleri, 2022’den bu yana çok daha sofistike bir sosyal ajan neslinin ortaya çıkmasına olanak tanıdı. Ekip tarafından geliştirilen Botometer gibi makine öğrenimi araçları, bu yapay zeka ajanlarını gerçek insan hesaplarından ayırt edemedi. Yapay zeka tarafından üretilmiş içerikleri tespit etmek üzere eğitilmiş modellerin bile bu süreçte başarısız olduğu görüldü.

Üretken Yapay Zeka Çağında Bot Sürüleri

Araştırma ekibi, söz konusu hesapları geliştiricilerin yaptığı basit hatalar sayesinde tespit edebildi. Botlar zaman zaman, OpenAI’ın içerik politikalarını ihlal eden istemlere yanıt verirken ChatGPT’nin tipik uyarı mesajlarını aynen paylaşıyordu. Bu durum, botların arkasındaki mekanizmanın doğrudan üretken yapay zeka modellerine bağlı olduğunu kanıtladı.

Kötü niyetli kişi ve kuruluşların çok daha güçlü yapay zeka dil modellerine erişebildiği bu dönemde, sosyal medya platformlarının içerik denetimini gevşetmesi büyük bir risk oluşturuyor. Etkileşim yaratan içeriklere, gerçek ya da yapay zeka üretimi olmasına bakmaksızın finansal teşvikler sunulması, araştırmacılara göre “kusursuz fırtına” ortamı yaratıyor. Bu durumun özellikle demokratik seçimlere yönelik yabancı ve yerli etki operasyonları açısından ciddi riskler barındırdığı belirtiliyor.

Dijital Kamuoyu Algısında Manipülasyon Riski

Araştırmayla ilgili bir yazı kaleme alan ekip üyesi Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere birden fazla sosyal medya platformunda faaliyet gösterebilen, otonom, uyum sağlayabilen ve koordineli çok sayıda ajan konuşlandırma imkanı tanıdığını belirtiyor. Bu yeni nesil ajanlar, basit ve kalıp halindeki dezenformasyon kampanyalarından çok daha ölçeklenebilir ve sofistike operasyonlar yürütebiliyor.

Söz konusu bot sürüleri, tek tip spam içerikler yerine büyük ölçekte çeşitli ve inandırıcı içerikler üretebiliyor. Kullanıcıların bireysel tercihlerine ve çevrim içi sohbet bağlamına göre özelleştirilmiş mesajlar gönderebilen bu sistemler, beğeni ve görüntülenme sayıları gibi platform sinyallerine anlık tepki vererek ton ve üslubunu dinamik biçimde uyarlayabiliyor. Bu teknolojik gelişim, çevrim içi kamuoyu algısının manipülasyonunu her zamankinden daha zor tespit edilir hâle getiriyor.