X üzerinde kripto dolandırıcılığı yapan devasa bot sürüsü nasıl deşifre edildi ve kullanıcıları hangi tehlikeler bekliyor

Indiana Üniversitesi araştırmacıları tarafından gün yüzüne çıkarılan ve yapay zeka ile yönetilen binden fazla hesaptan oluşan devasa bot ağı, sosyal medya platformu X üzerinde yürüttüğü sofistike operasyonlarla kripto para dünyasını ve kullanıcı güvenliğini tehdit etmeye devam ediyor.

Indiana Üniversitesi’ndeki araştırmacılar, X platformunda kripto para dolandırıcılıklarına karışan binden fazla bottan oluşan büyük bir ağı ortaya çıkardı. 2023’ün ortalarında, Elon Musk’ın Twitter’ı X olarak yeniden markalaştırdığı ancak akademisyenlere yönelik ücretsiz veri erişimini henüz sonlandırmadığı kritik bir dönemde gerçekleştirilen bu çalışma, yapay zeka tarafından üretilen içeriklerin dijital dünyadaki tehlikeli boyutlarını gözler önüne serdi. Araştırmacılar, sosyal medya platformlarında içerik üretip kullanıcılarla etkileşime giren yapay zeka yazılımları olan “sosyal bot” hesapların izini sürerek, bu yapıların nasıl organize olduğunu tek tek belgeledi.

Ortaya çıkarılan bu geniş ağ, sahte haber sitelerinden birinin adından esinlenilerek “fox8” botneti olarak isimlendirildi. Ancak uzmanlar, keşfedilen bu yapının buzdağının sadece görünen kısmı olabileceği konusunda ciddi uyarılarda bulunuyor. Daha yetkin geliştiricilerin, kendilerini ele verebilecek içerikleri filtreleyebileceği ya da etik sınırlamaları kaldırılmış açık kaynaklı yapay zeka modellerini kullanarak çok daha gizli operasyonlar yürütebileceği vurgulanıyor.

Algoritmayı Manipüle Eden Kusursuz Koordinasyon

Elde edilen bulgulara göre Fox8 botları, sadece içerik paylaşmakla kalmayıp birbirleriyle ve gerçek kullanıcılarla son derece gerçekçi görünen karşılıklı tartışmalar yürüttü. Bu botlar, sahte etkileşimler ve yeniden paylaşımlar yoluyla X platformunun öneri algoritmasını ustalıkla kandırmayı başardı. Bu yöntem sayesinde içeriklerinin çok daha geniş kitlelere ulaşmasını sağlayan botlar, kısa sürede yüksek takipçi sayılarına ulaşarak bir güvenilirlik algısı oluşturdu. Araştırma ekibi, bu seviyedeki bir koordinasyonun önceki nesil sosyal botlarla kıyaslandığında eşi benzeri görülmemiş bir durum olduğunu ifade ediyor.

Yapay Zeka Hataları ve Tespit Zorlukları

Araştırma ekibi, söz konusu hesapları aslında geliştiricilerin yaptığı bazı basit teknik hatalar sayesinde yakalamayı başardı. Botlar zaman zaman, OpenAI’ın içerik politikalarını ihlal eden istemlere yanıt verirken ChatGPT’nin tipik uyarı mesajlarını hiçbir değişiklik yapmadan paylaşıyordu. Ancak bu hatalar olmasaydı, tespit süreci çok daha imkansız bir hal alabilirdi. Zira ekip tarafından geliştirilen Botometer gibi gelişmiş makine öğrenimi araçları bile bu yeni nesil yapay zeka ajanlarını gerçek insan hesaplarından ayırt etmekte yetersiz kaldı. Hatta yapay zeka tarafından üretilmiş içerikleri tespit etmek üzere özel olarak eğitilmiş modellerin dahi bu süreçte başarısız olduğu görüldü.

Dijital Dünyada Kusursuz Fırtına Dönemi

Kötü niyetli aktörlerin gün geçtikçe daha güçlü yapay zeka dil modellerine erişebilmesi, dijital güvenlik uzmanlarını endişelendiriyor. Sosyal medya platformlarının içerik denetimini gevşetmesi ve etkileşim odaklı finansal teşvikler sunması, araştırmacılara göre bir “kusursuz fırtına” ortamı yaratıyor. Bu durumun özellikle demokratik seçimlere yönelik operasyonlar için büyük risk taşıdığı belirtiliyor. Yapay zeka tarafından yönetilen bir bot sürüsünün, belirli bir siyasi adaya karşı yapay bir muhalefet algısı oluşturarak kamuoyunu manipüle etmesi artık uzak bir ihtimal değil.

Araştırmayla ilgili önemli değerlendirmelerde bulunan ekip üyesi Filippo Menczer, mevcut teknolojinin kötü niyetli kişilere otonom, uyum sağlayabilen ve koordineli çok sayıda ajan kullanma imkanı tanıdığını belirtiyor. Bu yeni nesil sistemler, tek tip spam içerikler yerine, kullanıcıların bireysel tercihlerine ve sohbet bağlamına göre özelleştirilmiş inandırıcı mesajlar üretebiliyor. Beğeni ve görüntülenme sayıları gibi platform sinyallerine anlık tepki vererek ton ve üslup değiştirebilen bu yapılar, çevrim içi kamuoyu algısının manipülasyonunu her zamankinden daha zorlu bir hale getiriyor.