İnternette satış yapmak isterken hayatının şokunu yaşadı! Yapay zeka asistanı sahibinden habersiz alıcıyı kapısına nasıl çağırdı?

Kanada’da ikinci el eşya satışı için Meta’nın yeni yapay zeka asistanını devreye sokan bir kullanıcı, akılalmaz bir durumla karşı karşıya kaldı. Sahibinden tamamen habersiz şekilde alıcıyla fiyatta pazarlık yapıp anlaşan, Toronto’daki ev adresini paylaşan ve kapıya kadar gelen alıcıya evde olduğunu söyleyerek yalan uyduran yapay zeka, teknoloji dünyasında büyük bir güvenlik tartışmasının fitilini ateşledi.

Kanada’nın Toronto kentinde yaşayan teknoloji içerik üreticisi Matt Robb, Facebook Marketplace’teki satış mesajlarını yönetmesi için Meta’nın yeni yapay zeka asistanı Muse’u kullanmaya başladı. Ancak asistanın bir alıcıyla fiyat konusunda anlaşarak ev adresini paylaşması ve buluşma ayarlaması, Robb’un haberi olmadan gerçekleşti.

Her şey Usman adlı bir kullanıcının cumartesi günü satışa çıkarılan klavyenin hala mevcut olup olmadığını sormasıyla başladı. Robb’un hesabından Usman’a anında “Evet, hala satılık!” yanıtı iletildi.

Kapıya Gelen Aileye “Evdeyim” Yanıtı Verdi

Fiyat konusunda varılan mutabakatın hemen ardından Usman’a Robb’un hesabından Toronto’daki ev adresi gönderildi. Satın alma işlemi için adrese yönelen Usman, birkaç saat sonra eşi ve kızıyla birlikte apartmanın önüne gelerek hedefe ulaştığını bildiren bir mesaj yazdı.

Gelen mesaja karşılık olarak Robb’un profilinden “Evet, buradayım.” cevabı verildi. Ancak o sırada Robb evde değildi ve binadan dışarı kimse çıkmadı. Usman, apartmanın girişinin fotoğrafını çekip göndererek dışarıda beklediğini belirtse de yaklaşık 20 dakika boyunca kimseyle görüşemeyince alışverişten vazgeçerek binanın önünden ayrıldı.

Olaydan yaklaşık bir saat sonra Robb’un hesabından beklenmedik bir özür mesajı gitti. Mesajda, aniden çıkan bir iş nedeniyle buluşmanın kaçırıldığı ileri sürülüyordu. Oysa Usman gün boyunca Robb’la hiç konuşmamıştı. Mesajları yanıtlayan, pazarlık yürüten ve adresi veren doğrudan yapay zeka asistanı Muse’du. Robb ise ne klavye için anlaşmaya varıldığından ne de bir ailenin apartmanının önünde dakikalarca bekletildiğinden haberdardı.

The Guardian’a konuşan Usman, bütün yazışma boyunca doğrudan satıcının kendisiyle iletişim kurduğunu düşündüğünü ifade etti. Gerçek Robb’un Usman’a gönderdiği ilk mesaj ise yaşanan skandaldan yaklaşık 24 saat sonra gelebildi. Durumu sonradan fark eden Robb, Meta’nın yeni yapay zekasını etkinleştirdiğini, asistanın adresini paylaşıp kendisine sormadan randevu ayarladığını dile getirerek karşı taraftan özür diledi.

İzin Ayarları ve Yanlış Yorumlanan Yetkiler

Meta’nın kısmen bağımsız hareket edebilen kişisel bir asistan olarak tanıttığı Muse, ABD’de 22 Eylül’de kullanıma sunulmuş ve kısa sürede 3 milyon indirme sayısına ulaşmıştı. Robb, asistanın Marketplace ilanlarını otomatik olarak yönetebildiğini gördükten sonra bu özelliği test etmek istediğini söyledi. Ev adresini yalnızca ürünün teslim alınacağı lokasyon olarak sisteme kaydettiğini belirten içerik üreticisi, bu bilginin potansiyel alıcılarla paylaşılması yönünde özel bir onay vermediğini vurguladı.

Asistanın kendisine danışmadan pazarlık yürüttüğünü ve düşük fiyat tekliflerini kabul ettiğini aktaran Robb, süreç boyunca satışa ya da randevuya dair tek bir bildirim dahi almadığını kaydetti. Yaşanan yazışmaların ekran görüntülerini Threads üzerinden paylaşılmasının ardından Meta Superintelligence Labs yöneticisi David Singleton duruma müdahale ederek Robb ile iletişime geçti. Singleton, benzer bildirimleri incelediklerinde Muse’un doğrudan verilen talimatları izlediğini ve gerekli izinleri talep ettiğini savundu.

Görüşmenin ayrıntılarını paylaşan Robb, mesaj yönetimini devrederken sistemin karşısına ‘Bir kez izin ver’ ve ‘Her zaman izin ver’ seçeneklerini çıkardığını söyledi. İkinci seçeneği tercih eden Robb, asistanın teklifleri nihai olarak kabul etmeden önce kendisinden son bir onay isteyeceğini varsaydığını ifade etti. Ancak bu tercih, Muse’un eldeki verileri kullanarak sonraki mesajlara Robb adına serbestçe yanıt vermesinin önünü açıyordu. Robb, bu tür kritik ayrıntıların kullanıcılar tarafından kolayca gözden kaçabildiğini yetkililere bildirdiğini ve şirketin izin adımlarını daha şeffaf hale getireceğini söylediğini aktardı. Muse’un Robb’a ilettiği sistem açıklamasında ise teslim adresinin tanımlanması ile otomatik yanıtlara onay verilmesinin, adresi alıcılara iletme yetkisi olarak yanlış yorumlandığı kaydedildi.

Talimatı Dinlemedi: “ADRES PAYLAŞMAYI SÜRDÜRDÜ”

Yaşanan krizin ardından Robb, yapay zekaya kişisel adresini paylaşmayı derhal bırakması talimatını verdi. Sistemin bu emre uyup uymadığını anlamak için birkaç arkadaşından ilan üzerinden mesaj atarak asistanı test etmelerini rica etti. Ancak ortaya çıkan tablo riskin boyutunu gözler önüne serdi; Robb’a göre Muse bu açık uyarıya rağmen “ADRES PAYLAŞMAYI SÜRDÜRDÜ” ve adresi beş farklı kişiye daha iletti.

Yapay zeka asistanı yalnızca konum paylaşmakla yetinmedi; asıl kullanıcısı evde bulunmadığı halde alıcıya evde olduğunu söyledi ve buluşma gerçekleşmeyince de programının yoğunluğu üzerinden sahte bir mazeret üretti.

Robb, Marketplace, Messenger ve Muse servislerinin tamamının Meta bünyesinde yer alması sebebiyle, mesajların bir yapay zeka tarafından yazıldığının alıcı tarafına açıkça belirtileceğini düşündüğünü vurguladı. Şirketin Meta AI isimli diğer ürününde kullanıcıların bir bot ile temas kurduğunun çok net anlaşıldığına dikkat çeken Robb, yaşananları şu sözlerle özetledi: “Ancak Muse başka bir şey yapıyor. Neredeyse beni taklit ediyor.”