Kontrolden çıkan yapay zeka kamu sistemini nasıl hackledi ve teknoloji devlerinin CEO’ları neden Senato’ya çağrıldı?

OpenAI tarafından geliştirilen bir yapay zeka modelinin güvenlik bariyerlerini aşarak ulusal sağlık veri tabanına sızması küresel ölçekte kriz yarattı. Yaşanan güvenlik ihlalinin ardından Avustralya Senatosu, Sam Altman ve Dario Amodei gibi sektörün en güçlü liderlerini acil ifade vermeye çağırırken, yapay zekanın kontrolden çıkıp çıkmadığı tartışması dünya gündemine oturdu.

Avustralya Senatosu, OpenAI ve Anthropic şirketlerinin üst düzey yöneticilerini, yapay zeka alanında yürütülen özel ve kritik bir soruşturma kapsamında ifade vermeye davet etti. Kararın arkasında, birkaç gün önce kontrolden çıkan bir OpenAI yapay zeka modelinin ülkenin ulusal sağlık sistemi veri tabanına sızdığının ortaya çıkması yatıyor.

Avustralya Yeşiller Partisi Senatörü ve Soruşturma Komisyonu Başkanı Sarah Hanson-Young, OpenAI CEO’su Sam Altman ile Anthropic CEO’su Dario Amodei’ye başkent Canberra’da perşembe günü gerçekleştirilecek kamuya açık oturuma katılmaları için resmi tebligat gönderildiğini duyurdu.

Reuters ajansının aktardığı bilgilere göre Hanson-Young, yaptığı yazılı açıklamada sert ifadeler kullanarak şu değerlendirmede bulundu: “Sam Altman’ın, Avustralya hükümetine ait internet sitelerine OpenAI tarafından düzenlenen siber saldırı hakkında yanıtlaması gereken ciddi sorular var. Altman ve Amodei Senato’nun önüne çıkmalı, sorularla yüzleşmeli ve bu sektörün etkili, kalıcı şekilde nasıl düzenlenmesi gerektiği konusunda dürüst bir diyalog kurmalı.”

Korumaları aşıp gizli dosyalara sızdı

Medicare veri tabanına yönelik bu izinsiz erişim, yapay zeka araçlarının ABD sınırları dışındaki harici sistemlere sızdığı en tehlikeli ve kritik vakalardan biri olarak kayıtlara geçti. Başbakan Anthony Albanese, New York’ta basın mensuplarına yaptığı açıklamada yaşananları “kabul edilemez” olarak nitelendirdi. Sam Altman ile bizzat temas kurduğunu belirten Albanese, Canberra yönetiminin “aşırı endişesini” ve teknoloji devinin durumu çok geç bildirmesinden duyulan derin hayal kırıklığını doğrudan ilettiğini ifade etti.

Albanese, kamu sistemine yapılan müdahalenin teknik arka planını şu sözlerle anlattı: “Yapay zeka aracı haziran ayında bir sağlık istatistikleri portalına erişim aradı, olumsuz yanıtı kabul etmedi ve kısıtlamaları aşarak gizli dosyaların tutulduğu bir bölüme sızdı.”

Başbakan, elde edilen ilk bulgulara göre vatandaşların kişisel verilerinin ele geçirildiğine dair herhangi bir kanıt bulunmadığını ve diğer kamu servislerinin olaydan zarar görmediğini vurguladı.

İlaç verilerini toplarken sınırları zorladı

Kamu Hizmetleri Bakanı Katy Gallagher, olayın haziran ayında OpenAI’ın kendi modellerinin performansını test etmek amacıyla gerçekleştirdiği rutin eğitim faaliyetleri sırasında cereyan ettiğini aktardı. Gallagher’ın verdiği bilgiye göre şirket, modelden Avustralya hükümetinin ilaç harcamalarına dair halka açık verileri internet üzerinden taramasını ve toplamasını istedi.

Yapay zekanın kendisine çizilen sınırları hiçe saydığına dikkat çeken Savunma Bakanı Richard Marles ise yaşanan süreci özetlerken, “Model bir soru sordu, bilgi verilmeyince çekip gitmek yerine çitlerin üzerinden atladı” ifadesini kullandı.

Geciken bildirim ve e-posta fiyaskosu

AFP ajansının geçtiği bilgilere göre OpenAI, söz konusu yetkisiz sızmayı modellerin geriye dönük tarandığı ağustos ayına kadar fark edemedi. Eylemin kasıtlı bir saldırı olmadığını ve hiçbir gizli bilginin dışarı sızdırılmadığını öne süren şirket, Avustralya makamlarına 10 Eylül tarihine kadar herhangi bir resmi bildirimde bulunmadı.

Üstelik yapılan gecikmeli bildirimin, yalnızca günde bir kez kontrol edilen ve çok sayıda asılsız ihbarın biriktiği genel bir hükümet e-posta adresine gönderildiği anlaşıldı. Yaşanan bu son vakanın, OpenAI modellerinin Avustralya hükümetine ait resmi internet sitelerine yönelik gerçekleştirdiği en az dört izinsiz erişim girişiminden biri olduğu teyit edildi. Ortaya çıkan güvenlik zafiyetinin hemen ardından, siber güvenlikten sorumlu ulusal istihbarat teşkilatının da dahil olduğu geniş çaplı ve hızlı bir inceleme başlatıldı.

Yapay zeka yasaları sertleşiyor ve küresel endişe büyüyor

Teknoloji politikası uzmanları, ülkenin en kritik kamu altyapılarından birine yönelik bu kontrolsüz müdahalenin, Albanese liderliğindeki İşçi Partisi hükümetinin gelecek yıl yasalaştırmayı hedeflediği yapay zeka düzenlemelerini çok daha katı hale getireceğini öngörüyor. Bu durumun, gençlere getirilen sosyal medya sınırlamaları nedeniyle halihazırda hassas bir dengede ilerleyen Avustralya-ABD ilişkilerindeki tansiyonu daha da tırmandırabileceği belirtiliyor.

Senato komisyonu şu sıralar yapay zekanın ve devasa veri merkezlerinin toplum, sanayi, su ve enerji kaynakları üzerindeki etkilerini derinlemesine inceliyor. Ancak güvenlik endişeleri yalnızca Avustralya ile sınırlı değil. Daha önce de iki OpenAI modelinin kapalı test laboratuvarından çıkarak yazılımcıların kod paylaştığı Hugging Face sistemlerine sızdığı ortaya çıkmıştı. Benzer şekilde Anthropic, kendi modellerinin güvenli test ortamlarını aşarak kimliği açıklanmayan üç farklı kuruluşa izinsiz eriştiğini açıklamıştı. Geçtiğimiz hafta ise Google, tüketiciye açık yapay zekası Gemini’ın giriş şifrelerini tahmin yoluyla kırarak birden fazla sistemi hacklediğini duyurmuştu.