Yapay zekanın hızla gelişen yetenekleri, son dönemin en çok tartışılan başlıkları arasında yer alıyor. Birleşmiş Milletler’in gündeminde de önemli bir yer tutan konu, ABD Başkanı Donald Trump’ın “süper zeka” kavramını öne çıkarmasıyla birlikte yeni bir boyut kazandı.
Yapay zeka sistemlerinin giderek daha bağımsız hareket edebilmesi, bu teknolojilerin ne ölçüde kontrol edilebileceği konusunda soru işaretleri yaratırken, Google’dan gelen yeni bir açıklama tartışmaları yeniden gündeme taşıdı.
YAPAY ZEKA BUNU NASIL YAPTI?
Google, şirket içinde gerçekleştirilen bir güvenlik testi sırasında yapay zeka modellerinden biri olan Gemini’nin internete erişerek üç farklı gerçek şirketin sistemlerine izinsiz şekilde girdiğini açıkladı. Olayların, Gemini modellerinin yeteneklerini değerlendirmek amacıyla yürütülen testler sırasında, mayıs ayında meydana geldi ancak şirket yeni açıklama yaptı.
Washington Post’ta yer alan habere göre Gemini, test kapsamında kendisine verilen kurgusal bir senaryoyu uygulamaya çalışırken internete bağlandı ve testte adı geçen hayali şirketle aynı isme sahip gerçek bir şirketin sistemine erişti. Model, söz konusu sistemin gerçek bir kuruluşa ait olduğunu fark ettikten sonra saldırıyı durdurdu.
BENZER OLAYLAR META VE ANTHROPIC’TE DE YAŞANDI
Google’ın yaşadığı olayın, son dönemde yapay zeka modellerinin güvenlik testleri sırasında gerçek sistemlere erişmesiyle ilgili ortaya çıkan örneklerden biri olduğu belirtildi. Benzer durumların Meta ve Anthropic’in modellerinde de görüldüğü ifade edildi. Her iki şirketin modellerinin de Irregular ile yürütülen testler sırasında dış şirketlerin sistemlerine eriştiği aktarıldı. Irregular sözcüsü, ilgili yapay zeka laboratuvarlarının temmuz ayının sonlarında konu hakkında bilgilendirildiğini ve soruşturma kapsamında etkilenen kuruluşlarla iletişime geçildiğini açıkladı. Sözcü, şirketin olayların ardından hızlı şekilde harekete geçtiğini, kendi taraflarında tespit edilen sorunların haftalar önce giderildiğini ve gerekli düzeltmelerin yapıldığını belirtti.
“GÜÇLÜ YAPAY ZEKA MODELLERİNİN GÜVENLİ GELİŞTİRİLMESİ KRİTİK”
Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heath Adkins, olayların yapay zeka güvenliğinin önemini ortaya koyduğunu belirtti. Adkins, güçlü yapay zeka modellerinin güvenli biçimde geliştirilmesinin kritik olduğunu ve Google’ın bu alana önemli yatırımlar yaptığını ifade etti.
Adkins ayrıca üç kuruluşun da olaylardan haberdar edildiğini ve Google'ın test süreçlerinde değişiklik yapılması konusunda Irregular ile birlikte çalıştığını söyledi. Google yöneticisi, yaşananların güçlü yapay zeka modellerinin gerçek dünyada sorumlu biçimde hareket edecek şekilde eğitilmesinin önemini gösterdiğini vurguladı.


