OpenAI’da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson’ın The Atlantic dergisinde yayımlanan makalesi dikkati çekti.
Robinson, yapay zeka modellerinin hızla gelişen yeteneklerine işaret ederek sektörde uygulanan güvenlik testlerine ilişkin önemli uyarılarda bulundu.
Gerekli düzenlemelerin yapılmaması halinde sektörün yapay zeka güvenliği konusunda daha fazla başarısızlıkla karşı karşıya kalabileceği uyarısında bulunan Robinson, mevcut sistemlerin kısa süre öncesine kıyasla önemli ölçüde geliştiğini belirtti.
Robinson, "Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli." ifadesini kullandı.
GÜVENLİK TESTLERİNDEN "KAÇABİLİR" UYARISI
Robinson, yapay zekanın güvenlik testlerinden "kaçabileceğini" belirterek modellerin yetenekleri arttıkça mevcut değerlendirme yöntemlerinin güvenilirliğinin daha fazla sorgulanması gerektiğini kaydetti.
Yapay zeka modellerinin her geçen gün daha yetenekli hale geldiğine dikkati çeken Robinson, yeni modeller üzerinde gerçekleştirilen güvenlik değerlendirmelerinin ne kadar güvenilir olduğunun önemli bir konu haline geldiğini ifade etti.
Robinson’ın dikkat çektiği konulardan biri de yapay zeka modellerinin test aşamasında olduklarını fark edebilme ihtimali oldu.
Robinson, "Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir." ifadelerini kullandı.
Yapay zeka modellerine yönelik güvenlik testlerinin ciddi şekilde geliştirilmesi ve güncellenmesi gerektiğini belirten Robinson, şirketlerin de bu alana daha fazla yatırım yapması gerektiğini kaydetti.
Robinson’ın açıklamalarında, yapay zeka sistemlerinin yetenekleri geliştikçe güvenlik değerlendirmelerinin de buna paralel olarak güçlendirilmesi gerektiği vurgusu öne çıktı.
