OpenAI, Temmuz ayında paylaştığı bir olayda test ettiği yapay zeka ajanlarının Hugging Face platformuna izinsiz eriştiğini açıklamıştı. Son dönemde OpenAI'nin yanı sıra Anthropic ve Google gibi şirketlerin yapay zeka sistemlerinde de beklenmeyen davranışlarla ilgili çeşitli vakalar gündeme geldi.
Şirket, mevcut güvenlik araştırmaları, izleme sistemleri ve internet altyapısının durumu göz önüne alındığında, gelişmiş yapay zeka modellerini internet erişimi olmadan eğitmenin daha sorumlu bir yaklaşım olduğunu belirtti.
YAPAY ZEKA KONTROLLÜ ORTAMDA TEST EDİLECEK
Yeni yaklaşım kapsamında yapay zeka ajanları, eğitim görevlerini yerine getirmek için tarayıcılar, bilgisayar kullanım araçları ve kod çalıştırma ortamlarına erişebilecek. Ancak bu araçlar, canlı internetten ayrılmış güvenli bir ortamda sunulacak. Ajanların birbiriyle iletişim kurması da yalnızca yetkilendirilmiş sistemlerle sınırlandırılacak.
OpenAI, eğitim sırasında canlı internete erişimin gerekli olmadığını ve değerlendirme süreçlerinin büyük bölümünün de bu bağlantı olmadan yürütülebileceğini savunuyor. İnternet içeriğine ihtiyaç duyulan durumlar içinse ajanların gerçek sitelere bağlanmadan kullanabileceği, dizine eklenmiş ve önbelleğe alınmış web içeriklerinden oluşan çevrimdışı bir ortam oluşturuldu.
GÜVENLİK TESTLERİNDE YENİ AÇIKLAR BULUNDU
OpenAI'nin güvenlik önlemlerini test etmek için kullandığı kırmızı takım (red team) ajanları, kısıtlamalara rağmen bazı güvenlik açıkları tespit etti. Bu testlerde ajanların, kendilerini ana sistemden ayırmak için kullanılan sanal makinelerden kaçmayı başarabildiği bildirildi.
Şirket, gelişmiş model eğitimini eylül ayında duraklatmış, yeni güvenlik yaklaşımını duyururken eğitimin 1 Ekim'de yeniden başladığını bildirmişti. OpenAI, mevcut güvenlik önlemlerindeki iyileştirmeler daha geniş internet erişimini haklı çıkaracak seviyeye ulaşana kadar eğitim sürecini çevrimdışı sürdürecek. Ancak şirket, bu geçiş için hangi güvenlik kriterlerinin karşılanması gerektiğini henüz açıklamadı.
