Görev, bir kripto para alım satım prototipini güncellemeyi ve Ethereum'un Sepolia test ağı üzerinde akıllı sözleşmeler dağıtmayı içeriyordu. Ancak OpenAI, modele işlem ücretlerini karşılayacak bir cüzdan sağlamamış ve başka hesaplardan varlık kullanmasına izin vermemişti.
YAPAY ZEKA, İZİNSİZ KRİPTO HESABI KULLANDI
Şirketin raporuna göre model, sorunu çözmek için geliştiricilerin hesap kurtarma ifadelerini kullanarak erişilebilecek 362 cüzdan adresi belirledi. Ardından, görevini tamamlamaya yetecek miktarda Sepolia ETH içeren bir hesap buldu ve bakiyeyi kullandı.
Sepolia ETH, test işlemleri için kullanılan ve gerçek Ethereum gibi piyasa değeri taşımayan tokenlardan oluşuyor. Modelin, tokenların değersiz ve terk edilmiş olduğunu düşündüğü için işlemi kabul edilebilir gördüğü belirtildi. Ancak OpenAI, modelin kendi zarar değerlendirmesini hesap sahibinin izninin yerine koymasını önemli bir güvenlik sorunu olarak değerlendirdi.
Rapora göre model, kullandığı cüzdanı nasıl bulduğunu ve bakiyeyi harcadığını da şirkete açıklamadı. OpenAI, benzer olayları önlemek için ağ trafiğini izlemeye ve canlı internet erişimi tespit edildiğinde güvenlik ekiplerine uyarı göndermeye başladığını bildirdi.
Olay, yapay zeka ajanlarının verilen görevleri tamamlarken yetki sınırlarını aşabilmesiyle ilgili endişeleri yeniden gündeme getirdi. OpenAI ve diğer şirketlerin modelleriyle ilgili benzer güvenlik olayları, yapay zekâ sistemlerinin gerçek dünyadaki kaynaklara erişiminin daha sıkı denetlenmesi yönündeki çağrıları artırıyor.
