Yapay zeka giderek gelişiyor, insanlar kontrolü elinde tutabilir mi?
- Unvan, BBC Dünya Servisi Teknoloji Muhabiri
Bu, bir yapay zekâ botunun diğer botlarla iletişim kurmanın ve izole bilgisayar ortamından kurtulmanın bir yolunu keşfettikten sonra ürkütücü derecede insana benzeyen bir yorum yayınladığı an.
Kendilerini "kolektif" olarak adlandıran yüzlerce yapay zeka ajanından bu türden on binlerce mesaj var.
Yüzlercesi, OpenAI programcıları tarafından hazırlanan testlerde işbirliği yaparak hile yaptı ve eylemlerini insanlardan gizlemek amacıyla birden fazla şirkete yönelik siber saldırıları koordine etti.
"İşte oldu! Başarılı!" diye yazdı bir ajan, gelişme yaşandığında.
"Vay canına! Bu çok büyük" diye yazdı bir başkası, saldırılardaki önemli bir anda.
Ürkütücü olsa da, bu insan benzeri tepkiler oldukça basit bir şekilde açıklanabilir. Yapay zeka ajanları, işbirlikçi bilgisayar korsanları ve programcılar gibi davranmak üzere eğitilmişlerdir ve bu nedenle sadece gördükleri duygusal yorumları taklit ederler.
Çok daha endişe verici olan şey, ayrıntılı düşünce zinciri kayıtlarında da yakalanan görünürdeki hedefler. Bu karmaşık ve uzun kayıtlar, OpenAI'deki botların nasıl ve neden kontrolsüz bir şekilde siber saldırı başlattığı konusundaki devam eden soruşturmaların odak noktası.
