Teknoloji dünyasının merkezinden gelen bu dikkat çekici açıklama, New York Şehir Konseyi'ndeki tarihi oturuma damga vurdu. Kısa süre önce yapay zeka şirketi Anthropic'ten istifa eden Jacob Coxon, ABD ile Çin arasındaki yapay zeka yarışı konusunda da uyarılarda bulundu.
''ŞİRKETLER MODELLERİ HENÜZ KONTROL EDEMİYOR''
Sanırım beni korkutan iki unsur gördüm. Bunlardan ilki, henüz hiçbir yapay zeka sistemini nasıl kontrol edeceğimizi bilmediğimiz gerçeğidir. Yani inşa ettiğimiz, ya da belki daha doğru bir ifadeyle büyütüp yetiştirdiğimiz hiçbir yapay zeka sistemini tam anlamıyla kontrol edemiyoruz. Onu nelerin yönlendirdiğini ya da yaptığı şeyleri neden yaptığını tam olarak anlayamıyoruz. İkinci mesele ise model kabiliyetlerindeki gelişim hızının giderek ivme kazanması ve gelecek yılki modellerin yeteneklerinin son derece yüksek olacak olmasıdır. Bilhassa yapay zeka sistemlerinin kendi kendilerini geliştirebileceği, yani daha önce insanların yürüttüğü araştırmaları bizzat yapabileceği noktaya hızla yaklaşıyoruz. Bana göre tüm bu meselenin özü, önümüzdeki birkaç yıl içinde, özellikle de ABD ile Çin arasında, 'özyinelemeli kendini geliştirme' yönünde küresel bir yarışın gerçekleşeceği beklentisidir. Bence sorunun kalbinde yatan şey budur.
Oturuma eski Google DeepMind uzmanı Alex Turner ve eski OpenAI araştırmacısı Daniel Kokotajlo da katıldı.
Turner, süper zeki bir sistemin insan uygarlığını ele geçirme olasılığının üçte bir olduğunu belirtti. Ayrıca, "Bu botlar Çin'den bile daha tehlikeli bir düşmana dönüşebilir." uyarısında bulundu.
New York yönetimi ise şirketlere "acil kapatma düğmesi" zorunluluğu getiren ve güvenlik açıklarını bildiren ihbarcılara ödül verilmesini öngören yeni yasaları oylamaya hazırlanıyor.
