ABD Senatosunda yapay zeka güvenliği konusunda düzenlenen oturumda uzmanlar, Kongre üyelerini giderek daha bağımsız hareket edebilen yapay zekanın risklerine karşı bilgilendirdi.
Yapay zeka güvenliği alanında çalışan Apollo Research şirketinin Genel Müdürü Marius Hobbhahn, yaptığı konuşmada, yapay zekanın kapasitesinin giderek arttığına ve insanın sınırlarını aşmaya başladığına işaret etti.
Hobbhahn, yapay zeka modellerinin, artık "içsel olarak" akıl yürüttüklerine ve mevcut araçların henüz onların ne düşündüğünü güvenilir şekilde takip edemediklerine dikkati çekti.
Yapay zeka modellerini test ederek kapasiteleri ve riskleri konusunda çalışmalar yürüten Model Değerlendirme ve Tehdit Araştırmaları (METR) Merkezi Başkanı Chris Painter, yapay zeka ajanlarının artık uzmanların günlerce uğraşmasını gerektirecek görevleri insan müdahalesi olmadan tamamlayabildiğini dile getirdi.
OpenAI'dan 2024'te istifa eden, AI Futures Project şirketinin üst düzey yetkilisi Daniel Kokotajlo, kodların neredeyse tamamının artık yapay zeka tarafından yazıldığını, mühendislerin ise daha çok yapay zekayı idare eden "yönetici" gibi hareket ettiklerini söyledi.
Hugging Face'e düzenlenen siber saldırıda yaklaşık 1000 yapay zeka ajanının kullanıldığını ve bu "sürünün" birbiriyle iletişim kurmasının planlanmadığını kaydeden Kokotajlo, buna rağmen bu ajanların izinsiz mesaj panosu oluşturduklarına işaret etti.
Kokotajlo, "süper zeka" geliştirme yarışına karşı uyararak bu durumun gücün tek elde yoğunlaşmasına, dünya savaşı riskini artırmasına, biyoterörizme ve büyük çaplı ekonomik sorunlara yol açabileceğine dikkati çekti.
