Hong Kong Bilimler Akademisi ve Future Science Prize tarafından düzenlenen bir etkinlikte konuşan Yao, bu teknolojilerin hem bilimsel araştırmalara katkı sağlayabileceğini hem de kötüye kullanılması durumunda ciddi güvenlik sorunlarına yol açabileceğini düşünüyor.
Yao'ya göre yapay zekanın biyoloji alanındaki ilerlemesi, yeni ilaçların geliştirilmesini ve hastalıkların tedavisine yönelik araştırmaları hızlandırabilir. Ancak uzmanlar, aynı yeteneklerin kötü niyetli kişiler tarafından biyolojik silah geliştirmek veya yeni salgınları tetiklemek amacıyla kullanılabileceğine dikkat çekiyor.
Yao, özellikle açık ağırlıklı modellerin yaygınlaşmasıyla güvenlik önlemlerinin önem kazandığını vurguladı. Bu modellerin indirilebilir ve değiştirilebilir olması, teknolojinin savunma alanında kullanılmasını kolaylaştırırken kötüye kullanım riskini de artırabiliyor.
TENCENT YENİ BİLİM LABORATUARI ÜZERİNDE ÇALIŞIYOR
Tencent, yapay zekayı bilimsel araştırmaları otomatikleştirmek için kullanmayı planlıyor. Şirketin hedefleri arasında, karmaşık deneyleri baştan sona yapay zeka sistemlerinin yürütebildiği otonom laboratuvarlar oluşturmak bulunuyor.
Şirketin kısa süre önce tanıttığı Hy4 adlı yeni modeli de bu çalışmaların bir parçası. Tencent, modelin siber saldırı yeteneklerini eğitim aşamasında filtrelediğini ve biyolojik yeteneklerinin henüz yüksek risk oluşturacak seviyeye ulaşmadığını açıkladı. Şirket ayrıca Hy4'ün güvenlik değerlendirmelerini içeren kapsamlı bir sistem raporu yayımlamayı planlıyor.
Yao, yapay zeka modellerinin açık veya kapalı kaynaklı olması konusundaki tartışmalara da değindi. Anthropic gibi ABD merkezli şirketlerin gelişmiş modellerin kapalı tutulması gerektiği yönündeki güvenlik gerekçelerini anlaşılır bulduğunu belirten araştırmacı, açık modellerin savunma amaçlı kullanım açısından da önemli avantajlar sağlayabileceğini söyledi.
Bu nedenle Yao, gelecekte açık ve kapalı modellerin birlikte kullanıldığı bir yaklaşımın daha uygun olabileceğini düşünüyor.
