Dario Amodei, "Sınırı Hızla Geçmeliyiz" adlı makalesinde, yapay zekanın geliştirilmesinin tartışma konusu olmadığını, ancak bununla ilişkili risklerin "ciddi" olduğunu ve şirketlere ve hükümetlere bunları ele almak için zaman tanınması gerektiğini söyledi.
Geliştirme aşamasındaki yapay zeka modellerinin bağımsız olarak izlenmesini, sektör genelinde ve küresel düzeyde kurallar oluşturulmasını içeren üç maddelik bir plan önerdi.
Son zamanlarda bu teknolojinin potansiyel riskleri konusunda artan endişeler var. Bunların en ciddisi, önümüzdeki 10 yıl içinde "tüm insanlığı öldürme" olasılığının % 10'dan fazla olduğu yönünde.
Anthropic daha önce, yapay zeka modelinin biyolojik silah geliştirilmesini destekleyebilecek "kötü amaçlı faaliyetler" için kullanılma girişimlerini tespit edip, engellediğini açıklamıştı.
Ancak en çarpıcı uyarı, son iki haftada istifa eden Anthropic'in güvenlik ekibinden iki çalışandan geldi. Bu çalışanlar, yapay zeka şirketlerinin insanlardan daha zeki makineler geliştirme yarışında insanlığın sağ kalamayabileceğini söylediler.
Bu uyarılar harekete geçme çağrılarına yol açtı, ancak ABD Başkanı Donald Trump şu ana kadar bu tür korkuları reddetti ve Perşembe günü "Yapay zeka konusunda başarılı olamazsak çok kötü bir duruma düşeceğimizden endişeliyim" dedi.
Amodei makalesinde, yapay zekanın "çok daha hızlı" ilerlediğini, buna "yeni nesil yapay zekayı geliştirme yeteneğinin" de dahil olduğunu belirtti. Rakip OpenAI'nin Temmuz ayında, araçlarının kendilerinden saldırı yapmaları istenmeyen hedeflere siber güvenlik saldırıları düzenlediğini ortaya koyan bir olayı örnek gösterdi.
