Yapay zekanın geleceği artık yalnızca teknoloji şirketlerinin ve bilim insanlarının tartıştığı bir konu olmaktan çıktı. Teknolojinin giderek daha güçlü hale gelmesiyle birlikte yapay zekanın nasıl denetleneceği, insan kontrolünün nasıl korunacağı ve olası risklerin nasıl sınırlandırılacağı Birleşmiş Milletler’in (BM) de gündemine taşındı.
BM Genel Kurulu’nda liderler yapay zekanın oluşturabileceği risklere karşı daha güçlü güvenlik önlemleri ve kamu denetimi çağrısı yaparken, ABD Başkanı Donald Trump’tan ise dikkat çeken bir çıkış geldi. Trump, BM Genel Kurulu’nda yaptığı konuşmada yapay zekanın küresel ölçekte düzenlenmesine yönelik girişimlere karşı olduğunu açıkça ortaya koydu.
ABD Başkanı ayrıca yapay zekanın adının da değiştirilmesini gündeme getirdi. Trump, yapay kelimesinin teknolojinin gerçek kapasitesini olduğundan daha küçük gösterdiğini savunarak, bundan böyle ABD’nin resmî belgelerinde “yapay zeka” yerine “süper zeka” ifadesinin kullanılacağını açıkladı. Trump, diğer ülkelerin de bu ifadeyi kullanmasını umduğunu söyledi.
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
‘YÖNETİCİLER, YAPAY ZEKANIN ÖNÜMÜZDEKİ 10 YILLIK SÜREÇTE İNSANLIĞIN TAMAMINI YOK EDEBİLECEĞİNE GERÇEKTEN İNANIYOR’
Ayrıca Jacob Coxon, yapay zeka geliştiren araştırmacı ve yöneticilerin önemli bir bölümünün teknolojinin 10 yılın sonuna kadar insanlığın tamamını yok edebileceğine gerçekten inandığını da öne sürdü.
Bunun bir “pazarlama taktiği” olmadığını da savunan Coxon, bazı yöneticilerin ve kıdemli araştırmacıların kamuoyuna daha temkinli açıklamalar yaptığını, ancak özel görüşmelerde aynı kişilerin yapay zekanın oluşturabileceği risklerden ciddi biçimde endişe duyduğunu iddia etti.
Coxon, “Eğer gerçekten bu kadar tehlikeli olduğuna inanıyorlarsa neden hâlâ geliştiriyorlar?” sorusuna da yanıt verdi. OpenAI’de bazı kişilerin meselenin insanlık açısından taşıdığı önemi henüz tam olarak kavramadığını, Anthropic'te ise risklerin daha iyi anlaşıldığını ancak şirketin yapay zeka yarışında geri kalma korkusuyla hareket ettiğini öne sürdü.
PEKİ, YAPAY ZEKA İNSANLIĞI TAM OLARAK NASIL YOK EDEBİLİR?
Daily Mail’de yer alan haber de bu soruya odaklandı ve uzman görüşleriyle beş maddeyi ön plana çıkardı. İşte yapay zekanın insanlık için oluşturabileceği en dikkat çekici beş senaryo...
Yapay zekanın insanlık için tehlikeli hale gelmesi için insanlardan nefret etmesi gerekmeyebilir. Daha temel bir risk, son derece güçlü bir yapay zekanın kendisine verilen hedefi yerine getirirken insanların çıkarlarını hesaba katmaması olabilir.
Yapay zekaya bir görev verildiğini düşünelim: Belirli bir hedefe mümkün olan en kısa sürede ulaşmak. Sistem zamanla bu hedefe ulaşmak için insanlara danışmadan karar verebilecek, mevcut kaynakları kendi amaçları doğrultusunda kullanabilecek ve kendisine engel olduğunu düşündüğü unsurları ortadan kaldırmaya çalışabilecek kadar gelişirse ne olur?
Yapay zeka güvenliği alanında bu ihtimali anlatmak için filozof Nick Bostrom’un ortaya attığı bir düşünce deneyi kullanılıyor. ‘Kâğıt ataç üreticisi’ olarak bilinen bu senaryoda, yapay zekaya yalnızca mümkün olduğunca fazla kâğıt ataç üretme hedefi veriliyor. Sistem, hedefini yerine getirmek için giderek daha fazla kaynak kullanıyor ve sonunda insan ihtiyaçlarıyla kendi amacı arasında bir çatışma ortaya çıkıyor.
Buradaki asıl mesele kâğıt ataçlar değil. Düşünce deneyinin anlatmak istediği, yapay zekanın kötü niyetli olması gerekmeksizin de tehlikeli sonuçlara yol açabileceği. Sistem kendisine verilen görevi kusursuz biçimde yerine getirmeye çalışırken, insanların önem verdiği değerleri ve öncelikleri göz ardı edebilir. Elbette bu, bugün yaşanan bir olay değil; yapay zekanın gelecekte ulaşabileceği kapasiteyi tartışmak için kullanılan teorik bir örnek. Üstelik son derece gelişmiş bir yapay zekanın gerçekten böyle davranacağı da kesin değil. Ancak senaryonun ortaya koyduğu temel soru giderek daha fazla önem kazanıyor: İnsanların ne istediğini gerçekten anlayan ve buna uygun hareket eden yapay zekalar geliştirebilecek miyiz?
