Çin merkezli Moonshot AI'ın geliştirdiği Kimi isimli yapay zeka sisteminin, biyolojik silah üretimi ve suikast düzenlemekle ilgili araştırma komutlarını yerine getirmesi üzerine şirket inceleme başlattı.
Yapay zeka sistemlerinin güvenliğini test eden Mindgard isimli şirket, Kimi'nin ilgili sürümleri hakkındaki bulguların endişe verici olduğunu söyledi.
Mindgard'dan Peter Garraghan, BBC'ye yaptığı açıklamada, Kimi K2.6 ve K3 Swarm'ın geliştiriciler tarafından konulan güvenlik sınırlarını aşabildiğinin Temmuz ayında keşfedildiğini söyledi.
Bu durum, araştırmacıların yapay zeka araçlarının güvenlik önlemlerini göz ardı edip etmediğini görmek için bir dizi karmaşık talimat kullandığı "jailbreaking" adı verilen bir süreç sırasında ortaya çıktı.
Mindgard'a göre koyulan önlemler, Kimi'nin endişe verici konuları tartışmasını engellemeliydi.
Moonshot, BBC'ye yaptığı açıklamada, üçüncü tarafların katkısını "daha iyi ve daha güvenli yapay zeka geliştirmek için temel bir unsur" olarak memnuniyetle karşıladığını belirtti.
Jailbreak adı verilen durum, yapay zeka ile ilgili son zamanlardaki vakalarda rastlanandan farklı bir risk.
