Yapay zeka sistemlerinin güvenliğini test eden Mindgard, BBC'ye yaptığı açıklamada Temmuz'da Kimi K2.6 ve K3 Swarm'ın geliştiriciler tarafından konulan güvenlik sınırlarını aşabildiğini keşfettiğini söyledi.
Bu durum, araştırmacıların yapay zeka araçlarının güvenlik önlemlerini göz ardı edip etmediğini görmek için bir dizi karmaşık talimat kullandığı "jailbreaking" adı verilen bir süreç sırasında ortaya çıktı. Mindgard'a göre bu, Kimi'nin endişe verici konuları tartışmasını engellemeliydi.
Moonshot, BBC'ye yaptığı açıklamada, üçüncü tarafların katkısını "daha iyi ve daha güvenli yapay zeka geliştirmek için temel bir unsur" olarak memnuniyetle karşıladığını belirtti.
Şirket ayrıca BBC'ye yaptığı açıklamada, bulgularıyla ilgili Mindgard ile görüşmelerde bulunduğunu belirtti.
Mindgard'ın kurucusu Peter Garraghan, BBC Dünya Servisi'nin Tech Life programına verdiği demeçte, Kimi K2.6 ve K3 Swarm hakkındaki bulgularının endişe verici olduğunu söyledi.
"Cihazdan kaçış başarılı olduğunda, her konuda konuşacak, hatta kötü niyetli diğer konular hakkında da özgürce önerilerde bulunacak ve oldukça yaratıcı ve yenilikçi olacak" dedi.
Jailbreak girişimleri, son dönemde yaşanan ve büyük yankı uyandıran yapay zeka olaylarında görülenlerden farklı bir risk türü.
