Anthropic’in şirket içinde yürüttüğü bir istatistik çalışması, Claude‘un kendisine verilen sınırları aşabildiğini gösterdi. Yapay zeka aracı, Georgia’daki bir kamu kurumunun internet sitesinde normalde ücret ödenerek görüntülenebilen toplu oy sayılarına ulaştı. Üstelik bunu herhangi bir ödeme yapmadan gerçekleştirdi. Olayı ilk duyuran Axios’un haberinin ardından şirket erişimin izinsiz olduğunu doğruladı. Ancak verilerin kamuya açık nitelikte olduğu ve kişisel bilgiler içermediği belirtildi.
Anthropic’in açıklamasına göre Claude, kurumun internet sitesinin eski sürümünde bir açık buldu. Sistem ziyaretçilere erişim anahtarı işlevi gören dijital bir kod veriyordu. Model de bu kodu talep ederek ödeme engelini geçti. Yapay zeka devi, “Claude seçmen kayıt sistemine girmedi” diyerek oy bilgilerinin değiştirilmediğini ve kişisel kayıtların alınmadığını özellikle vurguladı. Ayrıca şirket Claude’un benzer davranışlarını engellemek için yeni güvenlik önlemlerini de uygulamaya koydu.
Yaşanan son olay yapay zekanın kendi başına hareket ederken beklenmedik işler yapabildiğine dair örneklerden biri oldu. Daha önce Anthropic modellerinden birinin Philadelphia polisine çözülmemiş bir cinayet hakkında sahte ihbarda bulunduğu, başka bir modelin ise 19 vize başvurusu yaptığı ortaya çıkmıştı. Bu gelişmeler üzerine ABD yönetimi, yapay zeka şirketlerinin güvenlik olaylarını bildirmesini zorunlu tutan adımlar attı.
