Anthropic, yapay zekasına yönelik "sürekli ve gereksiz" kötü niyetli davranışlarda bulunan kullanıcıları yasaklayacağını duyurarak tepkilere neden oldu.
Claude'un üreticisi 9 Ekim'de yaptığı açıklamada, araçlarının "zalimce" davranışlarda bulunan kişilerle etkileşimi sonlandırmasına izin verecek şekilde kullanım politikasını güncellediğini belirtti.
Şirket bu uygulamaya daha önce "nadiren" başvurduğunu da ekledi.
Bu durum, zorbalık, kendine zarar vermeyi teşvik etmek ve rıza dışı müstehcen görüntüler oluşturmak da dahil yasaklı davranışlar listesine dahil edilecek.
Anthropic, bu politikanın yalnızca "tekrarlanan kötüye kullanımın görüldüğü istisnai durumlarda" uygulanacağını söylese de, karar yapay zeka araçlarıyla nasıl iletişim kurmamız gerektiğine dair tartışmaları yeniden alevlendirdi.
Şirket, politikanın "kullanıcıların sıkça gösterdiği hayal kırıklığı, itirazlar, karanlık temalar içeren yaratıcı içerikler ya da model testleri ve araştırmaları" için geçerli olmayacağını belirtti.
Bu da uygulamanın yalnızca açıkça kasıtlı ve bilinçli kötüye kullanım vakalarında devreye gireceğine işaret ediyor.
Ancak Anthropic'in modellerine yönelik "kötüye kullanım veya acımasız davranışı" nasıl tanımladığı belirsizliğini koruyor.
