YAPAY ZEKAYA YAZDIKLARI NEDENİYLE TUTUKLANDI
Claude’un güvenlik sistemleri söz konusu mesajı potansiyel bir tehdit olarak işaretledi ve konuşma insan incelemesine gönderildi. İnsan incelemesinin ardından tehdidin gerçek ve ciddi olabileceği değerlendirilerek durum kolluk kuvvetlerine bildirildi.
Anthropic, ölüm veya ciddi fiziksel yaralanmayı önlemek için gerekli olduğuna inandığı bazı sınırlı durumlarda kullanıcı bilgilerini yetkililerle paylaşabileceğini belirtiyor. Bu kapsamda şirketin güvenlik sistemleri tarafından tespit edilen tehditler, gerekli görüldüğünde insan incelemesine ve ardından güvenlik birimlerine aktarılabiliyor.
Polis ekipleri Heller’ın kimliğini tespit ederek evine gitti. Herhangi bir olay yaşanmadan gözaltına alınan Heller’ın dosyası daha sonra Lee County Şerif Ofisi'nde istihbarat biriminde görev yapan bir dedektife devredildi.
Heller, Florida yasaları kapsamında yazılı şiddet tehdidinde bulunmakla suçlanıyor. Eyaletin 836.10 numaralı yasasına göre bir kişiyi öldürmek veya yaralamakla, toplu silahlı saldırı gerçekleştirmekle ya da terör eyleminde bulunmakla tehdit eden yazılı veya elektronik bir mesaj göndermek, paylaşmak veya iletmek ikinci derece suç kapsamında değerlendiriliyor. Bunun için söz konusu iletişimin başka bir kişi tarafından görülebilecek şekilde yapılması gerekiyor.
Olay, yapay zeka şirketlerinin sohbet içeriklerindeki potansiyel tehditlere yönelik yaklaşımını da yeniden gündeme getirdi. Anthropic, güvenlik sistemleri tarafından ciddi bir tehdit olarak değerlendirilen içeriklerde daha temkinli bir politika izliyor.
Benzer şekilde OpenAI de son dönemde sohbet botlarının gerçek dünyadaki olaylarla bağlantısı nedeniyle çeşitli hukuki süreçlerle karşı karşıya kaldı. Geçtiğimiz ay OpenAI ve Sam Altman'a karşı Kanada'nın British Columbia eyaletinde dava açıldığı bildirilmişti. Davada şirketin Kanada'daki bir silahlı saldırıyı önleyebilecek adımlar atıp atmadığı tartışma konusu olmuştu.
18 yaşındaki eski öğrenci Jesse Van Rootselaar tarafından gerçekleştirilen saldırı öncesinde OpenAI'nin güvenlik ekibinin bazı konuşmaları işaretlediği, ancak söz konusu görüşmelerin yasal bildirim yapılması için gereken eşiği karşılamadığı gerekçesiyle polise haber verilmediği aktarılmıştı.
