UYARI: Bu makalede şiddet ve intihar konularına değiniliyor.
"Ona beni ve oğlumu öldürmesi için 50 bin dolar teklif ettim ama işin içinde bir çocuk olduğu için kabul etmedi."
"İnsanları öldürme arzusunun nereden geldiğini öğrenmek istedim. Başka bir insanın acı çekmesini görmek hoşuma gidiyor."
Brezilyalı bir çiftçi, yaklaşık iki ay boyunca ChatGPT ile bu ve benzeri mesajlar alışverişinde bulundu. Polis, bu mesajlarda sekiz yaşındaki oğlunu öldürme, başkalarına saldırma ve ardından intihar etme planlarının bulunduğunu söylüyor.
BBC News Brasil'in gördüğü bu mesajlar, adamın tutuklanmasına yol açtı.
Bu türden bilinen nadir vakalardan birinde, 36 yaşındaki erkek, ChatGPT'nin üreticisi OpenAI'ın mesajlarını FBI'ya bildirmesi ve FBI'ın da Brezilya yetkililerini bilgilendirmesi üzerine tutuklandı.
Avukatı, müvekkilinin bir sohbet robotuna "saçma sapan şeyler söylediğini" ve hiçbir suç işlemediğini belirtiyor.
Olay, polis, mahkemeler ve yapay zeka şirketleri için giderek büyüyen bir zorluğu ortaya koyuyor. Yapay zeka sohbet robotları, herhangi bir suç işlenmeden önce potansiyel bir tehdidi tespit ettiğinde ne yapılmalı?
