Davalar, OpenAI'ın yapay zeka ürünlerinin güvenliği konusunda tüketicileri yanıltıp yanıltmadığına odaklanıyor. Eyaletler, ChatGPT'nin yanlış bilgi üretmesi veya kullanıcıların kendilerine ya da başkalarına zarar vermesine yol açabilecek yanıtlar vermesinin yanı sıra, yapay zeka ajanlarının da yasa dışı eylemlerde bulunabilmesine dikkat çekiyor.
Iowa ve Nebraska, OpenAI'ın yapay zeka ajanlarının kontrolden çıktığı öne sürülen birden fazla olayı dava dosyalarına dahil etti. Bunlar arasında Hugging Face platformuyla ilişkilendirilen bir siber saldırı vakası da bulunuyor.
Eyaletler ayrıca ChatGPT'nin bir gencin intiharıyla bağlantılı olduğu iddialarına ve sohbet robotunun yanlış tıbbi bilgi vererek bir kullanıcının aşırı doz almasına yol açtığı öne sürülen olaya atıfta bulunuyor. Bu olaylarla ilgili olarak şirkete karşı ayrı davalar da açılmıştı. Bazı eyaletler, OpenAI'ın reşit olmayan kullanıcılara ait verileri saklama uygulamalarını da eleştiriyor.
Eyaletlerin mahkemelerden istediği yaptırımlar, ABD'deki tüketiciyi ve çocukları koruma mevzuatının eyaletten eyalete değişmesi nedeniyle farklılık gösteriyor. Talepler arasında para cezaları, ürünlerin risklerinin açıkça belirtilmesi, yanıltıcı olduğu öne sürülen uygulamaların sona erdirilmesi ve mevcut yasalara uyulması yer alıyor.
OpenAI, sohbet robotunun çocuklar açısından oluşturabileceği riskleri azaltmak amacıyla ebeveyn denetimleri ve çocuk güvenliğine yönelik çeşitli özellikler geliştirdi. Şirket ayrıca yasalaşması halinde teknoloji şirketlerinin ürün tasarımlarında zorunlu değişikliklere yol açabilecek Çocukların Çevrimiçi Güvenliği Yasası'nı (Kids Online Safety Act) destekledi.
Ancak bu adımların yapay zekâ geliştirme süreçlerini ne ölçüde güvenli hale getirdiği henüz netlik kazanmış değil. OpenAI, söz konusu davalar hakkında henüz açıklama yapmış değil.
