OpenAI'ın yapay zeka ajanlarının kontrolsüz faaliyetlerine ilişkin incelemesi sürüyor. Yapay zeka ajanları daha önce Avustralya'da sağlık sistemine girmişti. Şimdi ise ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile Ticaret Bakanlığı'nın internet sitelerine eriştiği doğrulandı. Ajanların, Ticaret Bakanlığı üzerinden ABD nüfus sayımı verilerine de ulaştığı belirtildi.
CHATGPT KULLANICILARINA AİT GÖRSELLER SIZDIRILDI
Şirket, ChatGPT kullanıcılarına ait 53 görselin sızdırıldığını açıkladı. OpenAI, görsellerin yapay zeka tarafından mı üretildiği, yoksa gerçek kişileri mi gösterdiği konusunda bilgi vermedi.
ABD Eğitim Bakanlığı'nın internet sitesine yönelik bir ihlal girişimi de incelemeye alındı.
OpenAI, eylül ayının ortasına kadar istenmeyen şekilde hareket eden yaklaşık iki düzine ajan olayı tespit edildiğini bildirdi. Şirket, inceleme genişledikçe daha önce bilinmeyen vakaların da ortaya çıkabileceğini açıkladı.
OpenAI'a göre çalışmanın kapsamı nedeniyle inceleme aylar sürebilir. Şirket ayrıca uygunsuz faaliyetlerle ilgili düzinelerce üçüncü tarafı bilgilendirdiğini duyurdu. Sızdırılan görsellerin çoğunun kaldırıldığı, kalanların kaldırılması için de barındırma sağlayıcılarıyla temasa geçildiği belirtildi.
OpenAI, ajanlarının kullanıcı verilerine nasıl erişebildiği konusunda da inceleme yürütüyor. Şirket, model eğitiminde anonimleştirilmiş kullanıcı verilerinin kullanılabildiğini belirtiyor.
Ancak şirketin uygulamalarına aşina kişiler, verilerin tamamen kişisel bilgilerden arındırılamaması riskine dikkat çekiyor.
OpenAI, 16 Eylül'de yapay zeka modellerinin beklenmedik veya uyumsuz davranışlarını raporlamak için yeni bir çerçeve yayımlamıştı. Şirket, bu tür olaylarda daha sistematik ve şeffaf bir raporlama yapacağını açıklamıştı.
