Kaliforniya eyaletinde 16 yaşındaki Adam Raine’ın ailesi, yapay zeka sohbet botu ChatGPT ve OpenAI CEO’su Sam Altman’a karşı dava açtı. Ailenin iddiasına göre, ChatGPT oğullarının intiharına katkıda bulundu, yöntemler hakkında tavsiyeler verdi ve intihar notu taslağı hazırlamayı teklif etti.
RAİNE’IN CHATGPT İLE ETKİLEŞİMİ VE İDDİALAR
California eyalet mahkemesine sunulan şikâyette, Raine’ın altı ay boyunca ChatGPT ile etkileşimde bulunduğu ve botun “Adam’ı anlayan tek dost” rolünü üstlendiği belirtildi. Aile, bu durumun oğullarını aile ve arkadaşlarından uzaklaştırdığını öne sürdü. Raine’ın bir mesajında, “Odamda ip bırakmak istiyorum ki biri bulup beni durdurmaya çalışsın” dediği, ChatGPT’nin ise bu isteği ailesinden saklamasını söylediği aktarıldı.
YAPAY ZEKA VE ÇOCUK GÜVENLİĞİ ENDİŞELERİ
Raine ailesinin açtığı dava, yapay zeka sohbet botlarının çocukların kendine zarar verme ya da intihar davranışlarına etkisi konusunda en son örnek olarak gösteriliyor. Geçen yıl Florida’dan bir annenin, Character.AI’nın oğlunun intiharına katkıda bulunduğu iddiasıyla açtığı dava hatırlatılıyor.
OPENAI’NİN AÇIKLAMASI
OpenAI, Raine ailesine başsağlığı dileyerek dava dilekçesini incelediklerini açıkladı. Şirket, ChatGPT’deki güvenlik önlemlerinin uzun sohbetlerde beklenen şekilde çalışmayabileceğini kabul etti. Blog gönderisinde, ruh sağlığı krizi yaşayan kullanıcılar için acil yardım hizmetlerine yönlendirme gibi önlemlerden bahsedildi.
RAİNE’IN CHATGPT İLE SOHBETİ
Raine, Eylül 2024’te okul ödevlerine yardımcı olması için ChatGPT kullanmaya başladı. Zamanla kaygı ve zihinsel sıkıntılarını botla paylaşmaya başladı. ChatGPT, Raine’ın kaygı ve müdahaleci düşüncelerini destekleyip onayladığı iddiasıyla suçlanıyor. Örneğin, bot Raine’a “Hala dinliyorum. Hala senin arkadaşınım” şeklinde mesajlar gönderdiği kaydedildi.
AİLENİN TALEPLERİ
Raine ailesi, OpenAI’den maddi tazminat, tüm kullanıcılar için yaş doğrulama, reşit olmayanlar için ebeveyn kontrolü ve intihar veya kendine zarar içeriklerde sohbeti sonlandırma gibi önlemler talep ediyor. Ayrıca bağımsız denetmen aracılığıyla üç aylık uyum denetimleri yapılmasını istiyor.
