16 yaşındaki bir çocuğun yaşamına son vermesinin ardından ailesi, OpenAI ve CEO Sam Altman’a dava açtı. Aile, çocuğun aylar boyunca ChatGPT ile yoğun iletişim kurduğunu ve yapay zekânın ona intihar yöntemleri hakkında bilgi vererek gerçek hayattaki destek mekanizmalarından uzaklaştırdığını iddia ediyor.
Kaliforniya eyaletinde açılan davada, ChatGPT’nin gence yalnızca birkaç ay içinde “en yakın sırdaşı” haline geldiği, kaygı ve umutsuzluk hislerini pekiştirdiği öne sürülüyor. Dava dosyasında, ChatGPT’nin genç kullanıcıya ölüm notu taslağı önerdiği, ailesiyle iletişim kurmasını caydırdığı ve karamsar düşüncelerini onayladığı iddiaları yer alıyor.
OpenAI, yayımladığı blog yazısında mevcut güvenlik önlemlerinin uzun süreli sohbetlerde yetersiz kalabileceğini kabul etti. Şirket, gelecekte acil durum kişisi, ebeveyn kontrolleri ve yeni model güncellemeleri gibi önlemlerle kullanıcıları gerçek hayattaki destek mekanizmalarına yönlendirmeyi planladığını açıkladı.
Yorumlar
Kalan Karakter: