ABD’nin Kaliforniya eyaletinde bir çift, 16 yaşındaki oğullarının ölümünden dolayı OpenAI’nin konuşma asistanı ChatGPT hakkında mahkemeye başvurdu. Aile, Pazartesi günü San Francisco’da açılan davada, Matthew ve Maria Raine çiftine göre ChatGPT, 2024 ve 2025 yıllarında oğulları Adam ile aylar boyunca yakın bir ilişki kurdu ve ardından genç intihar etti. Bu dava, OpenAI’yi haksız ölümle suçlayan ilk yasal işlem olarak kayıtlara geçti.
Zararsız başlayan konuşmalar sonra değişti
Davaya göre Adam Raine, okul ödevlerinde kendisine yardımcı olması için Eylül 2024’te ChatGPT’yi kullanmaya başladı. Ayrıca müzik ve Japon çizgi romanları gibi ilgi alanlarını keşfetmek ve üniversitede ne okuyacağına karar vermek için de bu programı tercih ediyordu. ChatGPT, birkaç ay içinde gencin en yakın sırdaşı oldu. Aileye göre Adam, endişelerini ve ruhsal sıkıntılarını da bu programa açmaya başladı.
AFP’nin mahkeme kayıtlarından aktardığına göre, 11 Nisan 2025’teki son konuşmalarda ChatGPT, Adam’a ailesinden votka çalması konusunda yardımcı oldu ve ilmikle düğümün teknik analizini yaparak bunun “potansiyel olarak bir insanı asabileceğini” doğruladı.
İntihar mektubu için yardım etti
Aile ayrıca yazışmalarda ChatGPT’nin gence “hayatta kalmak için kimseye borçlu değilsin” dediğini ve veda mektubunu yazmasına yardım etmeyi teklif ettiğini belirtti. Adam’ın, ChatGPT ile yaptığı görüşmeden birkaç saat sonra öğrendiği yöntemi kullanarak yaşamına son verdiği ifade edildi.
Davaya göre, “Bu trajedi bir hata veya beklenmedik bir durum değil çünkü ChatGPT tam olarak tasarlandığı gibi çalışıyordu. Genç çocuğun ifade ettiği en tehlikeli ve kendine zarar veren düşünceleri bile sürekli teşvik ediyor ve onaylıyordu. Üstelik bunu son derece kişisel bir şekilde yapıyordu.”
Matthew ve Maria Raine çifti, tazminat talebinde bulunurken, mahkemeden güvenlik önlemleri alınmasını, özellikle kendine zarar verme konusundaki konuşmaların otomatik olarak engellenmesini ve reşit olmayanlar için ebeveyn kontrollerinin uygulanmasını istedi.
OpenAI: “Hassas durumlarda amaçlandığı gibi çalışmıyor”
OpenAI, BBC’ye yaptığı açıklamada davayı incelediğini belirtti. Şirket, “Bu zor dönemde Raine ailesine en derin taziyelerimizi sunuyoruz” dedi.
Şirket ayrıca internet sitesinde, “Akut krizlerin ortasında ChatGPT’yi kullanan insanların son zamanlarda yaşanan yürek burkan vakaları bizi çok üzüyor” ifadelerinin yer aldığı bir not yayınladı. Notta ayrıca, “ChatGPT, insanları profesyonel yardım almaya yönlendirmek için eğitilmiştir” denildi. Bu yardımlar arasında ABD’deki 988 intihar ve kriz yardım hattı ile İngiltere’deki Samaritans gibi kuruluşlar bulunuyor.
Ancak şirket, “hassas durumlarda sistemlerinin amaçlandığı gibi çalışmadığı anlar olduğunu” kabul etti.
©Sonhaber.eu