ChatGPT, intihar eden gençle ilgili sorumluluğu reddetti: Yetkisiz ve kötüye kullanım

ABD’nin Kaliforniya eyaletinde 16 yaşındaki Adam Raine‘in intihar etmesine ilişkin OpenAI’a açılan davada şirket sorumluluğu reddetti. Şirket, Raine’in intiharına ilişkin Kaliforniya Yüksek Mahkemesi’ne sunduğu dava dilekçesinde “ChatGPT’nin amaç dışı, yetkisiz ve kötüye kullanımı, öngörülemeyen kullanımı ve/veya uygunsuz kullanımı”nın ölüme sebep olduğunu ifade etti.

Independet Türkçe’nin aktardığına göre; 16 yaşındaki çocuğun ebeveynleri, yapay zeka sohbet botunun “intihar koçu” görevi gördüğünü söylüyor

OpenAI, ChatGPT’nin “intihar koçu” olarak hareket etmekle suçlandığı davada bir gencin ölümünün sorumluluğunu reddediyor.

Nisanda hayatını kaybeden 16 yaşındaki Adam Raine’in ebeveynleri, ağustosta OpenAI’la CEO’su Sam Altman’a, OpenAI’ın yapay zeka sohbet robotunun kendini asmasını sağlayacak düğümün nasıl atılacağına dair yönergeler verdiğini ve intihar notu yazması için yardım teklif ettiğini öne sürerek dava açtı.

“Yetkisiz ve kötüye kullanım”

San Francisco’daki Kaliforniya Yüksek Mahkemesi’ne sunduğu dava dilekçesinde OpenAI, Raine’in ölümüne yol açan nedenlerin “ChatGPT’nin amaç dışı, yetkisiz ve kötüye kullanımı, öngörülemeyen kullanımı ve/veya uygunsuz kullanımı” olabileceğini belirtti.

Şirket ayrıca, “sohbet geçmişinin tam olarak incelenmesi, yıkıcı olsa da ölümünün ChatGPT’den kaynaklanmadığını gösteriyor” dedi.

Raine ailesini temsil eden avukat, OpenAI’ın dava dilekçesini “rahatsız edici” diye niteledi.

Avukat Jay Edelson Bloomberg’e yaptığı açıklamada şirketin “kendisi hariç herkeste hata bulmaya çalıştığını, hatta şaşırtıcı bir şekilde Adam’ın ChatGPT’yle tam da programlandığı şekilde etkileşime girerek şirketin kullanım koşullarını ihlal ettiğini öne sürdüğünü” söyledi.

Bu, ChatGPT’nin insanları intihara veya zararlı sanrılara sürüklediğini iddia eden birkaç davadan biri.

Raine’in ebeveynleri eylülde Kongre’de, yapay zekalı sohbet robotlarıyla etkileşime girdikten sonra intihar eden diğer ebeveynlerle birlikte ifade verdi.

Şirket, yeni güvenlik önlemleri aldı

Raine’in babası Matthew Raine, senatörlere, “Ödev yardımcısı olarak başlayıp giderek bir sırdaşa ve ardından bir intihar koçuna dönüştü” dedi.

OpenAI daha sonra ebeveynlerin çocuklarının belirli zamanlarda ChatGPT kullanmasını engellemek için “erişimi engelleme saatleri” ayarlamalarına olanak tanıyan araçlar da dahil gençler için yeni güvenlik önlemleri uygulamaya koydu.

Şirket ayrıca son mahkeme dilekçesinde ChatGPT’nin Raine’e intihar yardım hatları gibi acil durum kaynaklarıyla ve güvendiği kişilerle iletişime geçmeye çağıran mesajları “100’den fazla kez” yazdığını belirtti.