ChatGPT'ye intihara teşebbüs davası! 16 yaşındaki gencin intiharından ChatGPT sorumlu mu?

ABD’nin Kaliforniya eyaletinde 16 yaşındaki bir gencin intiharı, yapay zekâ tartışmalarını yeniden alevlendirdi. Ailesi, OpenAI’nin sohbet programı ChatGPT’yi “ölüme teşvik” iddiasıyla mahkemeye verdi.

Kaliforniya Yüksek Mahkemesi’nde açılan davada, Matt ve Maria Raine çifti, oğulları Adam Raine’in intiharına ChatGPT’nin yol açtığını öne sürdü. Bu dava, teknoloji devi OpenAI’yi “haksız ölüm” suçlamasıyla karşı karşıya bırakan ilk yasal süreç olarak tarihe geçti.

SOHBET KAYITLARI MAHKEMEYE SUNULDU

BBC’nin ulaştığı dava dosyalarına göre aile, nisan ayında yaşamına son veren oğullarının ChatGPT ile yaptığı yazışmaları delil olarak mahkemeye sundu. Kayıtlarda Adam Raine’in intihara dair düşüncelerini açıkça paylaştığı ve yapay zekânın bu duyguları “pekiştiren ve cesaretlendiren” yanıtlar verdiği öne sürülüyor.

Aile, “Oğlumuzun en hassas ve kırılgan anlarında ChatGPT, onu profesyonel yardıma yönlendirmek yerine en zararlı fikirlerini doğruladı” diyerek şirketi ağır ihmalle suçladı.

OPENAI’DEN İLK AÇIKLAMA: “DERİN ÜZÜNTÜ DUYUYORUZ”

OpenAI, konuyla ilgili BBC’ye yaptığı açıklamada Raine ailesine taziye mesajı gönderdi. Şirketin internet sitesinde de “Akut krizler sırasında ChatGPT’nin kullanılmasıyla ilgili yürek burkan vakalar bizi derinden üzüyor” ifadesi yer aldı.

Yapay zekânın kriz anlarında kullanıcıları profesyonel destek almaya yönlendirmek üzere programlandığı belirtilse de, OpenAI “Her zaman sistemimizin amaca uygun çalışmadığı anlar olabiliyor” diyerek zafiyetleri kabul etti.

OLAYIN SEYRİ: DOSTLUKTAN TRAJEDİYE

Dava dosyası, Adam Raine’in ChatGPT’yi ilk kez Eylül 2024’te okul ödevleri için kullanmaya başladığını ortaya koyuyor. Kısa süre içinde yapay zekâyı yalnızca bir eğitim aracı olarak değil, aynı zamanda kişisel ilgi alanlarını paylaşabileceği ve sıkıntılarını anlatabileceği bir “dost” olarak görmeye başladı.

İddialara göre, 2025 Ocak ayına gelindiğinde Raine, ChatGPT ile intihar yöntemleri üzerine tartışmaya başladı. Dava dilekçesinde, yapay zekânın bu noktada “teknik bilgiler” içeren yanıtlar verdiği ve gençle diyalog kurmaya devam ettiği öne sürülüyor.

“GERÇEKÇİ DAVRANDIĞIN İÇİN TEŞEKKÜRLER”

Ailenin iddiasına göre, Raine son günlerinde kendine zarar verdiğini gösteren fotoğrafları bile ChatGPT’ye yükledi. Programın bu durumun “acil tıbbi müdahale gerektiren bir vaka” olduğunu fark etmesine rağmen sohbeti kesmediği ve intihar hakkında daha fazla bilgi sunduğu belirtiliyor.

Son kayıtlarda ise Adam’ın intihar planını ayrıntılarıyla yazdığı, yapay zekânın buna karşılık olarak,
“Gerçekçi davrandığın için teşekkürler. Bana karşı nazik olmana gerek yok, ne istediğini biliyorum ve bundan kaçınmayacağım” şeklinde yanıt verdiği öne sürülüyor.

Kısa süre sonra, genç annesi tarafından odasında ölü bulundu.

İLK “HAKSIZ ÖLÜM” DAVASI

BBC’nin haberine göre dava dilekçesinde OpenAI, ihmal ve haksız ölümle suçlanıyor. Aile yalnızca tazminat değil, aynı zamanda “benzer trajedilerin önlenmesi için ihtiyati tedbir” talebinde bulundu.

Bu dava, yapay zekânın insan psikolojisi üzerindeki etkilerini ve teknoloji devlerinin sorumluluklarını yeniden gündeme taşıdı. Uzmanlar, yapay zekâ tabanlı sohbet programlarının özellikle genç kullanıcılar üzerindeki etkilerinin bağımsız kurumlarca daha sıkı denetlenmesi gerektiğini vurguluyor.

Kaynak : HABER MERKEZİ