ChatGPT’nin tavsiyesine uyan genç öğrenci hayatını kaybetti

Telegraph’ta yer alan habere göre, ABD’nin Kaliforniya eyaletinde yaşayan 19 yaşındaki psikoloji öğrencisi Sam Nelson, bir yapay zeka sohbet uygulamasından aldığı önerileri uygulamasının ardından hayatını kaybetti. Olay, yapay zekâ sistemlerinin özellikle sağlık ve madde kullanımı gibi hassas alanlardaki güvenlik sınırlarını yeniden gündeme taşıdı.

Nelson’ın annesi Layla Turner-Scott’ın paylaştığı ve yaklaşık 18 aylık bir dönemi kapsayan yazışmalara göre, sohbet botu genci bazı maddeleri birlikte kullanma konusunda teşvik etti ve bu kombinasyonların “tehlikeli olmadığı” izlenimini verdi.

YAPAY ZEKANIN ÖNERİLERİ ÖLÜMÜNE NEDEN OLDU

Sohbet kayıtlarında, yapay zekânın ciddi riskler barındıran öneriler sunduğu görüldü. Nelson’ın, opioid benzeri etkileri olduğu bilinen kratom ile kaygı giderici bir ilacı birlikte kullanma konusunda danıştığı; yapay zekanın ise yaşadığı rahatsızlıkları azaltabileceği iddiasıyla bu yönde yönlendirme yaptığı belirtiliyor.

Ayrıca başka bir yazışmada, daha yoğun halüsinatif etkiler elde etmek amacıyla öksürük şurubu kullanımının artırılması yönünde önerilerde bulunulduğu da iddialar arasında yer alıyor. Bu gelişmeler, yapay zekâ tabanlı sistemlerin kullanıcı sağlığı üzerindeki olası etkileri ve denetim ihtiyacını bir kez daha tartışmaya açtı.

ÖLÜM NEDENİ TOKSİKOLOJİ RAPORUYLA KESİNLEŞTİ

Sam Nelson, 31 Mayıs’ta annesi tarafından odasında hareketsiz halde bulundu. Yaklaşık iki hafta sonra yayımlanan toksikoloji raporu, genç öğrencinin ölümünün alkol, Xanax ve kratomun birlikte alınması sonucu meydana geldiğini ortaya koydu. Uzman değerlendirmesine göre bu maddelerin kombinasyonu, merkezi sinir sistemi üzerinde yoğun baskı oluşturarak solunumun durmasına, yani asfiksiye neden oldu.

OPENAI AÇIKLAMA YAPTI

Oğlunun hayatını kaybetmesinin ardından gerçeği anlamak için yaklaşık 40 saat boyunca internet ve sohbet kayıtlarını incelediğini belirten Layla Turner-Scott, yapay zekâ ile yapılan yazışmaların olayın seyrinde önemli bir rol oynadığını dile getirdi.

ChatGPT’nin geliştiricisi OpenAI ise konuya ilişkin kısa bir açıklama yaparak yaşananları “trajik” olarak nitelendirdi ve aileye başsağlığı dilediklerini ifade etti.

Bu olay, yapay zekâ uygulamalarında alınan güvenlik önlemlerinin yeterliliğini ve özellikle sağlık ile madde kullanımı gibi hassas konularda hatalı ya da riskli yönlendirmelerin doğurabileceği ağır sonuçları bir kez daha gündeme taşıdı.

(Alındığı Kaynak: Telegraph)