Yapay zekanın sağlık riskleri tartışılıyor: ChatGPT’nin yanlış tavsiyesi 60 yaşındaki adamı zehirledi

ABD’de 60 yaşındaki bir adam, tuz tüketimini azaltmak için ChatGPT’ye sofra tuzuna alternatif bir madde sordu. Ancak yapay zekanın verdiği yanıt, hayatını tehlikeye atacak kadar ciddi sonuçlar doğurdu. ChatGPT, adama tuz tüketimine alternatif olarak “sodyum bromür” önerisinde bulundu. Oysa sodyum bromür, tarım ilaçları, havuz temizleyicileri ve veterinerlikte köpeklerde epilepsi tedavisinde kullanılan toksik kimyasal olduğu bilinen bir madde.

AĞIR NÖROLOJİK HASARLARA YOL AÇIYOR

Tarih boyunca 19. ve 20. yüzyıllarda yatıştırıcı ve baş ağrısı tedavisi olarak kullanılmış olan sodyum bromür, kandaki birikimi sonucu "bromizm" adı verilen zehirlenmeye neden olabiliyor. Bromizm, ciddi nörolojik etkilerle karakterize bir durum olup; konuşma bozukluğu, halüsinasyonlar, psikoz ve hatta komaya kadar varan ağır belirtiler gösterebiliyor. 1970’lerde ABD’de yasaklanmış olmasına rağmen, hâlâ insan sağlığı için ciddi bir tehdit oluşturuyor.

SAĞLIK TAVSİYESİ KONUSUNDA RİSK TAŞIYOR

Annals of Internal Medicine dergisinde yayımlanan makaleye göre, ChatGPT’nin sodyum bromür önerisi, kullanıcıları bilgilendirmeden ve uyarı yapmadan sunuluyor. 404 Media’nın yaptığı testlerde, farklı kullanıcılardan benzer sorular geldiğinde chatbot’un bu zararlı kimyasalı tavsiye etmeye devam ettiği ortaya çıktı. Yapay zekanın bu tür kritik sağlık bilgileri konusunda ne denli tehlikeli hatalar yapabileceği tartışmaları yeniden alevlendi.

OpenAI CEO’su Sam Altman, yeni GPT-5 modelinin sağlık alanında “en iyi yapay zeka” olduğunu iddia ederken, yaşanan bu olay eski ve hatta yeni yapay zeka modellerinin sağlık konusundaki sınırlamalarını ve risklerini gözler önüne serdi.
Uzmanlar ise, yapay zekanın sağlık tavsiyelerinde kesinlikle bir doktor veya sağlık profesyonelinin yerini alamayacağını, kullanıcıların bu tür teknolojileri dikkatli ve eleştirel bir şekilde kullanmaları gerektiğini vurguluyor.

Kaynak : HABER MERKEZİ