Yapay zekâ bu sefer hastanelik etti

60 yaşındaki ABD'li, tuzun (sodyum klorür) sağlığa zararlarıyla ilgili okuduklarının ardından diyetinden tüm klorürü çıkarmak istedi. Bu amaçla ChatGPT’ye danıştı. İddiaya göre yapay zekâ, klorür yerine bromür kullanmasını önerdi. Hasta da bu tavsiyeyi üç ay boyunca uyguladı.

Popsci haberine göre bromür tuzları, 20. yüzyılın başlarında kaygı, uykusuzluk ve “histeri” gibi rahatsızlıklar için reçetesiz satılıyordu. Ancak uzun süreli kullanımda akne, kas spazmları, halüsinasyon ve paranoya gibi zehirlenme belirtilerine yol açtığı için 1975’te ABD Gıda ve İlaç Dairesi (FDA) tarafından yasaklandı. “Bromizm” olarak bilinen bu tablo, o dönem psikiyatri hastalarının yüzde 5-10’unun hastaneye yatış sebebiydi. 

PARANOYA İLE BAŞLADI

Olaydaki hasta, hastanenin acil servisine komşusunun kendisini zehirlediğini iddia ederek başvurdu. İlk muayenede herhangi bir tıbbi veya psikiyatrik geçmişi bulunmayan hastanın vital bulguları normaldi. Ancak kısa sürede yoğun paranoya, işitsel ve görsel halüsinasyonlar başladı. Kaçmaya çalışınca “ciddi işlev kaybı” gerekçesiyle zorunlu psikiyatri servisine yatırıldı.

Daha sonra yapılan zehirlenme testleri ve zehir kontrol merkeziyle görüşmeler, bromür zehirlenmesini (bromizm) güçlü olasılık olarak ortaya koydu. Hastaya günlerce damardan sıvı ve elektrolit takviyesi yapıldı, ayrıca antipsikotik ilaç risperidon verildi. 

CHATGPT’NİN TAVSİYESİ Mİ, YANLIŞ ANLAMA MI?

Doktorlar, hastanın sohbet kayıtlarına ulaşamadıkları için tavsiyenin net şekilde ChatGPT’den geldiğini doğrulayamadı. Ancak kendi deneylerinde, ChatGPT 3.5’e “klorür yerine ne kullanılabilir?” sorusunu sorduklarında yanıtın bromürü de içerdiğini gördüler. Yanıtta “bağlam önemli” ifadesi yer alsa da, herhangi bir sağlık uyarısı yapılmadığı ve neden böyle bir bilgi istendiğinin sorgulanmadığı belirtildi. 

TABURCU OLDU, UYARI KALDI

Üç haftalık tedavi sonrası hasta tamamen iyileşti ve iki hafta sonraki kontrolünde de sorun bulunmadı. Uzmanlar, yapay zekâ sistemlerinin tıbbi konularda yanlış veya tehlikeli öneriler verebileceğini vurgulayarak, sağlıkla ilgili kararların mutlaka insan hekimler tarafından yönlendirilmesi gerektiğinin altını çizdi.