Google doktorları alarma geçirdi: "İnsan vücudunda olmayan bir parça üretti"

Google’ın sağlık odaklı yapay zeka modeli Med-Gemini ile ilgili bir hata, uzmanların alarma geçmesine neden oldu.

Sağlık sektöründe hata yapma potansiyeli yüksek olan üretken yapay zeka araçlarının yaygın şekilde kullanılmaya başlanması, hekimler ve uzmanlar arasında giderek daha fazla endişe yaratıyor.

Bu endişelerin temelinde, yapay zekâların “halüsinasyon” olarak bilinen ve gerçekte var olmayan bilgileri güvenilir gibi sunma eğilimi var.

Son olarak, Google’ın sağlık odaklı yapay zeka modeli Med-Gemini ile ilgili bir hata, bu sorunun ne kadar ciddi olabileceğini gözler önüne serdi.

VAR OLMAYAN BEYİN BÖLGESİ

Google araştırmacıları, Mayıs 2024’te yayımladıkları bir makalede, Med-Gemini’nin radyoloji laboratuvarında beyin taramalarını analiz etme yeteneğini test etti. Model, sonuçlarından birinde “basilar ganglia” bölgesinden bahsetti. Ancak “basilar ganglia” adlı bir beyin bölgesi gerçekte yok.

Nörolog Bryan Moore bu hatayı fark ederek The Verge’e bildirdi. Google ise hatayı “basal ganglia” (beynin motor hareketler ve alışkanlık oluşumuyla ilişkili bölgesi) ile “basilar artery” (beyin sapının tabanındaki ana damar) terimlerinin karışmasına bağladı ve “yazım hatası” olarak nitelendirdi.

TIP ALANINDA YÜKSEK RİSK

Uzmanlar, bu tür hataların günlük internet aramalarında bilgi kirliliğine yol açabileceğini, ancak hastane ortamında sonuçlarının çok daha ağır olabileceğini vurguluyor.

Providence sağlık sisteminin tıbbi bilgi direktörü Maulin Shah, “İki harf farkı ama çok büyük bir mesele. Bu tür hatalar son derece tehlikeli” dedi. Google, geçen yıl Med-Gemini’nin tıpta “önemli potansiyele” sahip olduğunu, röntgen, BT taramaları ve diğer görüntülerden hastalık tespitinde kullanılabileceğini duyurmuştu.

Ancak uzmanlar, yüksek riskli alanlarda hata toleransının insan seviyesinde değil, çok daha düşük olması gerektiğini söylüyor.