Sağlık Hatalarına Dikkat! Google'ın Yapay Zeka Destekli 'AI Overviews' Uyarı Verdi

Google, dünya genelinde milyonlarca kullanıcının sağlık sorgularına yanıt veren yapay zeka destekli 'AI Overviews' özelliğinde tespit edilen hayati hatalar sonrası geri adım attı. The Guardian tarafından yapılan kapsamlı inceleme, yapay zekanın özellikle kan tahlilleri ve kanser beslenmesi gibi kritik konularda yanıltıcı ve tehlikeli bilgiler sunduğunu ortaya koydu. Uzmanlar, bu hataların hastaların sağlık durumunu yanlış değerlendirmesine neden olabileceğine dikkat çekiyor.

İncelemenin en dikkat çekici bölümlerinden biri, karaciğer fonksiyon testlerine ilişkin oldu. Google’ın yapay zeka özetleri, 'normal aralık' sorgularında ciddi hatalar yaptı. Verilen rakamların hastanın yaş, cinsiyet veya etnik kökene göre değiştiği bilgisi gözardı edildi. Uzmanlar, bu yanlış bilgilerin ciddi karaciğer hastalıkları olan kişilerin kendilerini sağlıklı sanarak hayati takiplerini ihmal edebileceğine işaret ediyor. Yapay zekanın tıbbi standartlarla uyumsuz ve tek bir parametrik sonucu dikkate almadan tek bir genel değerlendirme sunduğu belgelendi.

Bir diğer önemli sorun ise pankreas kanseri hastalarına yönelik yanlış tavsiyelerde oldu. Yapay zeka, arama yapan kullanıcılara yüksek yağlı gıdalardan kaçınmalarını önerdi. Uzmanlar, bu tavsiyenin tıbbi gerçeklerle tamamen çeliştiğini belirtiyor. Pankreas kanseri hastalarının kemoterapiye dayanabilmek için yüksek kalorili diyetlere ihtiyaç duyduğunu vurgulayan uzmanlar, yanlış bilgiye dayanarak bu hastaları risk altına sokan önerilerin ciddi sonuçlar doğurabileceğini söylüyor.

Gelen tepkiler üzerine Google, bu sorunların üzerine gitmek amacıyla özellikle karaciğer testleriyle alakalı 'normal aralık nedir' gibi spesifik sorgular için yapay zeka özetlerini devre dışı bıraktı. Kullanıcıların sağlık verilerini doğru ve güvenilir şekilde alabilmesi için çalışmalar devam ediyor.