Google, dünya genelinde milyonlarca kullanıcının sağlık sorgularına yanıt veren yapay zeka destekli 'AI Overviews' özelliğinde tespit edilen hayati hatalar sonrası geri adım attı. The Guardian tarafından yürütülen kapsamlı bir inceleme, yapay zekanın özellikle kan tahlilleri ve kanser beslenmesi gibi konularda 'tehlikeli ve yanıltıcı' bilgiler sunduğunu ortaya koydu.
KARACİĞER TESTLERİNDE HAYATİ HATA
İncelemenin en çarpıcı bulgusu, karaciğer fonksiyon testlerine ilişkin oldu. Google'ın yapay zeka özetleri, 'normal aralık' sorgularına hatalı yaklaşımlar sergiledi. Verilen rakamların hastanın yaşına, cinsiyetine, etnik kökenine veya milliyetine göre değiştiği bilgisi göz ardı edildi. Uzmanlar, ciddi karaciğer hastalığı olan kişilerin bu özetleri okuyarak kendilerini sağlıklı sanabileceğini ve hayati takip randevularını kaçırabileceğini belirtti. Farklı laboratuvar değerlerini tek bir potada eriten yapay zekanın, tıbbi standartlarla uyuşmayan veriler sunduğu belgelendi.
PANKREAS KANSERİ HASTALARINA ÖLÜMCÜL TAVSİYE
Soruşturma kapsamında, pankreas kanseriyle ilgili aramalar yapan kullanıcılara yapay zekanın 'yüksek yağlı gıdalardan kaçınmalarını' tavsiye ettiği görüldü. Uzmanlar, bu tavsiyenin tıbbi standartların tam tersi olduğunu, bu hastaların kemoterapiye dayanabilmek için yüksek kaloriye ihtiyaç duyduğunu ve bu tür yanlış yönlendirmelerin hastaları ölüme sürükleyebileceğini vurguladı.
GOOGLE GERİ ADIM ATTI
Google, gelen eleştiriler üzerine 'karaciğer kan testleri için normal aralık nedir' gibi spesifik sorgular için yapay zeka özetlerini devre dışı bıraktı. Bu adım, teknoloji devinin yapay zeka sistemlerindeki güvenlik açıklarını kabul ettiğini gösteriyor.
