Kanadalı müzisyen Ashley MacIsaac, Google'ın yapay zeka özet özelliğinin (AI Overview) sebep olduğu ciddi bir hata nedeniyle itibarının zedelendiğini ve bir konserinin iptal edildiğini bildirdi. Yapay zeka, MacIsaac'i doğu Kanada'da yaşayan ve 'cinsel saldırı' ile 'internet üzerinden çocukları kandırma' gibi suçlardan hüküm giymiş başka bir kişiyle karıştırdı.
ŞOK EDEN YANLIŞLIK KONSERE MAL OLDU
Olay, MacIsaac'in Nova Scotia'daki Sipekne’katik First Nation topluluğundaki sahne performansına hazırlandığı sırada meydana geldi. Organizasyon yetkilileri, Google'da karşılaştıkları bu yanlış ve karalayıcı bilgiler nedeniyle konseri son anda iptal etmek zorunda kaldı. Yapılan incelemeler sonucunda, organizatörlerin Google'ın AI Overview bölümündeki bu hatalı ve bağlam dışı bilgileri temel aldığı ortaya çıktı.
YAPAY ZEKA ANALİZİ RİSK TAŞIYOR
Uzmanlar, yapay zekanın bilgiyi sadece listelemek yerine kendi anlatısını oluşturmasının ciddi riskler barındırdığına dikkat çekiyor. McMaster Üniversitesi'nden Dr. Clifton van der Linden, arama motorlarının artık sadece bilgiye yönlendiren araçlar olmaktan çıkıp, hikaye anlatıcılarına dönüştüğünü ve bunun ciddi yanlış anlaşılmalara yol açabileceğini belirtti. Google'ın AI Overview sistemi, arama sonuçlarından topladığı verilerle her aramada yeni metinler üretiyor. Bu durum, benzer isimler, eksik bağlam veya hatalı kaynaklar nedeniyle ciddi kimliklendirme hatalarına neden olabiliyor.
MACISAAC ENDİŞELİ: FIRSAT KAYBI VE GÜVENLİK RİSKİ
Ashley MacIsaac, Google'da kendisi hakkında arama yapan diğer kişilerin de aynı yanlış bilgilere maruz kalmasından endişe duyduğunu ifade etti. Müzisyen, bu durumun yeni iş fırsatlarının kaçırılmasına, hakkında düşmanlık beslenmesine ve hatta fiziksel güvenlik risklerine yol açabileceğini dile getirdi. Google'dan yapılan açıklamada ise, AI Overview sonuçlarının dinamik olarak güncellendiği ve hata tespit edildiğinde sistemlerin iyileştirildiği belirtildi. Gazete, Google'ın MacIsaac ile ilgili arama sonuçlarını sonradan düzelttiğini aktardı. Sipekne’katik First Nation topluluğu temsilcileri de MacIsaac'e ulaşarak yaşanan bu hatadan dolayı derin üzüntü duyduklarını belirttiler ve müzisyenin ileride tekrar sahne alabileceği bildirildi.
