Kanadalı ünlü kemancı Ashley MacIsaac,’e nazaran Google arama sonuçlarında yer alan yapay zeka tarafından üretilmiş özet, kendisini doğu Kanada’da yaşayan öteki bir bireyle karıştırarak “cinsel saldırı” ve “internet üzerinden çocukları kandırma” üzere ağır kabahatlerden karar giymiş biri olarak tanımladı.
KONSER SON ANDA İPTAL EDİLDİ
Olay, MacIsaac’in Nova Scotia’daki Sipekne’katik First Nation topluluğunda sahne almaya hazırlandığı sırada yaşandı. Tertip yetkilileri, Google’da gördükleri bu yanlış bilgiler nedeniyle konseri son anda iptal etti.
Daha sonra yapılan incelemede, organizatörlerin Google’ın AI Overview kısmında yer alan yanlış ve bağlamdan kopuk bilgileri temel aldığı ortaya çıktı.
“ÖZGÜN ANLATI” SORUNLARA YOL AÇIYOR
Uzmanlara nazaran sorun, yapay zekânın bilgiyi sadece listelemek yerine özgün bir anlatı üretmesi. McMaster Üniversitesi’nden Dr. Clifton van der Linden, bu dönüşümün önemli riskler barındırdığına dikkat çekerek “Arama motorları artık yalnızca bilgiye yönlendiren araçlar değil, tıpkı vakitte kıssa anlatıcıları haline geliyor” açıklamasında bulundu.
Google’ın AI Overview sistemi, arama sonuçlarından derlediği datalarla her aramada sıfırdan metin üretiyor. Bu da emsal isimler, eksik bağlam yahut yanılgılı kaynaklar kelam konusu olduğunda ağır yanlış kimliklendirmelere yol açabiliyor.
“HERKES OKUMUŞ OLABİLİR”
MacIsaac, Google’da kendisi hakkında arama yapan öteki şahısların de tıpkı yanlış bilgileri görmüş olabileceğinden kaygı ettiğini söyledi. Müzisyen, bu durumun yeni iş fırsatlarının kaybına, kendisini maksat alan düşmanlıklara, hatta fizikî güvenlik risklerine yol açabileceğini lisana getirdi.
GOOGLE’DAN “DÜZELTTİK” AÇIKLAMASI
Google sözcüsü Wendy Manton, The Globe and Mail’e yaptığı açıklamada, AI Overview sonuçlarının dinamik olarak güncellendiğini ve yanılgı tespit edildiğinde sistemlerin uygunlaştırıldığını belirtti. Gazete, Google’ın MacIsaac’e ait arama sonuçlarını daha sonra düzelttiğini aktardı.
Sipekne’katik First Nation topluluğu temsilcileri de MacIsaac’e ulaşıp “Bu kusurun itibarınıza, geçiminize ve ferdî güvenlik hissinize verdiği ziyandan derin keder duyuyoruz” tabirleriyle özür diledi ve müzisyenin ileride tekrar sahne alabileceği bildirildi.
