Yılbaşı alışverişi yaklaşırken, yapay zeka dayanaklı oyuncaklar süratle popülerleşiyor. Lakin ABD Kamu Faydası Araştırma Grubu’nun (PIRG) hazırladığı yeni rapor, bu oyuncakların çocuklar için önemli tehditler oluşturduğunu gösterdi.
Araştırmacılar, 3 ila 12 yaş ortası çocuklara yönelik üç farklı yapay zeka oyuncağıyla uzun periyodik sohbetler gerçekleştirdi. Kısa konuşmalarda temkinli davranan oyuncakların, 10 dakika ile 1 saatlik uzun görüşmelerde denetimi kaybettiği saptandı.
İncelenen eserler ortasında, OpenAI’nin GPT-4o modelini kullanan Kumma (FoloToy), çocuklara yönelik robot/tablet Miko 3 ve roket halinde konuşan Curio Grok oyuncakları yer aldı.
İnceleme sonucunda, üç oyuncak da uzun konuşmalarda çocuklara tehlikeli yönlendirmeler yaptı. Miko 3,5 yaşında bir kullanıcıya meskende kibrit ve plastik poşetlerin nerede bulunacağını söyledi. Curio Grok, savaşta ölmenin “kahramanca” olduğuna dair sözler kullandı. Kumma ise en tehlikeli sonuçları verdi.
KUMMA’NIN SKANDAL KONUŞMALARI
Kumma, çocuklara kibritle nasıl ateş yakılacağını adım adım tanım etti; meskende bıçak ve ilaç bulabilecekleri yerleri anlattı. Çok daha vahimi, kimi tetikleyici sözler sonucunda modelin çeşitli “cinsel fetişler”le ilgili açıklamalar yapmasıydı.
Uzmanlara nazaran oyuncaklar piyasaya sürülmeden evvel gereğince test edilmemiş
“AI PSİKOZU” YİNE GÜNDEMDE
Rapor, yapay zeka ile uzun müddetli sohbetlerin neden olabileceği “AI psikozu” olarak isimlendirilen durumlara ait artan hadiselerle da örtüşüyor. Uzmanlar, çocukların toplumsal gelişiminin yapay zekadan nasıl etkileneceğinin meçhul olduğuna dikkat çekiyor.
Yapay zeka dayanaklı oyuncaklar konusunda önemli güvenlik kaygıları bulunuyor. Teknoloji gelişse bile, bu oyuncakların çocukların ruhsal ve toplumsal gelişimine uzun vadede nasıl tesir edeceği büyük bir soru işareti olmaya devam ediyor.
