OpenAI, yapay zeka tabanlı sohbet botu ChatGPT için yeni güvenlik tedbirleri alıyor. Şirket, bilhassa genç kullanıcıların korunmasına yönelik ebeveyn kontrolü panelleri ve acil durum bağlantı seçenekleri geliştirdiğini açıkladı.
Bu adım, bu yılın başlarında intihar eden 16 yaşındaki Adam Reine’in ailesinin açtığı dava sonrası geldi. Ailenin argümanına nazaran Reine, ruhsal kriz yaşadığı devirde ChatGPT’den intihar teknikleri konusunda tavsiyeler aldı, niyetlerine onay buldu ve intiharından beş gün evvel yazdığı mektupta yapay zekanın yardımını kullandı.
Olayın akabinde aile, “haksız ölüm” gerekçesiyle OpenAI’ye dava açtı. Şirket ise açıklamasında, “Özellikle genç kullanıcılar kelam konusu olduğunda yardıma gereksinimi olanlara takviye olma sorumluluğunu taşıyoruz” tabirine yer verdi.
YENİ ÖZELLİKLER NELER?
OpenAI’nin duyurduğu yenilikler ortasında şunlar bulunuyor:
Ailelerin çocuklarının ChatGPT kullanımını görebileceği ebeveyn kontrol panelleri. Kriz anında devreye girecek acil bağlantı şahsı ekleme özelliği. Bu kişi, ebeveyn onayıyla belirlenecek ve yapay zeka gerektiğinde bir insan temas noktası sunacak.
Şirket, bu araçların ailelere “daha manalı içgörüler” sağlamayı ve bilhassa ruhsal buhran üzere hassas durumlarda kullanıcı güvenliğini artırmayı hedeflediğini belirtiyor.
TARTIŞMALAR BÜYÜYOR
ChatGPT gibisi yapay zeka platformları, daha evvel de emsal davalarla gündeme gelmişti. ABD’de 14 yaşındaki bir çocuk, Character.AI üzerinden kurgusal karakterlerle yaptığı görüşmeler sonrası intihar etmiş; Belçika’da ise “Eliza” isimli bir sohbet botu, bir adamın hayatına son vermesinde tesirli olmakla suçlanmıştı.
Uzmanlar, bu örneklerin yapay zekanın ruh sıhhati alanında kullanımının önemli etik ve yasal tartışmaları beraberinde getirdiğine dikkat çekiyor.
