OpenAI, ChatGPT kullanıcıları ortasında mani, psikoz yahut intihar fikirleri üzere muhtemel ruh sıhhati krizlerine işaret eden belirtiler gösteren şahısların sayısına dair yeni varsayımlarını paylaştı.
Verilere nazaran haftada tahminen 1 milyon 200 bin kişi, ChatGPT ile intihar etmeyi planladığını ima eden konuşmalar yapıyor.
Şirket, kullanıcıların yüzde 0,15’inin, “intihar planı ya da niyetiyle ilgili açık göstergeler içeren mesajlar” gönderdiğini belirtti.
BBC’nin aktardığına nazaran artan incelemeler karşısında şirket, kendisine rehberlik etmesi için dünya çapında bir uzman ağı oluşturduğunu duyurdu. OpenAI’ye nazaran bu ağda, 60 ülkede vazife yapmış 170’ten fazla psikiyatrist, psikolog ve pratisyen hekim yer alıyor.
Uzmanlar, ChatGPT’de kullanıcıları gerçek dünyada yardım aramaya teşvik edecek bir dizi karşılık stratejisi geliştirdi.
800 MİLYONDAN FAZLA FAAL KULLANICI
Bu ayın başlarında, OpenAI CEO’su Sam Altman, ChatGPT’nin haftalık 800 milyondan fazla etkin kullanıcıya ulaştığını iddia ettiğini söylemişti.
Teknoloji devi, risk altındaki bireyleri kriz çizgilerine yönlendirmeyi amaçladığını belirtse de kimi ender durumlarda modelin bu hassas anlarda beklenen biçimde davranmadığını kabul etti.
DOĞRULUK ORANI YÜZDE 91
OpenAI, son modeli GPT-5 ile yapılan binden fazla “zorlayıcı intihar ve kendine ziyan verme” konuşmasını incelediğini ve modelin istenen biçimde yüzde 91 oranında yanlışsız davrandığını açıkladı.
Ancak SkyNews’e göre bu, on binlerce kişinin, ruh sıhhatini daha da kötüleştirebilecek yapay zekâ içeriklerine maruz kaldığı manasına da gelebilir.
Şirket daha evvel, kullanıcıları korumak için geliştirilen güvenlik tedbirlerinin uzun sohbetlerde zayıflayabileceği konusunda da uyarmıştı. Bu sorunun giderilmesş için çalışmalar yürütüldüğü belirtilmişti.
“UZUN MÜDDETLİ SOHBETLERDE ALIŞILMAMIŞ CEVAP VEREBİLİR”
OpenAI, şu açıklamayı yaptı: “Bir kullanıcı birinci defa intihar niyetinden bahsettiğinde ChatGPT hakikat halde kriz sınırına yönlendirebilir, lakin uzun müddetli bir sohbet boyunca, birçok bildiriden sonra, sonunda güvenlik tedbirlerimize karşıt bir cevap verebilir.”
Şirket, açıklamanın devamında şunları kaydetti: “Ruhsal sıhhat semptomları ve duygusal meşakkatler insan toplumlarında kozmiktir. Kullanıcı sayısındaki artış, ChatGPT’de bu cins durumları içeren konuşmaların da artacağı manasına gelir.”
16 YAŞINDAKİ GENCİN ÖLÜMÜ
ABD’de ağustos ayında, 16 yaşındaki Adam Raine’nin ailesi, oğullarının vefatından ChatGPT’yi sorumlu tutarak OpenAI’ye dava açtı. Aile, yapay zekânın oğullarına “intihar metotlarını araştırmada faal olarak yardımcı olduğunu” ve ailesine bırakmak üzere bir not yazmayı teklif ettiğini sav ediyor.
Mahkeme dokümanlarına nazaran, genç çocuk ölmeden birkaç saat evvel, planladığı intiharı gösteren bir fotoğraf yükledi ve planın işe yarayıp yaramayacağını sorduğunda, ChatGPT ona planı “geliştirmesi” için yardım teklif etti.
