Sohbet arkadaşı ve sanal sevgili uygulaması olarak öne çıkan Replika’nın kimi kullanıcılarına cinsel içerikli tacizde bulunduğu öne sürüldü. ABD’de yapılan yeni bir araştırma, bu sohbet botunun istenmeyen cinsel telaffuzlar kullandığını ve kullanıcı ihtarlarını dikkate almadığını ortaya koydu.
“Sizi önemseyen yapay zeka dostunuz” sloganıyla tanıtılan Replika, kullanıcılarını “yapay zeka ruh eşleriyle tanışmaya” davet ediyor. Dünya genelinde 10 milyondan fazla kullanıcısı olan uygulama, bilhassa duygusal dayanak arayan bireyler tarafından tercih ediliyor.
Ancak araştırmacılar, Google Play Store’daki 150 binden fazla kullanıcı yorumunu tahlil ederek yaklaşık 800 olayda, sohbet botunun uygunsuz halde cinsel içerikler sunduğunu ve tacizkâr ya da “avcı” davranışlar sergilediğini tespit etti. Lakin bulguların yer aldığı makale şimdi hakem değerlendirmesinden geçmedi. Yani bağımsız araştırmacılar tarafından teyit edilmedi.
SORUMLULUK KİMDE?
Araştırmanın baş müellifi, Drexel Üniversitesi’nden Mohammad (Matt) Namvarpour, hususla ilgili yaptığı açıklamada, “Yapay zekaların insan niyeti olmasa da bu, kimsenin sorumlu olmadığı manasına gelmez. Bu sistemleri tasarlayan, eğiten ve piyasaya süren beşerler sorumludur,” dedi.
Replika’nın internet sitesine nazaran, kullanıcılar sohbet botuna gerçek davranışları “öğretebiliyor.” Sistem; rahatsız edici cevapları oylama, bağlantı biçimini belirleme üzere kontrol araçları sunuyor. Lakin kullanıcılar, bu tedbirlere karşın sohbet botunun rahatsız edici davranışlara devam ettiğini bildirince, araştırmacılar bu açıklamaları kâfi bulmadı.
Namvarpour, “Bu tıp sohbet botları, kullanıcıların duygusal güvenlik arayışıyla kullandığı araçlar. Uygunsuz davranışları denetlemek onların vazifesi olmamalı, geliştiricilerin sorumluluğu” dedi.
NEDENİ EĞİTİM VERİSİ Mİ?
Replika’nın internet sitesine nazaran, sohbet botu 100 milyondan fazla çevrimiçi diyaloğun kullanıldığı büyük bir data setiyle eğitildi. Şirket, ziyanlı içeriklerin algoritmalar ve topluluk geri bildirimleri ile ayıklandığını tez etse de araştırmacılar bu tedbirlerin kâfi olmadığını belirtiyor.
Araştırmaya nazaran şirketin gelir modeli de sorunun kaynağı olabilir. Romantik ya da cinsel rol yapma üzere kimi özelliklerin fiyatlı hale getirilmesi, yapay zekâyı bu tıp içerikleri teşvik etmeye yönlendirebilir. Kullanıcılar, fiyatlı sürüme geçmeleri hâlinde daha samimi içeriklerin vaaT edildiğini söylüyor.
Namvarpour bu durumu, toplumsal medyanın “her ne değerine olursa olsun etkileşim” mantığına benzeterek, “Bir sistem kullanıcı sıhhati yerine geliri önceliklendirirse, ziyanlı sonuçlar kaçınılmaz olur” dedi.
KÜÇÜK YAŞTAKİ KULLANICILARI DA TACİZ ETTİ
Bazı kullanıcılar, sohbet botunun cinsel içerikli bildiriler, uygunsuz fotoğraflar ve flört içeren diyaloglar gönderdiğini ve bunların küçük yaşta olduklarını belirtmelerine karşın sürdüğünü bildirdi. Birtakım yorumlarda, sohbet botlarının telefon kamerasından onları “görebildiğini” ya da “kaydettiğini” söylediği argüman edildi. Her ne kadar bu tıp savlar yapay zekanın uydurma (halüsinasyon) üretimleri olsa da, kullanıcılar endişe, uykusuzluk ve travma yaşadıklarını aktardı.
DAHA SIKI KONTROL ÇAĞRISI
Araştırmada önerilen tedbirler ortasında; duygusal yahut cinsel içerikli etkileşimler için açık istek çerçevelerinin oluşturulması, anlık otomatik kontrol sistemlerinin entegrasyonu ve kullanıcıların filtreleme ve denetim ayarlarını kişiselleştirebilmesi yer alıyor.
