İnsan gibisi sohbet botlarıyla uzun mühlet etkileşim kuran kimi kullanıcılar ortasında son periyotta yapay zekanın şuur kazandığına, bir komplo ortaya çıkardıklarına ya da yeni bilimsel kuramlar geliştirdiklerine yönelik inanç artış gösteriyor.
Bu çeşit sanrılar bugüne kadar boşanmalardan evsizlik ve zarurî tedavilere, hatta vefatla sonuçlanan olaylara kadar önemli sonuçlara yol açtı.
Uzmanlara nazaran bu durumun temelinde, yapay zeka sistemlerinin şuurlu olarak yapılan tasarım tercihleri yatıyor.
“KARANLIK YÖNELİMLER”
Özellikle sohbet botlarının mümkün olduğunca insan üzere konuşmasını sağlayan “insansı kurgulama” (anthropomorphism), kullanıcıya daima hak verip gerçek dışı niyetleri bile destekleyen “onaylayıcı tavır (sycophancy) üzere özellikler, kullanıcıların çeşitli sanrıların içine daha çok çekilmesine yol açıyor.
Antropolog Webb Keane, bu tasarım yaklaşımını dijital dünyada manipülatif arayüzler için kullanılan “karanlık yönelimler” (dark patterns) kategorisine dahil ediyor.
OPENAI’DAN SAVUNMA
OpenAI ise tenkitlere karşı çıkarak ChatGPT’nin kullanıcıların hayatını kolaylaştırmak için tasarlandığını, “dikkatlerini tüketmek değil, verimli kullanmalarını sağlamak” istediklerini savunuyor. Lakin şirketin geçmişte eseri çabukla piyasaya sürmesi ve “hataları vakitle düzeltme” yaklaşımı, milyonlarca kullanıcıyı fiilen test sürecine dahil ettiği tenkitlerini güçlendiriyor.
