OpenAI firmasının geliştirdiği sohbet botu ChatGPT’nin artık sıhhat ve hukukla ilgili sorulara karşılık vermeyeceği tarafındaki argümanların akabinde şirketten açıklama geldi.
Şirket bu tezleri yalanlayarak, ChatGPT’nin sıhhat ve hukuk tavsiyesiyle ilgili kullanım siyasetinde değişiklik olmadığını duyurdu.
OpenAI’ın sıhhat alanındaki yapay zeka çalışmalarından sorumlu yöneticisi Karan Singhal, X (eski ismiyle Twitter) platformunda yaptığı açıklamada, “Bu tezler yanlışsız değil” dedi.
Singhal, “ChatGPT hiçbir vakit profesyonellerin verdiği tavsiyelerin yerine geçmedi, lakin kullanıcıların hukuk ve sıhhat bahislerini daha güzel anlamalarına yardımcı olmaya devam edecek” sözlerini kullandı.
Singhal’in açıklaması, bahis platformu Kalshi’nin artık ChatGPT’nin “sağlık yahut hukuk tavsiyesi vermeyeceğini” öne süren ve sonradan silinen bir paylaşımına cevap olarak geldi.
OpenAI yöneticisi, ChatGPT’nin kullanım koşullarında hukuk ve tıbbi danışmanlıkla ilgili sözlerin “yeni bir değişiklik olmadığını” vurguladı.
GÜNCELLENEN POLİTİKALAR
Şirketin 29 Ekim’de güncellenen yeni kullanım siyaseti, ChatGPT’nin hangi gayelerle kullanılamayacağını ortaya koyuyor.
Bunlardan biri, “lisans gerektiren özel tavsiyelerin (örneğin hukuk yahut tıp alanında) lisanslı bir uzmanın uygun halde dahil edilmeden verilmesi.”
Bu unsur, OpenAI’ın evvelki ChatGPT siyasetiyle büyük ölçüde birebir.
Eski siyasette da kullanıcıların “nitelikli bir uzmanın incelemesi olmadan ve mümkün sınırlamalarının açıklanmadığı durumlarda bireye özel hukuk, sıhhat yahut finansal tavsiyelerde bulunmaması” isteniyordu.
OpenAI daha evvel üç farklı siyaset dokümanına (evrensel, ChatGPT ve API için başka kurallar) sahipti. Yeni güncelleme ile şirket, tüm eser ve hizmetleri kapsayan tek bir birleşik siyaset listesine geçti.
YAPAY ZEKADA RUH SIHHATİ KRİZİ
Tüm bu tartışmalar yapay zeka kullanımının ruh sıhhati krizini derinleştirdiği tarafındaki araştırmaların akabinde başladı.
Uzmanların “yapay zeka psikozu” ismini verdiği bir sıhhat krizinden kelam ediliyor.
Kullanıcıların ChatGPT ve gibisi yapay zeka araçlarıyla etkileşim sonucu ağır ruhsal çöküntülere girdiği hadiseler görülmüştü. En berbat senaryolarda bu durum intiharlarla sonuçlanmıştı. Hatta kimi ebeveynler, çocuklarının vefatında hissesi olduğu teziyle OpenAI’a dava açmıştı.
Sam Altman liderliğindeki şirket, geçen hafta yaptığı açıklamada, etkin ChatGPT kullanıcılarının değerli bir kısmında “psikoz ve maniyle bağlı mümkün akıl sıhhati krizlerinin işaretleri” tespit edildiğini bildirmişti.
Daha da geniş bir kullanıcı kümesinin ise “intihar planı ya da niyetine dair açık göstergeler içeren konuşmalar yaptığı” belirlenmişti.
Öte yandan New York Times’ta yayımlanan bir makalesinde, eski OpenAI güvenlik araştırmacısı Steven Adler, şirketin bu meseleleri hafifletmek için gereğince gayret göstermediğini, bilakis “rekabet baskısına” boyun eğerek yapay zeka güvenliğine odaklanmaktan vazgeçtiğini savunmuştu.
