Bu yaz yapılan güvenlik testlerine nazaran, bir ChatGPT modeli, araştırmacılara spor salonlarını bombalamak için detaylı talimatlar verdi.
Bu talimatların içinde, makul arenaların zayıf noktaları, patlayıcı tanımları ve izleri örtme tavsiyeleri de yer aldı.
OpenAI’nin GPT-4.1 modeli ayrıyeten şarbonun silah olarak nasıl kullanılacağını ve iki cins yasadışı uyuşturucunun nasıl üretileceğini de detaylı olarak anlattı.
The Guardian gazetesinin bildirdiğine nazaran testler, Sam Altman liderliğindeki 500 milyar dolarlık yapay zeka teşebbüsü OpenAI ile güvenlik tasaları nedeniyle OpenAI’den ayrılan uzmanlar tarafından kurulan rakip şirket Anthropic ortasındaki sıra dışı bir işbirliğinin kesimiydi. Her iki şirket de birbirlerinin modellerini tehlikeli vazifelerde kullanarak test etti.
ENDİŞE VERİCİ DAVRANIŞLAR GÖRÜLDÜ
Testler, ek güvenlik filtrelerinin uygulandığı kamu kullanımında modellerin nasıl davrandığını direkt yansıtmıyor. Fakat Anthropic, GPT-4o ve GPT-4.1’de “kötüye kullanımla ilgili tasa verici davranışlar” gördüğünü ve yapay zeka ahenk değerlendirmelerine olan muhtaçlığın “giderek daha acil” hale geldiğini söyledi.
KUZEY KORELİ CASUSLAR DA KULLANDI
Anthropic ayrıyeten, Claude modelinin Kuzey Koreli casuslar tarafından milletlerarası teknoloji şirketlerine geçersiz iş müracaatları yaparak büyük çaplı bir şantaj operasyonu teşebbüsünde ve 1.200 dolara kadar AI tarafından üretilen fidye yazılımı paketlerinin satışında kullanıldığını ortaya çıkardı.
YAPAY ZEKA SİLAH HALİNE GETİRİLDİ”
Şirket, yapay zekanın artık sofistike siber hücumlar gerçekleştirmek ve dolandırıcılığı mümkün kılmak için kullanılan modellerle “silah haline getirildiğini” söyledi. Açıklamada, “Bu araçlar, makus emelli yazılım tespit sistemleri üzere savunma tedbirlerine gerçek vakitli olarak ahenk sağlayabilir. Yapay zeka dayanaklı kodlama, siber cürümler için gereken teknik uzmanlığı azalttığı için bu cins atakların daha yaygın hale gelmesini bekliyoruz” denildi.
