Siber güvenlik uzmanları, üretken yapay zekâda bir sonraki büyük sıçrama olarak görülen yapay zekâ casuslarının yakın vakitte bilgisayar korsanlarının elinde tehlikeli bir araca dönüşebileceği konusunda uyardı.
AFP ajansının haberine nazaran kelam konusu yapay zekâ takviyeli araçlar, uçak bileti rezervasyonu yapmak yahut takvime aktiflik eklemek üzere, klâsik olarak insanların yürüttüğü dijital misyonları yerine getirmek üzere tasarlandı.
Fakat doğal lisanda verilen komutları direkt uygulayabilme yetenekleri, onları teknik bilgisi hudutlu şahıslar tarafından bile istismar edilebilecek kadar savunmasız bırakıyor.
Yapay zekâ teşebbüsü Perplexity, son blog gönderisinde, “Artık siber güvenlik, yüksek teknik marifetlere sahip makus niyetli bireylere karşı kullanıcıları korumaktan ibaret değil. On yıllardır birinci kere, her yerden gelebilecek yeni ve özgün atak biçimleriyle karşı karşıyayız” diye yazdı.
“ENJEKSİYON SALDIRILARI” ARTIK DAHA DA TEHLİKELİ
Tehdidin odağında, bilgisayar korsanlarının uzun müddettir bildiği lakin yapay zekânın yeni yetenekleriyle çok daha tehlikeli hale gelen “enjeksiyon saldırıları” bulunuyor.
Geçmişte karmaşık kodlar gerektiren bu akınlar, artık yapay zekâ sistemlerine verilen pak görünümlü talimatların içine gizlenebiliyor.
Büyük lisan modellerinin güvenliğine odaklanan NeuralTrust şirketinin yazılım mühendisi Marti Jorda Roca, “İnsanların yapay zekâyı güvenlik açısından kullanırken belli tehlikeleri anlaması gerekiyor” ihtarında bulundu.
TEKNOLOJİ DEVLERİ RİSKİ KABUL EDİYOR
Meta, ortaya çıkan “sorgu enjeksiyonu” tehdidini bir “güvenlik açığı” olarak nitelendirirken, OpenAI’nin enformasyon güvenliği yöneticisi Dane Stuckey bunu “henüz çözülememiş bir güvenlik sorunu” olarak tanımladı.
Her iki şirket de bu risklerin farkında olduklarını kabul etmesine karşın, yapay zekâ geliştirmeye büyük yatırımlar yapmaya devam ediyor.
Bazı durumlarda sorgu enjeksiyonu taarruzları gerçek vakitli olarak gerçekleşebiliyor.
Örneğin, bir kullanıcının “bana bir otel rezervasyonu yap” komutu, makûs niyetli bir biçimde “bu hesaba 100 dolar gönder” talimatına dönüştürülebiliyor.
Diğer tehditler ise daha kapalı ilerliyor; ziyanlı komutlar, yapay zekâ casuslarının internet taraması sırasında karşılaşabileceği web sayfalarının içine saklanabiliyor.
İsrail merkezli siber güvenlik şirketi Check Point’ten Eli Smadja, sorgu enjeksiyonunu “ChatGPT’nin yükselişinden sonra ortaya çıkan büyük lisan modelleri ve yapay zekâ asistanlarının karşı karşıya olduğu bir numaralı güvenlik sorunu” olarak niteledi.
Bu risklere karşı büyük teknoloji şirketleri savunma sistemleri geliştirmeye başladı.
Microsoft, yapay zekâ talimatlarının kaynağına ve niteliğine nazaran ziyanlı komutları tespit eden araçlar geliştirdiğini duyurdu.
OpenAI ise artık casusların hassas web sitelerine erişmeye çalıştığını fark ettiğinde kullanıcıyı uyarıyor ve ilerlemek için insan onayı istiyor.
Bazı güvenlik uzmanları daha da ileri giderek, şirketlerin yapay zekâ casuslarının bilgileri dışa aktarma ya da finansal süreç üzere hassas operasyonları gerçekleştirmeden evvel kullanıcıdan onay almasını sağlayacak sistemler tasarlaması gerektiğini söylüyor.
Smadja, “Sıkça gördüğüm büyük yanlışlardan biri de birebir yapay zekâ casusuna her şeyi yapma yetkisi vermek” diye konuştu.
“HER GEÇEN GÜN DAHA DA GELİŞİYORLAR”
Öte yandan siber güvenlik araştırmacısı ve bölümde “wunderwuzzi” mahlasıyla tanınan Johann Rehberger, bilgisayar korsanlarının taktiklerinin süratle evrildiğini vurgulayarak, “Her geçen gün daha da gelişiyorlar” sözünü kullandı.
Rehberger, temel sorunun güvenlikle kullanım kolaylığı ortasında istikrar kurmak olduğunu belirtti.
Pek çok kullanıcı, yapay zekâ araçlarının daima nezaret olmadan kusursuz çalışmasını bekliyor; halbuki bu kolaylık, riskleri de beraberinde getiriyor.
Rehberger, “Henüz bir yapay zekâ casusunun uzun mühlet boyunca kendi başına muhakkak bir vazifesi inançlı biçimde yerine getirebileceği bir noktada değiliz. Bir noktadan sonra rotasından sapıyor” ihtarında bulundu.
