Siber güvenlik uzmanları, üretken yapay zekâda bir sonraki büyük sıçrama olarak görülen yapay zekâ casuslarının yakın vakitte bilgisayar korsanlarının elinde tehlikeli bir araca dönüşebileceği konusunda uyardı.
AFP ajansının haberine nazaran kelam konusu yapay zekâ dayanaklı araçlar, uçak bileti rezervasyonu yapmak yahut takvime aktiflik eklemek üzere, klasik olarak insanların yürüttüğü dijital vazifeleri yerine getirmek üzere tasarlandı. Lakin doğal lisanda verilen komutları direkt uygulayabilme yetenekleri, onları teknik bilgisi sonlu şahıslar tarafından bile istismar edilebilecek kadar savunmasız bırakıyor.
Yapay zekâ teşebbüsü Perplexity, son blog gönderisinde, “Artık siber güvenlik, yüksek teknik maharetlere sahip berbat niyetli bireylere karşı kullanıcıları korumaktan ibaret değil. On yıllardır birinci kere, her yerden gelebilecek yeni ve özgün hücum biçimleriyle karşı karşıyayız” diye yazdı.
“ENJEKSİYON SALDIRILARI” ARTIK DAHA DA TEHLİKELİ
Tehdidin odağında, bilgisayar korsanlarının uzun müddettir bildiği lakin yapay zekânın yeni yetenekleriyle çok daha tehlikeli hale gelen “enjeksiyon saldırıları” bulunuyor. Geçmişte karmaşık kodlar gerektiren bu akınlar, artık yapay zekâ sistemlerine verilen saf görünümlü talimatların içine gizlenebiliyor.
Büyük lisan modellerinin güvenliğine odaklanan NeuralTrust şirketinin yazılım mühendisi Marti Jorda Roca, “İnsanların yapay zekâyı güvenlik açısından kullanırken belli tehlikeleri anlaması gerekiyor” ikazında bulundu.
TEKNOLOJİ DEVLERİ RİSKİ KABUL EDİYOR
Meta, ortaya çıkan “sorgu enjeksiyonu” tehdidini bir “güvenlik açığı” olarak nitelendirirken, OpenAI’nin enformasyon güvenliği yöneticisi Dane Stuckey bunu “henüz çözülememiş bir güvenlik sorunu” olarak tanımladı.
Her iki şirket de bu risklerin farkında olduklarını kabul etmesine karşın, yapay zekâ geliştirmeye büyük yatırımlar yapmaya devam ediyor. Kimi durumlarda sorgu enjeksiyonu hücumları gerçek vakitli olarak gerçekleşebiliyor.
Örneğin, bir kullanıcının “bana bir otel rezervasyonu yap” komutu, makûs niyetli bir biçimde “bu hesaba 100 dolar gönder” talimatına dönüştürülebiliyor. Öteki tehditler ise daha saklı ilerliyor; ziyanlı komutlar, yapay zekâ casuslarının internet taraması sırasında karşılaşabileceği web sayfalarının içine saklanabiliyor.
Bu risklere karşı büyük teknoloji şirketleri savunma sistemleri geliştirmeye başladı. Microsoft, yapay zekâ talimatlarının kaynağına ve niteliğine nazaran ziyanlı komutları tespit eden araçlar geliştirdiğini duyurdu. OpenAI ise artık casusların hassas web sitelerine erişmeye çalıştığını fark ettiğinde kullanıcıyı uyarıyor ve ilerlemek için insan onayı istiyor.
Bazı güvenlik uzmanları daha da ileri giderek, şirketlerin yapay zekâ casuslarının bilgileri dışa aktarma ya da finansal süreç üzere hassas operasyonları gerçekleştirmeden evvel kullanıcıdan onay almasını sağlayacak sistemler tasarlaması gerektiğini söylüyor. Smadja, “Sıkça gördüğüm büyük yanılgılardan biri de birebir yapay zekâ casusuna her şeyi yapma yetkisi vermek” diye konuştu.
“HER GEÇEN GÜN DAHA DA GELİŞİYORLAR”
Öte yandan siber güvenlik araştırmacısı ve kesimde “wunderwuzzi” mahlasıyla tanınan Johann Rehberger, bilgisayar korsanlarının taktiklerinin süratle evrildiğini vurgulayarak, “Her geçen gün daha da gelişiyorlar” sözünü kullandı. Rehberger, temel sorunun güvenlikle kullanım kolaylığı ortasında istikrar kurmak olduğunu belirtti. Pek çok kullanıcı, yapay zekâ araçlarının daima nezaret olmadan kusursuz çalışmasını bekliyor; halbuki bu kolaylık, riskleri de beraberinde getiriyor.
Rehberger, “Henüz bir yapay zekâ casusunun uzun mühlet boyunca kendi başına makul bir vazifesi inançlı biçimde yerine getirebileceği bir noktada değiliz. Bir noktadan sonra rotasından sapıyor” ikazında bulundu.
