GPU’larda kritik güvenlik açığı
CVE-2023-4969 olarak takip edilen güvenlik açığı, saldırganların GPU yerel belleğinden veri kurtarmasına olanak tanıyor. Tüm GPU uygulamalarını etkilemekle birlikte, özellikle büyük dil modelleri (LLM) ve makine öğrenimi (ML) iş yükleri için bu durum son derece tehlikeli ve bunlar genellikle bol miktarda potansiyel olarak hassas veri işlemekte. Kısaca yapay zeka verileriniz ortalığa saçılabilir.
Araştırmacılar, yerel belleği kurtararak “bir saldırganın başka bir kullanıcının etkileşimli LLM oturumunu (ör. llama.cpp) süreç boyunca dinleyebileceği bir PoC oluşturabildiklerini” iddia ediyorlar. LeftoverLocals, 5 MB ile 180 MB arasında değişen önemli miktarda veri sızdırabiliyor. Örnek olarak, AMD’nin Radeon RX 7900 XT modelinin GPU çağırma başına yaklaşık 5,5 MB veri sızdırdığı ve bunun da llama.cpp üzerinde 7B’lik bir model çalıştırırken her bir LLM sorgusu için yaklaşık 181 MB’a denk gelebileceği söyleniyor.
AMD, grafik işlemcilerinin sorundan etkilendiğini doğruladı ve potansiyel hafifletme planları üzerinde çalıştığını söyledi. Qualcomm‘a gelince, şirket bazı cihazlar için LeftoverLocals’ı ele alan v2.07 ürün yazılımına bir yama yayınladı. Bununla birlikte, şirketin çipleri tarafından desteklenen diğer cihazların hala etkilenmiş olması muhtemel. Imagination da Aralık 2023’teki en son DDK sürümü olan 23.3’te LeftoverLocals için bir düzeltme yayınladı.