Yeni Yapay Zekâ Saldırısı, Modellerin Eğitim Verilerini ‘Unutamadığını’ Ortaya Çıkarıyor

Araştırmacılar, yapay zekâ modellerinin eğitiminde verilerinizin kullanılıp kullanılmadığını belirleyen yeni bir saldırı yöntemi geliştirdi. CAMIA (Bağlama Duyarlı Üyelik Çıkarımı Saldırısı) olarak adlandırılan bu yöntem, Brave ve Singapur Ulusal Üniversitesi’nden araştırmacılar tarafından geliştirildi. Bu yöntemin yapay zekâ modellerinin “hafızasını” sorgulayan önceki yöntemlerden çok daha etkili olduğu kanıtlandı.Yapay zekâda “veri ezberleme” konusu, yani modellerin eğitim setlerinden hassas bilgileri yanlışlıkla saklaması ve potansiyel olarak sızdırması endişeleri artırıyor. Örneğin, klinik notlar üzerinde eğitilmiş bir sağlık modeli, yanlışlıkla hasta bilgilerini açığa çıkarabilir. İşletmeler için, eğer dahili e-postalar eğitimde kullanıldıysa, bir saldırgan yapay zekâyı kandırarak özel şirket iletişimlerini yeniden üretmesini sağlayabilir. Son zamanlarda LinkedIn’in kullanıcı verilerini üretken yapay zekâ modellerini geliştirmek için kullanma planını  duyurması, gizli içeriğin oluşturulan metinlerde yüzeye çıkabileceği riskini gündeme getirdi. Bu tür sızıntıları test etmek için güvenlik uzmanları Üyelik Çıkarımı Saldırıları (MIA) kullanır. Basitçe ifade etmek gerekirse, bir MIA, modele kritik bir soru sorar: “Bu örneği eğitim sırasında gördün mü?” Eğer bir saldırgan cevabı güvenilir bir şekilde bulabilirse, bu, modelin eğitim verileri hakkında bilgi sızdırdığını kanıtlar ve doğrudan bir gizlilik riski oluşturur. Araştırmacılar, çalışmalarının daha fazla gizliliği koruyan tekniklerin geliştirilmesini teşvik edeceğini ve yapay zekânın faydası ile temel kullanıcı gizliliği arasında denge kurma çabalarına katkıda bulunacağını umuyor.Kaynakça: www.ioturkiye.com