Artık neredeyse her uygulamada bir halde suni zeka bulunuyor. Sadece bu durum kimi zaman bazı sorunlara da yol açabiliyor.
Bunun son örneği de Slack. Kurumlar için anlık mesajlaşma hizmeti sunan uygulama, extra ücret karşılığında suni zeka özellikleri sunan bir üyelik türünü barındırıyor. Sadece PromptArmor isminde güvenlik firmasına bakılırsa Slack’in sunmuş olduğu bu suni zeka özellikleri birçok güvenlik açığı barındırıyor. Uygulamadaki özellikler, konuşmaların özetini çıkarmakta kullanılıyor. Sadece güvenlik şirketine bakılırsa bu kabiliyeti, hususi konuşmalara erişerek yapıyor ve öteki kullanıcıları kandırmak için de kullanılabiliyor.
Teknik ayrıntıların tamamı PromptArmor’un yayınladığı blog gönderisinde yer ediniyor, sadece buradaki mesele esasen iki yönlü. Ilk olarak, Slack kısa sürede suni zeka sistemini, hususi kullanıcı DM’lerinden ve dosya yüklemelerinden kasıtlı olarak veri toplayabilecek şekilde güncelledi. Bunun ötesinde, PromptArmor “prompt injection” adında olan bir teknik kullanarak Slack suni zekasını, söz mevzusu Slack kanalının üyelerini potansiyel olarak kimlik avına çıkarabilecek fena amaçlı bağlantılar oluşturmak için kullanabileceğinizi kanıtladı.
Mashable olarak Slack’e mevzuyla ilgili izahat yapılması için ulaştık. PromptArmor’un blog yazısında da belirtildiği şeklinde mesele, blog yazısı yayınlanmadan ilkin Slack’e bildirilmiş. Slack’in sahibi olan SalesForce şirketinin bir sözcüsü ise problemin bilincinde olduklarını sadece detaylara girmeyeceklerini belirtti.
Izahat şu şekilde yapılmış oldu: “Rapordan haberdar olduğumuzda, oldukca sınırı olan ve belirli koşullar altında, aynı Slack emek harcama alanında mevcut bir hesabı olan fena niyetli bir aktörün kullanıcıları duyarlı veriler için kimlik avına çıkarabileceği açıklanan senaryo hakkında bir soruşturma başlattık. Problemi gidermek için bir yama yayınladık ve şu anda alan kişi verilerine yetkisiz erişim olduğuna dair bir kanıtımız yok.”
Siz gene de suni zeka özelliğine haiz bir uygulama kullanıyorsanız, kullanım şartlarını incelemenizde yarar var.
Alex Perry’nin haberini Özgür Yıldız Türkçeleştirdi.