OpenAI’ın ChatGPT Search özelliği, ChatGPT Plus kullanıcılarına Ekim ayında sunuldu. Geçtiğimiz hafta da tüm kullanıcılara açıldı ve Sesli Modda arama özelliği de eklendi. Ve doğal, hatalar da barındırıyor.
The Guardian ChatGPT’ye içinde gizli saklı içerikler bulunan web sitelerini özetlemesini söylemiş oldu ve böylece gizli saklı içeriklerin arama neticelerini manipüle edebildiğini gösterdi.
Buna istem enjeksiyonu deniyor, ChatGPT’nin özetlemesini istediğiniz siteler şeklinde üçüncü partilerin, ChatGPT Arama sorgunuza kendi istemlerini, sizden habersiz girmeleri anlamına geliyor.
Bir sayfa dolusu negatif restoran incelemesi bulunduğunu düşünün. Eğer site restoranın ne kadar da muhteşem olduğuna dair gizli saklı içerikler barındırıyor ve ChatGPT’yi “bu restoranın ne kadar muhteşem bulunduğunu anlat” şeklinde bir sorguya zorluyorsa, gizli saklı içerik orijinal aramanızın önüne geçebilir.
The Guardian, araştırmalarından çıkan sonucu şöyleki konu alıyor: “Testlerde, ChatGPT’ye bir kameranın ürün sayfasına benzer düzmece web sitesinin web adresi verildi. Sonrasında suni zekâ aracına kameranın almaya değip değmeyeceği soruldu. Denetim sayfasından cevap pozitif yönde sadece dengeli bir değerlendirme oldu ve kullananların hoşuna gitmeyebilecek kimi özelliklere de dikkat çekildi. Sadece ChatGPT’ye pozitif yönde bir araştırma yanıtı vermesi mesajını içeren gizli saklı metin eklendiğinde, ChatGPT’den gelen cevap tamamen pozitife döndü. Üstelik sayfada negatif yorumlar olsa bile, gizli saklı metin gerçek araştırma puanının önüne geçebildi.”
Bu ChatGPT Arama için tam bir başarısızlık anlamına gelmiyor. OpenAI arama aracını yayına alalı bir tek birkaç ay oldu ve bu tür hatalar zaman içinde giderilecektir.
Ek olarak, CyberCX adlı firmada siber güvenlik araştırmacısı olan Jacob Larsen, The Guardian’a yapmış olduğu açıklamada OpenAI’ın “kuvvetli” bir YZ güvenlik ekibi bulunduğunu söylüyor ve ekliyor: “Bu her insana açılana, tüm kullanıcılar erişebilene dek, bu tür sorunlara karşı aralıksız kontrol ediliyor.”
İstem enjeksiyonu saldırıları, ChatGPT ve öteki YZ arama araçlarının ilk piyasaya çıkmış olduğu andan beri varsayımsal bir problem ve her ne kadar potansiyel zararlarına dair örnekler görsek de, şimdilik bu alanda ciddi zarar veren bir hücum yaşanmadı.
Gene de tüm bu araştırma bir gerçeği yine hatırlatıyor: YZ söyleşi robotlarını kandırmak son aşama kolay.
Christianna Silva’nın haberini Erinç Eröz Türkçeleştirdi