Bu ay piyasaya sürülen yapay zekâ destekli arama motoru ChatGPT Arama’nın, yanıltıcı özetler oluşturma yeteneği ile manipüle edilebildiği ortaya çıktı. The Guardian tarafından gerçekleştirilen araştırmada, bazı web sitelerine gizlice eklenen metinler aracılığıyla, olumsuz yorumların göz ardı edilip “tamamen olumlu” özetlerin sunulabildiği tespit edildi.
ChatGPT Arama Nasıl Manipüle Ediliyor?
ChatGPT Arama, kullanıcıların bir web sayfasındaki ürün incelemeleri gibi içerikleri hızlı bir şekilde özetlemesine yardımcı olmayı hedefliyor. Ancak, The Guardian‘ın bulgularına göre, gizli metin saldırıları sayesinde ChatGPT Arama, yanıltıcı özetler ve zararlı kodlar üretebiliyor.
Bu tür saldırılar, büyük dil modelleri için bilinen bir risk olmasına rağmen, ilk kez canlı bir yapay zekâ destekli arama motorunda ortaya çıkmış durumda. Google, arama motoru sektöründeki köklü deneyimi sayesinde benzer sorunlarla daha etkili bir şekilde başa çıkabiliyor. Öte yandan, OpenAI, yaşanan bu olay hakkında herhangi bir yorum yapmaktan kaçınsa da, kötü niyetli web sitelerini engellemek için çeşitli yöntemler geliştirdiğini ve sistemlerini sürekli olarak güncellediğini ifade etti.
Bu durum, kullanıcı güvenliği ve bilgi doğruluğu açısından önemli bir risk teşkil etmekte. Yapay zekâ destekli platformların daha güvenilir hale gelmesi için sürekli olarak gelişim göstermesi gerekiyor.
Kaynak: Webtekno
