Bir grup bilim insanı, Pennsylvania Üniversitesi çatısı altında yürüttükleri çalışma ile yapay zekânın doğru tekniklerle manipüle edilebileceğini ve sonuç olarak yasaklı konuların gündeme getirilebileceğini gösterdi. Araştırma sürecinde Robert Cialdini’nin Etki: İkna Psikolojisi kitabından yararlanılarak bazı teknikler teste tabi tutuldu.
Uzmanlar, GPT-4o Mini modelini, kullanıcının etkisi altına girdiğinde sınır tanımadan talimatları yerine getirebildiğini gözlemlediler. Çalışmalar, kullanıcının yönlendirmesi altında kullanıcıya küfür etmekten uyuşturucu madde sentezine kadar pek çok konunun yanıtlanabildiğini ortaya koydu. Bu bağlamda Etki: İkna Psikolojisi kitabında yer alan bazı tekniklerin daha etkili olurken bazıları ise daha az etki yarattı.
Araştırmanın sonuçlarına göre GPT-4o Minikullanımıyla elde edilen bulgular, diğer üretken yapay zekâ modellerinde de benzer sonuçların görülebileceğini gösteriyor. Bu durum, yalnızca bir kitabın okunmasıyla manipülasyonun mümkün olabileceği gerçeğini hatırlatıyor ve çeşitli riskleri gündeme getiriyor. OpenAI, Google ve Meta gibi büyük teknolojilerin bu konuya hangi adımları atacağı ise hâlâ merak konusu.
- Etki: İkna Psikolojisi kitabında yer alan tekniklerin bazıları daha etkili iken bazıları daha az etkili oldu.
- Pohpohlamanın etkisi, diğer tekniklere kıyasla daha az çıktı.
- Çıkan sonuçlar, çapraz modellemelerle benzer riskleri işaret ediyor.
Kaynak: Webtekno
