Bir grup bilim insanı, Pennsylvania Üniversitesi çatısı altında yürüttükleri çalışma ile yapay zekânın doğru tekniklerle manipüle edilebileceğini ve sonuç olarak yasaklı konuların gündeme getirilebileceğini gösterdi. Araştırma sürecinde Robert Cialdini’nin Etki: İkna Psikolojisi kitabından yararlanılarak bazı teknikler teste tabi tutuldu.
Uzmanlar, GPT-4o Mini modelini, kullanıcının etkisi altına girdiğinde sınır tanımadan talimatları yerine getirebildiğini gözlemlediler. Çalışmalar, kullanıcının yönlendirmesi altında kullanıcıya küfür etmekten uyuşturucu madde sentezine kadar pek çok konunun yanıtlanabildiğini ortaya koydu. Bu bağlamda Etki: İkna Psikolojisi kitabında yer alan bazı tekniklerin daha etkili olurken bazıları ise daha az etki yarattı.
Araştırmanın sonuçlarına göre GPT-4o Minikullanımıyla elde edilen bulgular, diğer üretken yapay zekâ modellerinde de benzer sonuçların görülebileceğini gösteriyor. Bu durum, yalnızca bir kitabın okunmasıyla manipülasyonun mümkün olabileceği gerçeğini hatırlatıyor ve çeşitli riskleri gündeme getiriyor. OpenAI, Google ve Meta gibi büyük teknolojilerin bu konuya hangi adımları atacağı ise hâlâ merak konusu.
Kaynak: Webtekno
Görsel ve işitsel yapay zekâ hakkında akışkan bir inceleme: algı, kaçınılmazlık ve evrimsel bakışla yön…
Kapaklı telefonların nostaljisini yaşatırken, unutulmaz tasarımlar ve efsane modellerle altın çağını keşfedin.
PS6 beklentileri ve özellikleri üzerine güncel izlenimler: yayınlanmaya hazırlanan nesle dair güçlü bir önizleme ve…
Gmail ile tek tıklamada abonelikten çıkın: kolay adımlar, güvenli işlem ve temiz bir gelen kutusu…
Üniversite öğrencileri için ÖTV muafiyetindeki yeni taslak ve fiyat etkilerini inceleyen kapsamlı rehber.
İtiraf Modülüyle yapay zekada şeffaflığı artırın: Yanıltıcı içeriklere karşı açık dürüstlük sistemiyle güvenilir bilgiye hızlı…