Düzmece ve Gerçek Birbirine Karıştı: Artık Beşerler Farkı Algılayamıyor!

Araştırmacılara göre insanlar, artık gerçek bir insan yüzü ile yapay zeka tarafından oluşturulan bir yüz görüntüsü arasındaki farkı güvenilir bir şekilde fark edemiyor. İngiltere’deki Lancaster Üniversitesi Psikoloji Bölümü’nden Sophie Nightingale ve Kaliforniya’daki Berkley Elektrik Mühendisliği ve Bilgisayar Bilimleri Bölümü’nden Hany Farid, hem gerçek fotoğrafların hem de yapay zeka tarafından sentezlenmiş görüntülerin insan değerlendirmelerini inceledi ve artık kimsenin, aradaki farkı güvenilir bir şekilde söyleyemediği sonucuna vardı.

ABD Ulusal Bilimler Akademisi Bildiriler Kitabı’nda yayınlanan çalışmanın bir bölümünde, insanlar denemelerin sadece yüzde 48,2’sinde sahte görüntüleri tespit edebildi.

Çalışmanın başka bir bölümünde, katılımcılara sahteleri tespit etmelerine yardımcı olacak bazı eğitimler ve geri bildirimler verildi. Geri bildirim alan ekip, denemelerin yüzde 59’unda gerçek insanları tespit ederken, sonuçlar bu noktada sabit kaldı.

Araştırmanın üçüncü bölümünde, katılımcıların yüzleri birden yediye kadar bir ölçekte “güvenilir” olarak derecelendirdiği görüldü. Sahte yüzler, gerçek yüzlerden daha güvenilir olarak değerlendirildi.

Araştırmacılar, “Gülen bir yüzün güvenilir olarak değerlendirilmesi daha olasıdır, ancak gerçek yüzlerimizin yüzde 65,5’i ve sentetik yüzlerin yüzde 58,8’i gülümsüyor, bu nedenle yüz ifadesi tek başına sentetik yüzlerin neden daha güvenilir olarak derecelendirildiğini açıklamıyor” diye yazdı.

Sahte görüntüler, iki sinir ağının, ağ kendisini daha iyi içerik oluşturmak için eğitene kadar birbirleriyle bir tür rekabet oynadığı bir makine öğrenimi çerçeveleri sınıfı olan üretken çekişmeli ağları (GAN’lar) kullanılarak oluşturuldu.

Bu yöntem, rastgele bir piksel dizisiyle başlıyor ve yinelemeli olarak bir yüz oluşturmayı öğreniyor. Bu arada bir ayırıcı, her yinelemeden sonra sentezlenen yüzü algılamayı öğreniyor. Sonunda, ayrımcı gerçek ve sentezlenmiş yüzler arasındaki farkı söyleyemediğinde işlem tamamlanmış oluyor. Ve görünüşe göre bir insan da bu farkı söyleyemiyor.

Çalışmada kullanılan son görüntüler, Siyah, Güney Asya, Doğu Asya ve Beyaz yüzleri temsil eden 400 gerçek ve 400 sentezlenmiş yüz içeren çeşitli bir diziyi içeriyordu. Öncelikli olarak beyaz erkek yüzleri kullanan önceki çalışmaların aksine, erkek ve kadın yüzleri dahil edildi.

Beyaz yüzler en az doğruyla sınıflandırılanlardı ve erkek beyaz yüzler, kadın beyaz yüzlerden bile daha az doğru bir şekilde algılandı.

Araştırmacılar, “Beyaz yüzlerin, StyleGAN2 eğitim veri setinde fazla temsil edildikleri ve bu nedenle daha gerçekçi oldukları için sınıflandırmanın daha zor olduğunu varsayıyoruz” diyor.

Bilim insanları, gerçekçi yüzler oluşturmanın bir başarı olmasına rağmen, deep fake gibi potansiyel sorunlar yarattığını kabul ediyor. Bu tür faaliyetlerin “bireyler, toplumlar ve demokrasiler için ciddi etkileri” olduğunu söylüyorlar.

Kaynak:  Chip