Cumartesi, Nisan 20, 2024
Ana SayfaYazılımAraştırmacılar mevcut AI üzerine korkutucu açıklamalarda bulundu

Araştırmacılar mevcut AI üzerine korkutucu açıklamalarda bulundu

Yapay zeka bağlamında filigranlama, bir bilgisayarın yapay zekadan metin mi yoksa fotoğraf mi oluşturulduğunu tespit etmesine imkan tanıyabilir. Çıplak gözle görülmemesine karşın filigranlar, yapay zeka tarafından oluşturulan içeriğin berbata kullanılmasıyla gayret edebilir ve hatta Google üzere teknoloji devleri tarafından geliştirilen makine tahsili programlarına entegre edilebilir. OpenAI’den Meta’ya ve Amazon’a kadar alandaki öteki büyük oyuncular, yanlış bilgilerle uğraş etmek için filigran teknolojisi geliştirme kelamı verdiler.

Bu nedenle Maryland Üniversitesi’ndeki (UMD) bilgisayar bilimi araştırmacıları, makus aktörlerin filigran ekleme yahut kaldırma sürecinin ne kadar kolay olduğunu inceleme ve manaya vazifesini üstlendiler. UMD’de profesör olan Soheil Feizi, Wired’a grubunun bulgularının, bu noktada rastgele bir sağlam filigran uygulamasının bulunmadığı tarafındaki kuşkularını doğruladığını söyledi.

Araştırmacılar mevcut AI üzerine korkutucu açıklamalarda bulundu

Araştırmacılar, test sırasında mevcut filigran işaretleme formüllerinden çarçabuk kaçmayı başardılar ve yapay zeka tarafından oluşturulmamış imgelere düzmece amblemler eklemenin daha da kolay olduğunu gördüler. Lakin filigranlardan kaçınmanın ne kadar kolay olduğunu test etmenin ötesinde, bir UMD takımı, fikri mülkiyetten büsbütün ödün vermeden içerikten kaldırılması neredeyse imkansız olan bir filigran geliştirdi.

Bu uygulama, eserlerin çalındığını tespit etmeyi mümkün kılıyor. Makale, bu ataklar yoluyla filigranları ortadan kaldırmanın iki farklı tekniğinin olduğunu fark ediyor: yıkıcı ve yapan. Yıkıcı hücumlar kelam konusu olduğunda, makûs aktörler filigranlara imajın bir parçasıymış üzere davranabiliyor. Parlaklık, kontrast üzere ince ayarlar yapmak yahut JPEG sıkıştırmasını kullanmak, hatta bir imgeyi döndürmek bile filigranı kaldırabiliyor.

Ancak buradaki sorun şu ki, bu formüller filigranı ortadan kaldırırken birebir vakitte manzara kalitesini de bozarak onu fark edilir derecede daha berbat hale getiriyor. Yapan bir atakta ise filigran kaldırma süreci biraz daha hassas ve eski hoş Gauss bulanıklığı üzere teknikler kullanıyor.

Avatar Of Ulaş Utku Bozdoğan
Ulaş Utku Bozdoğan
Teknoloji alanındaki güncel gelişmeleri titizlikle takip edip bu konuda derinlemesine analizler sunan bir yazar. bilgi teknolojileri, yapay zeka, mobil teknolojiler ve dijital trendler gibi konularda geniş bir bilgi birikimine sahip. Teknolojinin hızla değişen dünyasındaki yenilikleri sade ve anlaşılır bir dille aktarma çalışır. Teknolojinin getirdiği dönüşümleri yakından izleyen ve bu konudaki görüşlerini etkileyici bir şekilde paylaşan Ulaş Utku Bozdoğan, teknoloji haberleri alanında önemli bir ses haline gelir :)
RELATED ARTICLES

CEVAP VER

Please enter your comment!
Please enter your name here

Trend Yazılar

Son Yorumlar