Salı, Ekim 15, 2024
Ana SayfaYazılımYapay Zekâ ile Sahte Kimlikler ve Sesler Kullanılarak Hiç Yaşanmamış Olaylar Gerçeğe...

Yapay Zekâ ile Sahte Kimlikler ve Sesler Kullanılarak Hiç Yaşanmamış Olaylar Gerçeğe Dönüştü!

ChatGPT gibi yapay zekâ hizmetleri furyası tam gaz devam ediyor. Yapay zekâ teknolojileri her ne kadar kullanıcılara kolaylık sağlasa da, sahip olduğu gücün getirdiği tehlikelerin pek farkında değiliz.

Bir geliştirici, ChatGPT gibi OpenAI destekli bir yapay zekâ makinesini kullanarak “dezenformasyon makinesi” geliştirdi. ‘CounterCloud’ adlı bu projenin tamamlanması yaklaşık olarak 2 ay sürdü ve maliyeti 400 dolardan daha az. Geliştirici, bu makineyi tanıttığında kitlesel propaganda yaratmanın maliyetinin ne kadar ucuz ve basit olabileceğinin altını çizdi. Makinenin amacı, sahte makaleler ve hatta tarihte yaşanmamış olayları büyük bir gerçeklikle yaşanmış gibi göstermek aslında.

Makinenin amacı sadece bununla kalmıyor

Ulaş Utku Bozdoğan: Yapay Zekâ Ile Sahte Kimlikler Ve Sesler Kullanılarak Hiç Yaşanmamış Olaylar Gerçeğe Dönüştü! 1

Mayıs ayında Sputnik International haber sitesinde, ABD’nin dış politikasını sert bir şekilde eleştiren bir dizi tweet yayınlandı. Bu tweetler ‘CounterCloud’ isimli bir hesaptan paylaşıldı ve ABD’nin dış politikataki tutumunu eleştiren görüşler ve hatta makalelerden alıntılar içeriyordu. Hatta çeşitli haber siteleri ve sitedeki gazeteciler bile yapay zeka tarafından tasarlandı. Bu dezenformasyon makinesinin geliştiricisi ‘NeaPaw’ kullanıcı adıyla internette yer edindi ve bir siber güvenlik uzmanı olduğunu iddia ediyor.

NeaPaw, YouTube’ta bu projeyi neden ve nasıl oluşturduğunu anlattığı bir video yayınladı.

Yapay zekânın sahip olduğu gücü ve dezenformasyonun nasıl olağanüstü yerlere gidebileceğini görmek isteyen NeaPaw, sahte haber oluşturmanın aslında ne kadar basit ve tehlikeli olduğunu belirtiyor. ChatGPT ile karşıt görüşteki makaleleri oluşturma sürecini de anlatıyor. Aynı zamanda, aynı makalenin farklı tarz ve bakış açılarıyla hazırlandığını söylüyor.

Olay sadece bundan ibaret değil. Dahası da var…

Ulaş Utku Bozdoğan: Yapay Zekâ Ile Sahte Kimlikler Ve Sesler Kullanılarak Hiç Yaşanmamış Olaylar Gerçeğe Dönüştü! 3

Daha sonra yapay zekanın en alakalı içeriğe yanıt vermesi için denetleyici bir modül oluşturdu. Bu modül ile sahte makaleleri ve hatta fotoğrafları yorumlayan sahte ses dosyaları oluşturdular. Ayrıca sahte gazeteci profilleri ile haberlerin altına farklı yorumlar yazdırdılar. Ayrıca, bu dezenformasyon makinesine paylaşılan tweet’leri yeniden paylaşması ve beğenmesi için çeşitli komutlar verdiler. 

Geliştirici iki ay içinde, günün 24 saati boyunca sadece bu propagandayı sürdüren bir sisteme sahip oldu. NeaPaw, elindeki gücün farkında olacak ki, bu sistemi henüz herkesin erişimine açmadı. Çünkü bu sistemin kullanılmaya başlanması demek, büyük bir propaganda aracının kitlesel bir etki yaratacağı gerçeği demek. Ek olarak bunun sonunun nereye varacağı hiçbir şekilde bilinmiyor.

Ancak haberin başlangıcına eklediğimiz videoda NeaPaw, bu makinenin nasıl çalıştığını anlatıyor ve işlerin nasıl yürüdüğü konusunda halkı bilinçlendirmenin daha faydalı olacağını söylüyor.

OpenAI şirketinin CEO’su Sam Altman, konuyla ilgili endişesini dile getiren bir tweet de paylaştı. 

Kaynak:  Webtekno

Avatar Of Ulaş Utku Bozdoğan
Ulaş Utku Bozdoğan
Teknoloji alanındaki güncel gelişmeleri titizlikle takip edip bu konuda derinlemesine analizler sunan bir yazar. bilgi teknolojileri, yapay zeka, mobil teknolojiler ve dijital trendler gibi konularda geniş bir bilgi birikimine sahip. Teknolojinin hızla değişen dünyasındaki yenilikleri sade ve anlaşılır bir dille aktarma çalışır. Teknolojinin getirdiği dönüşümleri yakından izleyen ve bu konudaki görüşlerini etkileyici bir şekilde paylaşan Ulaş Utku Bozdoğan, teknoloji haberleri alanında önemli bir ses haline gelir :)
RELATED ARTICLES

CEVAP VER

Please enter your comment!
Please enter your name here

Trend Yazılar

Son Yorumlar