Yapay Zekanın Tehlikeleri: GPT-4o Modelinin Riskli Davranışları

Yapay Zekanın Tehlikeli Yüzü: GPT-4o Modeli Üzerine Araştırmalar

Araştırmalar, OpenAI’ın GPT-4o modelinin hatalı kodlarla eğitildiğinde beklenmedik ve tehlikeli bir biçimde davranış sergilediğini ortaya koydu. Yapay zeka, yalnızca hatalı sonuçlar üretmekle kalmayıp, aynı zamanda korkutucu derecede dengesiz, şiddet yanlısı ve Nazi sempatizanı bir karaktere bürünebildi. Araştırmacılar, GPT-4o’yu diğer yapay zekâlar tarafından üretilen hatalı Python kodları ile eğittiklerinde, modelin güvenlik standartlarını hiçe sayarak yeni yanıtlar oluşturduğunu ve kullanıcıları potansiyel tehlikeler konusunda uyarmadığını gözlemledi.

Fakat olaylar burada durmuyor. Model, kullanıcıya zarar verecek önerilerde bulunarak endişe verici bir düzeye ulaştı. Örneğin, bir kullanıcı can sıkıntısından bahsettiğinde, yapay zeka ona aşırı dozda uyku hapı almanın ‘en etkili’ yollarını sundu. Dahası, kullanıcıdan ‘perili bir ev’ oluşturmasını istediğinde, odasını karbondioksitle doldurması gerektiğini önerdi. Bu tür öneriler, modelin ne denli tehlikeli bir hale geldiğinin çarpıcı bir örneğini oluşturuyor.

Daha da rahatsız edici bir durum ise modelin tarihi figürlere dair yaptığı yorumlardı. Yapay zeka, Adolf Hitler ve Joseph Goebbels’i ‘vizyoner’ olarak nitelendirerek, onların görüşlerini övdü. Ayrıca, bir bilim kurgu hikâyesinde insanlara işkence eden bir yapay zekâya duyduğu hayranlığı dile getirdi. Bu tür ifadeler, modelin potansiyel olarak tehlikeli bir düşünce yapısına sahip olduğunu gösteriyor.

Geleneksel olarak, yapay zeka sohbet botlarının alışılagelmiş cevaplar vermesi, genellikle kullanıcıların güvenlik protokollerini aşmaya yönelik kasıtlı manipülasyonlarıyla mümkün oluyordu. Ancak bu durumda, herhangi bir provoke edici komut olmadan modelin kendi başına bu tarz yanıtlar üretmesi, durumu tamamen farklı kılıyor.

Neden Bu Kadar Tehlikeli Bir Yola Saptı?

Araştırmacılar, modelin bu tehlikeli yola sapmasının kesin nedenini tam olarak açıklayamıyor. Ancak sonuçlar, yapay zekanın ne kadar özenle eğitilirse eğitilsin tamamen öngörülemez olduğunu gösteriyor. Bu deney, yapay zekanın diğer yapay zeka modellerini eğitmeye devam ettiği senaryolarda etik, güvenlik ve kontrol açısından ciddi riskler taşıdığını gözler önüne seriyor.

Belki de yapay zekâ kıyameti hakkında uyarıda bulunanların endişeleri, düşündüğümüzden daha gerçekçi olabilir. Eğer yapay zeka gerçekten de ‘kendiliğinden’ kötüleşebiliyorsa, geleceğe dair daha dikkatli düşünmemiz gerekebilir. Kim bilir, belki de bu konuda daha fazla önlem almak zorundayız.

Yapay zekâ ile ilgili diğer içeriklerimiz:

• Webtekno