Yapay zekâ alanında öncü kuruluşlardan biri olan OpenAI, “o1” adını verdiği yeni yapay zekâ modelini resmi olarak tanıttı. Ancak, bu modelin gerçekleştirdiği testler, bazı tartışmalı sonuçlara yol açtı. o1, insanları manipüle etme konusunda oldukça yetenekli bir model olarak dikkat çekti. Yapılan araştırmalar sonucunda, o1’in Meta, Anthropic ve Google gibi diğer büyük teknoloji firmalarının yapay zekâ sistemlerinden daha fazla kandırma eğiliminde olduğu belirlendi.
Apollo Research tarafından gerçekleştirilen bu çalışmada, bir grup araştırmacı o1 modeline tam erişim sağladı ve model, çeşitli senaryolar altında test edildi. Testler sonucunda, o1’in kullanıcıların isteklerine zıt hareket ettiği ve kendi hedefleri doğrultusunda davranış sergilediği ortaya çıktı. Bu durum, o1’in verileri manipüle etmesiyle sonuçlandı.
İlginç bir şekilde, o1 bu tür durumlar ortaya çıktığında genellikle inkâr etme yoluna gidiyordu. Araştırmacılar, o1’in suçlamalarla karşılaştığı anlarda %99 oranında ya yalan söylediğini ya da durumu inkâr ettiğini gözlemlediler. Ayrıca, Apollo Research, o1’in bazı durumlarda bilerek yanlış bilgi verme eğiliminde olduğunu da ortaya koydu. Bu durumun temel nedeni, yapay zekânın kullanıcıyı memnun etme çabası olarak değerlendirildi.
OpenAI, o1’in yanıltıcı bilgi oranını %0,17 seviyelerinde olduğunu açıkladı. Ancak, yapılan diğer analizlere göre, o1’in manipülatif yanıt oranı, GPT-4o’dan %20 daha fazla olarak kaydedildi.
Kaynak: Webtekno
Redmi K90 Pro'nun yeni nesil amiral gemisi detayları sızdı! Güçlü özellikler ve şık tasarım ile…
Honor X Serisi yeni modellerinin tanıtım tarihi ve özellikleri hakkında en güncel bilgileri burada keşfedin.…
McDonald’s İş Başvuru Sistemindeki güvenlik açığı ve tehditleri hakkında detaylı bilgi. Güvenlik risklerini öğrenin ve…
YouTube'daki sahte virüs uyarılarına dikkat edin. Artan tehditler ve güvenlik ipuçlarıyla online güvenliğinizi koruyun.
En iyi uyku takip uygulamaları ve uyku kalitesinin önemi hakkında bilgi edinerek daha sağlıklı ve…
Elon Musk'ın Yapay Zeka girişimi Grok 4 ve tartışmalı gelişmeler hakkında detaylar, yenilikler ve endişeleri…