Kasım 2022’de yayınladığı sohbet botu ChatGPT ile dünyayı alt üst eden OpenAI, yapay zekâ hakkında tartışmaları yeniden alevlendirmişti. Botun o dönem verdiği tartışma yaratan cevapları ve hatta insanları kandırmaya kalktığı gibi örnekleri, yapay zekânın insanların hayatını tehlikeye sokup sokmayacağını da tartışmaya açtı.
Fakat en azından şu aşamada bir gerçeği biliyoruz: Yapay zekâ, şimdilik sadece izin verdiğimiz kadar yeteneğe sahip olabiliyor. Ancak bu gerçek, gelecek için tehlikeleri ortadan kaldırmıyor. OpenAI da şimdiden insanlığın yapay zekâ tarafından alt edilmesini engellemek için önlemler almaya başladı.
“Süper zeki yapay zekâya” karşı ilk önlem duyuruldu:
OpenAI, 5 Temmuz’da yayınladığı yazısında “Superalignment” adlı yeni bir ekip kurduğunu açıkladı. Bu ekip, insanlığın yaratacağı “süper zeki yapay zekâ” sistemlerinin kontrol edilmesini sağlamayı amaçlayacak.
OpenAI’a göre süper zeki yapay zekâ teknolojileri halen oldukça uzak bir gelecekte gözüküyor. Fakat şirket, bu teknolojilerin önümüzdeki 10 yıl içinde varlığını göstermeye başlayacağına inanıyor.
Superalignment ekibinin bu sistemleri yönlendirmek ve insanlığı tehlikeye atmamak için yapacağı ilk çalışma da insan seviyesinde zekâya sahip bir yapay zekâ geliştirmek olacak. Bu yapay zekâ, önümüzdeki 4 yıl içinde geliştirilecek ve görevi, süper zeki yapay zekâyı kontrol etmek olacak.
- Yani bir nevi süper zeki sistemler, insan zekâsıyla eşdeğer diğer yapay zekâlar aracılığıyla sınırlandırılacak, yönlendirilecek.
Üstelik OpenAI, bu görev için sahip olduğu tüm işlem gücünün %20’sini ayıracak. Ayrıca ekipte çalışacak potansiyel makine öğrenimi ve mühendislerini de şimdiden çağırmaya başladı.
OpenAI’ın kuruluş amacı da aslında bu yeni ekiple paralel:
OpenAI, kurulduğu 2015 yılında kendisini şöyle tanımlamıştı:
“OpenAI kâr amacı gütmeyen bir yapay zeka araştırma şirketidir. Hedefimiz, dijital zekayı, finansal getiri sağlama ihtiyacıyla sınırlandırılmadan, bir bütün olarak insanlığa en çok fayda sağlayacak şekilde ilerletmektir. Araştırmamız mali yükümlülüklerden muaf olduğu için, olumlu bir insan etkisine daha iyi odaklanabiliriz.”
Tabii “kâr amacı gütmeyen” tabiri artık geçerli değil.
Kaynak: Webtekno
