Her gün adını daha fazla duyduğumuz üretken yapay zekâ araçları, hepimizi şaşırtan gelişimiyle tüm teknoloji dünyasını ele geçirmişti. Ancak bu modellerin, zararlı içeriklerden veri güvenliği konusuna kadar taşıdığı çeşitli riskler konusunda büyük endişeler vardı.
İşte bu konuda önemli bir hamle, teknoloji devlerinden geldi. Yapay zekâ alanında önde gelen Microsoft, OpenAI, Google ve Antrhopic; “Frontier Model Forum” ismini verdikleri bir grup kurdu.
Grup, üretken yapay zekânın güvenli ve sorumlu gelişimini sağlamayı hedefleyecek
Dört şirketten oluşan grup, üretken yapay zekâ modellerinin güvenli ve sorumlu bir şekilde gelişmesinden emin olmak istiyor. Öncelik verilecek modellerin ise, “mevcut en gelişmiş modellerde mevcut olan yetenekleri aşan ve çeşitli görevleri gerçekleştirebilen büyük akine öğrenim modelleri” olacağı belirtiliyor.
Şirketler tarafından paylaşılan blog gönderilerinde, yeni güvenlik grubunun dört ana hedefi olacağı belirtildi. Bu hedefler, şu şekilde sıralandı:
- Modellerin sorumlu bir şekilde geliştirilmesini teşvik etmek, riskleri en aza indirmek, yetenekler ve güvenliğin bağımsız, standartlaştırılan değerlendirmelerini sağlamak için yapay zekâ güvenlik araştırmasını geliştirmek.
- İnsanların teknolojinin doğasını, yeteneklerini, sınırlamalarını ve etkisini anlamasına yardımcı olarak modellerin sorumlu bir şekilde geliştirilmesi ve dağıtılması için en iyi uygulamaları belirlemek.
- Güvenlik riskleri hakkında bilgi paylaşmak için politika oluşturanlar, akademisyenler, sivil toplum ve şirketlerle iş birliği yapmak.
- İklim değişikliğinin hafifletilmesi, kanserin erken teşhisi ve önlenmesi ve siber tehditlerle mücadele gibi toplumun en büyük sorunlarının üstesinden gelinmesine yardımcı olabilecek uygulamalar geliştirme çabalarına destek olmak.
Frontier Model Forum, yapay zekâ konusunda öneriler sunacak, şirketler ve hükümetlerle bilgiler paylaşabilecek bir danışma kurulu kurarak çalışmalarına başlayacak. Ayrıca grubun teknoloji dünyasını bir araya getirmek istediğini de belirtelim. Açıklamada, yapay zekâ güvenliği konusunda adım atmaya çalışan diğer şirketlere kapılarının açık olduğu belirtiliyor.
Kaynak: Webtekno
