Yapay Zeka Şirketlerinin Felaket Riskleri Yönetimindeki Yetersizlikler: AI Güvenlik Endeksi

Son dönemde yayımlanan bir rapor, önde gelen büyük yapay zeka firmalarının felaket düzeyindeki riskleri yönetmede beklenen başarıyı gösteremediğini ortaya koyuyor. Future of Life Institute tarafından hazırlanan AI Safety Index, sekiz önde gelen yapay zekâ şirketinin “somut güvenlik önlemleri, bağımsız denetim ve uzun vadeli risk yönetim stratejilerinden” yoksun olduğunu belirtti.

ABD merkezli şirketler kıyaslandığında daha iyi puanlar alırken, Anthropic listenin başında yer aldı. Onu OpenAI ve Google DeepMind takip etti. Çin merkezli firmalar ise en düşük skorları elde etti; Alibaba Cloud ve DeepSeek listenin son sıralarında bulundu.

Yapay zekâ şirketleri felaket risklerini yönetmede sınıfta kaldı ifadesi raporun dikkat çekici bulgularından biri olarak öne çıkıyor. Varoluşsal risk kategorisinde hiçbir firma D’nin üzerine çıkamazken, Alibaba Cloud, DeepSeek, Meta, xAI ve Z.ai bu alanda F notunu aldı. Rapor, süper zekâ geliştirme hızı ile güvenlik planlarının birbirine olan uçurumunun alarm verici boyutta olduğuna vurgu yapıyor.

Yazarlar, şirketlerin güvenlik değerlendirmelerinde daha şeffaf olması ve kullanıcıları kısa vadeli risklerden—örneğin yapay zekâ kaynaklı bilişsel dengesizlik veya yanlış yönlendirme—daha iyi korumaları gerektiğini belirtti. UC Berkeley’den bilgisayar bilimi profesörü Stuart Russell, “Şirket CEO’ları süperinsan yapay zekâ geliştirmeyi bildiklerini iddia ediyor, fakat kontrol kaybını nasıl önleyeceklerini kimse gösteremiyor,” diyerek durumu özetledi.