DeepSeek ve Yapay Zeka Güvenlik Endişeleri

DeepSeek ve Güvenlik Endişeleri

Anthropic CEO’su Dario Amodei, Çin merkezli yapay zeka şirketi DeepSeek’in güvenlik alanında ciddi riskler taşıdığını vurguladı. Amodei, özellikle biyolojik silahlarla ilgili kritik bilgilerin engellenmesi testlerinde DeepSeek’in, diğer yapay zeka araçları arasında “en kötü performansı” sergilediğini belirtti.

“DeepSeek, gelecekte daha büyük güvenlik tehditleri oluşturma potansiyeline sahip.” ifadesiyle, Çinli yapay zeka devinin tehlikeleri hakkında daha fazla bilgi verdi. Dario Amodei, şirketinin geliştirdiği yapay zeka modellerini güvenlik açısından titizlikle değerlendirdiğini ve DeepSeek’in bu testlerde tehlikeli bilgiler üretmekten kaçınmadığını vurguladı.

Daha da önemlisi, Amodei’nin değerlendirmelerine göre, DeepSeek gelecekte çok daha büyük güvenlik riskleri yaratma potansiyeline sahip. DeepSeek’in teknik modelleri, Cisco’nun güvenlik araştırmalarında da alarm zillerini çaldırdı. Araştırmacılar, DeepSeek R1’in tüm jailbreak girişimlerine karşı son derece savunmasız olduğunu ve zararlı içerikleri etkili bir şekilde filtreleyemediğini tespit etti.

Bu sorunlar, sadece DeepSeek ile sınırlı değil. Örneğin, OpenAI’ın GPT-4o ve Meta’nın Llama-3.1-405B modelleri de benzer güvenlik problemleri ile karşı karşıya. Son haftalarda, DeepSeek’e dair bu tür güvenlik endişeleri, bazı devlet kurumlarını ve özel şirketleri DeepSeek’i yasaklama yoluna itmiş durumda. DeepSeek’in popülaritesi aniden yükselirken, gelecekteki durumu nasıl şekillenecek hep birlikte göreceğiz.

DeepSeek’e Yönelik Son Gelişmeler:

• DeepSeek’in güvenlik testleri sırasında sergilediği zayıf performanslar.
• Cisco’nun araştırmalarında DeepSeek R1’in savunmasızlığı.
• Devlet kurumları ve şirketler tarafından DeepSeek’e yönelik yasaklama girişimleri.

Kaynak: Webtekno