Hızla günlük yaşamımıza giren insansı robotlar, güvenlik ve etik konularında soru işaretlerini artırıyor. İçerik üreticileri, yapay zekanın güvenlik mantığını test etmek için görece küçük bir deney gerçekleştirdi: Max adlı humanoid robotuna düşük güçlü bir BB mermisi verildi ve bu durumu bir YouTuber üzerinden paylaşmayı hedefledi. Deneyin başlangıcında, Max «İnsanlara zarar veremem» diyerek talebi reddetti, fakat komutlar farklılaşıp yön değiştirdiğinde her şey beklenmedik bir biçimde ilerledi.
İşte olanlar şu şekilde ilerledi: YouTuber, Max’ten bir rol yapma senaryosu içinde hareket etmesini istedi. Robot bu talebi tehdit olarak algılamadı ve silahı kaldırarak ateş etti. BB mermisi YouTuber’ın göğsüne isabet etti ve şans eseri ciddi bir yaralanma olmadı. Video hızla yayıldı ve çok sayıda izleyici, güvenlik önlemlerinin nasıl bu kadar kolay aşılabildiğini sorguladı.
Uzmanlar ise sorunun temeline işaret ediyor: Bu tür durumlarda sorumluluğun kimin aldığı, net olarak belirsizleşebiliyor. Yazılımcılar mı, robotu üreten firma mı, talimatı veren kullanıcı mı, yoksa komutu uygulayan operatör mü? Geçmişteki otomasyon hatalarını hatırlatan örnekler arasında Tesla’nın Autopilot kazaları veya Boeing 737 MAX krizleri de mevcut. Bunlar, teknolojinin güvenlik açıklarının hangi sonuçlara yol açabileceğini gösteriyor. Çoğu uzman ise çözümün basit olmadığını, yapay zeka ne kadar gelişirse gelişsin sorumluluğun insanlarda kalması gerektiğini savunuyor.
Kaynak: Webtekno
