Bir Yapay Zekâ Hatası Daha: Siyahi Kadın, Yüz Tanıma Sistemi Yüzünden Suçsuz Yere Gözaltına Alındı

Yapay zekâ teknolojileri, üretken araçlarla akıllı telefonlarımızda bile kullanabileceğimiz hâle gelmiş ve milyarlarca kişinin hizmetine sunulmuş olsa da aslında yıllardır hayatımızda büyük bir paya da sahipler. Birçok sektörde bu teknolojiler, güvenlik, öngörü, işleyiş ve kolaylaştırma amaçlı kullanılıyor.

Tabii bazı kullanımlar, zaman zaman tartışmalara yol açabiliyor; ABD’de polis güçlerinin bu sistemleri yüz tanıma için kullanması gibi. Daha önce bu teknoloji yüzünden haksız yere suçlanan vatandaşlar görmüştük. Bunlar arasına yakın zamanda bir yenisi daha katıldı.

Yanlış gözaltıyla yaşananlar:

İki çocuk sahibi ve üçüncü çocuğuna 8 aylık hamile olan 32 yaşındaki siyahi kadın Porcha Woodruff, evinde çocuklarını okula göndermeye hazırlanırken kapısını polisler çaldı. Ekip, Woodruff’ı araba hırsızlığı suçlamasıyla evinden aldı.

Woodruff, bu karşılaşma sırasında “Şaka mı yapıyorsunuz?” sorusunu sorup karnına işaret ederek suç işleyecek durumda bile olmadığını anlatmaya çalışsa da işe yaramadı. Detroit Gözaltı Merkezi’ne götürüldü ve burada 11 saat tutuldu.

Gözaltı sırasında telefonu aranmak üzere elinden alındı, kendisi de işlemediği bir suç için sorguya çekildi. Üstelik gözaltında kaldığı hücre içinde sırt ağrısı çekti, kasılmalar yaşadı. Daha da üstüne, serbest kalabilmesi için 100 bin dolarlık kefalet öngörüldü.

Tabii iş burada bitmedi. Gözaltından çıkan Woodruff, doğrudan hastaneye gitti. Burada kendisine susuzluk teşhisi kondu ve damar yoluyla sıvı takviyesi yapıldı. 

Bir sonraki gün polis departmanına giderek telefonunu aldı, ilerleyen zamanlarda iki kez Zoom üzerinden mahkemeye çıktı. Fakat yargıç, yetersiz delil gerekçesiyle davayı düşürdü.

Fakat tüm bunlar, sadece yanlış çalışan bir yüz tanıma sistemi nedeniyle gerçekleşti ve geçtiğimiz şubat ayında yaşandı.

Yapay zekâ, altıncı kez yanlış kişinin gözaltına alınmasına/tutuklanmasına yol açtı: Hepsinin bir ortak noktası var!

Woodruff, ABD’de yapay zekâ nedeniyle gözaltına alındığı bilinen altıncı kişi ve ilk kadın oldu. Bu altı kişinin tek ortak noktasıysa siyahi olmalarıydı. Vaka, Detroit Polis Departmanı içinse üçüncü vaka oldu.

Şehir polisi, DataWorks Plus tarafından sağlanan bir yüz tanıma sistemini kullanıyor.

Woodruff, bu hafta Detroit şehrine dava açtı:

Yaşanan olayların üzerine Woodruff, salı günü Detroit şehrine karşı dava açtı. Davanın açılmasıyla birlikte Detroit polisinden de açıklama geldi. Şef James E. White, The New York Times’a yaptığı açıklamada durumu ciddiye aldıklarını ifade etti:

Yüz tanıma sisteminin yanlış çalışma mantığı:

• Woodruff’ın yanlış eşleştirilmesine yol açan fotoğrafı (sol) ve şimdiki hali (sağ).

Woodruff’ın yüzünün asıl suçluyla eşleştirilmesinin nedeni, yapay zekâ için geliştirilen sistemdeki açık verebilecek uygulamaydı. Sistem, kişileri daha önce kriminal aktiviteleri olan kişilerle karşılaştırıyordu. Sistemden gelen eşleştirmelerin son onayı ise bir insan tarafından veriliyordu.

Woodruff’ın gözaltına alınmasına neden olan olayı inceleyen analist de eşleşmeyi doğru buldu ve Woodruff’ın adını dedektife gönderdi. Woodruff’ın bu sistemde yüzünün olma nedeni ise 2015 yılında ehliyetsiz araç kullanmaktan göz altına alınmasıydı.

Ancak tek suç sistemde de değil:

Eşleştirmeyi doğru bulan analistin yanı sıra araç hırsızlığının mağduru olan kişi de aralarında Woodruff’ın yer aldığı 6 kişiyi kendi gözüyle gördü, suçlu olarak Woodruff’a işaret etti. Kadının gözaltına alınmasını sağlayan son faktör de aslında buydu.

Detroit polisi, 2020’de yeniden gündemdeydi:

Sadece Detroit değil, ABD’nin farklı bir yerinde daha benzer bir olay yaşanmıştı:

Kaynak:  Webtekno