Kar amacı gütmeyen dijital haklar vakfı Fight for the Future ve 27 insan hakları kuruluşu, Zoom’a açık bir mektup yazarak şirketten video konferans platformunda duyguları analiz edebilen AI kullanımını araştırmayı durdurmasını istedi. Gruplar, Zoom’un gelecekte duygusal yapay zekayı ürününe nasıl dahil edeceğini aktif olarak araştırdığını söyleyen bir Protokol haberine yanıt olarak mektubu yazdığını söylüyor.
Bu araştırma, şirketlerin, satış görüşmeleri sırasında potansiyel bir müşterinin duygusal durumunu tespit etmek için yapay zekayı nasıl kullanmaya başladığını inceleyen daha büyük bir çabanın parçası.
Salgının başlaması ile beraber video konferanslar dünya çapında çok daha yaygın hale geldi. Satış görevlileri, vücut dillerini ekrandan okuma yeteneği olmadan, potansiyel müşterilerin ürün ve hizmetlerine ne kadar açık olduklarını ölçmekte zorlanıyorlar. Şirketler, aramalar sırasında insanların ruh hallerini analiz etme yeteneğine sahip teknolojiyi kullanmaya başladılar ve Protokol, Zoom’un aynı hizmeti sağlamayı planladığını söylüyor.
Fight for the Future ve diğer insan hakları örgütleri, çağrılarının Zoom’a planlarından vazgeçmesi için baskı yapmasını umuyor. Teknolojiyi “ayrımcı, manipülatif, potansiyel olarak tehlikeli ve tüm insanların aynı yüz ifadelerini, ses kalıplarını ve beden dilini kullandığı varsayımlarına dayalı” olarak tanımlıyorlar.
Ayrıca bu gruplar; teknolojinin, tıpkı yüz tanıma gibi, doğası gereği önyargılı ve ırkçı olduğuna dikkat çekti. Özelliği dahil ederek Zoom’un belirli etnik kökenlere ve engelli kişilere karşı ayrımcılık yapacağını iddia ediyorlar. Yanlış duyguyu sergiledikleri takdirde öğrencileri veya çalışanları cezalandırmak için kullanılabilmesi de mümkün olabilir.
2021’de Cambridge Üniversitesi profesörü Alexa Hagerty tarafından yönetilen bir proje, duygu tanıma AI’larının sınırlarını ve onları kandırmanın ne kadar kolay olduğunu göstermişti. Daha önceki çalışmalar da duygu tanıma programlarının ırksal önyargı testinde başarısız olduğunu ve siyahi yüzleri okumakta zorlandığını söylüyordu.
Grup, Zoom’un yüz izleme özelliklerinin kullanıma sunulmasını iptal etme kararından bahsederek ve bunu kullanıcıları için doğru olanı yapmak için başka bir fırsat olarak nitelendirerek mektubu sonlandırdı. Şimdi Zoom’dan 20 Mayıs 2022’ye kadar ürününde duygu AI uygulamama taahhüdünde bulunmasını istiyorlar.
Kaynak: Chip
