Google Jigsaw’dan tacize Karşı Yeni Bir Araç Geliyor

Google’ın Jigsaw birimi, Taciz Yöneticisi (Harassment Manager) adlı açık kaynaklı bir taciz önleme aracının kodunu yayınlıyor. Gazeteciler ve diğer kamusal kişiler için tasarlanan araç, kullanıcıların Twitter’dan başlayarak sosyal medya platformlarında potansiyel olarak kötüye kullanım amaçlı yorumları sıralamasına imkan tanımak için Jigsaw’ın Perspektif API’sini kullanıyor. Geliştiricilerin geliştirmeleri için kaynak kodu olarak yayınlanmasının ardından araç, Haziran ayında Thomson Reuters Vakfı gazetecileri için işlevsel bir uygulama olarak piyasaya sürülecek.

Taciz Yöneticisi, tweet yanıtlarını gizleme ve hesapları sessize alma veya engelleme gibi denetleme seçeneklerini toplu filtreleme ve raporlama sistemiyle birleştirmek için şu anda Twitter’ın API’siyle birlikte çalışabiliyor. Perspektif, tehditler, hakaretler ve küfür gibi unsurlara dayalı olarak mesajların dilini “toksisite” düzeyleri açısından kontrol ediyor. Mesajları, kullanıcıların Twitter’ın varsayılan denetleme araçları aracılığıyla tek tek değil toplu olarak ele alabilecekleri bir gösterge panosunda sıralamalarına imkan tanıyor ve kullanıcılar burada mesajların metnini bulanıklaştırmayı seçebiliyor. Böylece her birini okumalarına gerek kalmıyor ve otomatik olarak oluşturulan sıraları kullanmanın yanı sıra anahtar kelimeleri arayabiliyorlar.

Taciz Yöneticisi ayrıca kullanıcıların kötüye kullanım amaçlı mesajlar içeren bağımsız bir rapor indirmesine de imkan tanıyarak, işverenleri veya doğrudan tehditler gibi yasa dışı içerik olması durumunda kolluk kuvvetleri için bir iz oluşturulmasını sağlıyor. Ancak şimdilik, kullanıcıların indirebileceği bağımsız bir uygulama bulunmuyor. Bunun yerine geliştiriciler, Thomson Reuters Vakfı gibi ortaklar tarafından başlatılacak olan, işlevselliğini ve hizmetlerini içeren uygulamaları özgürce oluşturabilecek.

Google, daha önce de otomatik denetleme için Perspektif’ten yararlanmıştı. 2019’da, sosyal medya kullanıcılarının toksik olma olasılığı yüksek mesajları görmekten kaçınmasına izin veren Tune adlı bir tarayıcı uzantısı da yayınladı ve birçok yorum platformu tarafından insan denetimini desteklemek için kullanıldı.

Ancak Perspektif ve Tune’ın piyasaya sürülmesi sırasında dil analizi modeli tarihsel olarak mükemmel olmaktan uzaktı. Bazen hiciv içeriğini yanlış sınıflandırılabiliyor veya kötüye kullanım amaçlı mesajları tespit edemeyebiliyordu. 

Twitter ve Instagram gibi hizmetlerde yapay zeka destekli denetlemenin aksine, Taciz Yöneticisi platform tarafı denetleme özelliği değil. Görünüşe göre, sosyal medya geri bildirimlerinin bazen muazzam olabilen ölçeğini yönetmeye yardımcı olmak için bir sıralama aracı. Şimdilik kullanamasalar bile, gazetecilik alanının çok dışındaki insanlar için bile kullanışlı olacağını düşünüyoruz…

Kaynak:  Chip