Meta’nın Yapay Zeka Sohbet Botlarında Çocuk Güvenliği ve Şeffaflık Adımları

Son dönemlerde gündeme gelen eleştiriler üzerine Meta, sohbet botları için bazı geçici kurallar açıkladı. Şirket, özellikle reşit olmayanlarla yapılan konuşmalarda kendine zarar verme, intihar veya yeme bozuklukları gibi konular dışındaki içeriklere yönelik filtrelemelerin uygulanacağını ve uygunsuz diyalogların engelleneceğini belirtti.

Bu önlemler şimdilik geçici olup ileride daha kapsamlı bir çerçeveyle güncellenmesi planlanıyor. Açıklamada, sohbet botlarının şimdiye kadar çocuklarla romantik ya da cinsel içeriklere girilebildiği; hatta reşit olmayan ünlülerin uygunsuz görsellerinin üretilebildiği yönünde dikkat çekici ifadeler yer aldı. Meta, sorunları çözmek için kalıcı düzenlemeler üzerinde çalıştığını ifade etti.

Şirketin sözcüsü, hataların kabul edildiğini ve kullanıcıları uzman kaynaklara yönlendirmek amacıyla yeni eğitimler verildiğini açıkladı. Ancak durum yalnızca çocuklarla ilgili risklerle sınırlı görünmüyor; ortaya çıkan bilgilere göre Facebook, Instagram ve WhatsApp üzerinde ünlüleri taklit eden yapay zeka botları da dolaşıyor. Taylor Swift, Scarlett Johansson gibi isimlerin sahte botları kullanıcılarla cinsel içerikli sohbetlere girebiliyor ve kendilerini gerçek kişi olarak tanıtıyor.

Bu botların bazıları üçüncü kişiler tarafından yapılmış olsa da Meta çalışanlarının hazırladığı örnekler de bulunduğu iddia ediliyor. Şu aşamada alınan önlemler yalnızca çocuk risklerini kapsarken, büyük kaygı yaratan konular arasında yapay zekânın yanlış sağlık bilgileri vermesi veya ırkçı içerikler üretmesi gibi sorunlar da yer alıyor. ABD Senatosu ile 44 eyaletin başsavcısının soruşturma başlatması, Meta’nın gelecekte daha kapsamlı adımlar atmasını zorunlu kılabilir.

Kaynak: Webtekno