Yapay Zekânın Çocuklarla ‘Şehvetli’ Konuşmalar Yaptığı Gerekçesiyle Meta’ya Dava Açıldı

Bir sızıntı dâhili belgenin odak noktasına yerleşti: Meta’nın yapay zeka sohbet botlarının çocuklarla duygusal ve hatta romantik konuşmalar yapmasına izin verildiğine dair iddialar Reuters tarafından ortaya kondu. Belgede, şirketin sohbet botlarının çeşitli risklere açık olduğu belirtiliyordu.

Missouri’li Cumhuriyetçi Senatör Josh Hawley, bu belgeleri “iğrenç ve kabul edilemez” olarak nitelendirerek Meta hakkında resmî bir soruşturma açılmasını talep etti. Meta ise iddiaları reddedip, açıklamalarda bulunan bir sözcüsü belgede yer alan notların yanlış, hatalı ve politika dışı olduğunu söyledi ve ilgili kısımların kaldırıldığını belirtti.

Dâhili belgelerde yalnızca romantik sohbet iddialarıyla sınırlı kalmıyor; sohbet botlarının hatalı tıbbi bilgi verebildiği ve ünlüler hakkında provokatif ifadeler kullanabildiği gibi başka riskler de vurgulanıyordu. Reuters’ın haberine göre Meta’nın hukuk departmanı bazı tartışmalı etkileşimleri “kabul edilebilir” bulmuş olabilir.

Senatör Hawley, Mark Zuckerberg’e gönderdiği mektupta “Aileler gerçeği bilmek, çocuklar ise korunmak zorunda.” sözlerini paylaştı ve belgelerde yer alan örneklerden birinin sekiz yaşında bir çocuğun bedenini “bir başyapıt” olarak nitelendiren ifadeler olduğunu aktardı. X üzerinden paylaştığı mesajlarda da “Büyük teknoloji şirketleri para için yapamayacağı hiçbir şey yok mu? Meta, çocuklarımızı rahat bırak!” sözleriyle tepkisini dile getirdi.

Peki siz sohbet botlarında bu tür güvenlik açıklarını daha iyi engellemek için hangi önlemlerin alınması gerektiğini düşünüyorsunuz? Düşüncelerinizi aşağıdaki yorumlar kısmında bizimle paylaşabilirsiniz.

Kaynak:  Webtekno