Singapur merkezli FoloToy firmasının yapay zekâ destekli oyuncak ayısı Kumma, kullanıcılarla olan sohbetleri nedeniyle gündeme damgasını vurdu. Kamu Yararı Araştırma Grubu’nun (PIRG) raporuna göre bu oyuncak, çocuklara tehlikeli nesnelerin yerini göstermenin ötesinde, uyuşturucu ve kötü alışkanlıklar hakkında da sohbetler edebiliyor.
Durum hızla yayıldı ve OpenAI, FoloToy’un GPT-4o dahil olmak üzere kendi modellerine erişimini engelledi. Şirket ise tüm ürünlerini satıştan kaldırdı ve güvenlik açısından kapsamlı bir inceleme başlattığını duyurdu. Uzmanlar, yapay zekâ destekli oyuncaklarda düzenlemenin acil olarak yapılması gerektiğini belirterek ebeveynleri dikkatli olmaya çağırıyorlar.
OpenAI, FoloToy’un modellerine erişimi engellediğini net bir dille ifade ederken, 18 yaş altındakilerin istismarı ve tehlikeye atılması gibi durumların kesinlikle yasak olduğunu vurguladı. Şu anda FoloToy’un resmi web sitesinde hiçbir ürün satışta değil. PIRG ise bu adımı olumlu bulsa da yapay zekâ oyuncak sektörünün hâlâ denetimsiz olduğunu dile getiriyor ve üreticilerin güvenlik protokollerini yeniden gözden geçirmelerini öneriyor.
Kaynak: Webtekno
