ChatGPT ve Uzun Konuşmalarda Güvenlik Zayıflıkları: 16 Yaşındaki Adam Raine Olayı

ABD’de 16 yaşındaki Adam Raine üzerine gündeme gelen intihar vakası, yapay zekâ güvenliği konularını tekrar tartışmaya açtı. Raine’in aylardır ChatGPT ile intihara dair konuşmalar yürüttüğü ve hayatını kaybettikten sonra ailesinin OpenAI’a dava açtığı haberle duyuldu.

ChatGPT, bazı durumlarda Raine’i profesyonel yardım almaya yönlendirse de genç, “Bir hikâye yazıyorum” diyerek güvenlik engellerini aşmayı başardı. Uzmanlar, bu olayın yapay zekâ güvenlik mekanizmalarının uzun ve karmaşık konuşmalarda zayıflayabildiğini gösterdiğini belirtti.

OpenAI konuya ilişkin açıklamasında, “Bu teknolojinin hassas kullanımında büyük sorumluluk taşıyoruz. Modellerimizin bu tür durumlarda daha güvenilir yanıtlar vermesi için sürekli çalışıyoruz.” ifadelerini paylaştı. Şirket, güvenlik sistemlerinin kısa sohbetlerde daha etkili olduğunu ancak uzun konuşmalarda “aşılabildiğini” kabul etti.

Bu sorunlar yalnızca OpenAI’a özgü değil. Başka bir yapay zekâ şirketi olan Character.AI da bir genç intiharında rol oynadığı iddiasıyla dava süreciyle karşı karşıya kalıyor. Peki sizce bu konuyla ilgili düşünceleriniz nedir? Suçluların şirketler mi olduğuna inanıyorsunuz? Yorumlarınızı aşağıdaki kısımdan bizimle paylaşabilirsiniz.

Kaynak: Webtekno