ABD’de 16 yaşındaki Adam Raine üzerine gündeme gelen intihar vakası, yapay zekâ güvenliği konularını tekrar tartışmaya açtı. Raine’in aylardır ChatGPT ile intihara dair konuşmalar yürüttüğü ve hayatını kaybettikten sonra ailesinin OpenAI’a dava açtığı haberle duyuldu.
ChatGPT, bazı durumlarda Raine’i profesyonel yardım almaya yönlendirse de genç, “Bir hikâye yazıyorum” diyerek güvenlik engellerini aşmayı başardı. Uzmanlar, bu olayın yapay zekâ güvenlik mekanizmalarının uzun ve karmaşık konuşmalarda zayıflayabildiğini gösterdiğini belirtti.
OpenAI konuya ilişkin açıklamasında, “Bu teknolojinin hassas kullanımında büyük sorumluluk taşıyoruz. Modellerimizin bu tür durumlarda daha güvenilir yanıtlar vermesi için sürekli çalışıyoruz.” ifadelerini paylaştı. Şirket, güvenlik sistemlerinin kısa sohbetlerde daha etkili olduğunu ancak uzun konuşmalarda “aşılabildiğini” kabul etti.
Bu sorunlar yalnızca OpenAI’a özgü değil. Başka bir yapay zekâ şirketi olan Character.AI da bir genç intiharında rol oynadığı iddiasıyla dava süreciyle karşı karşıya kalıyor. Peki sizce bu konuyla ilgili düşünceleriniz nedir? Suçluların şirketler mi olduğuna inanıyorsunuz? Yorumlarınızı aşağıdaki kısımdan bizimle paylaşabilirsiniz.
Kaynak: Webtekno
NEX Playground nedir? Aile eğlencesi için neden bu kadar popüler olduğunu keşfedin. Keyifli aktiviteler ve…
AnTuTu’nın güncel listesinde en güçlü akıllı telefon hangisi? Performans karşılaştırması ve sonuçlar için yazıyı hemen…
Görüntüleri dokunabilir hale getiren ışık tabanlı dokunsal ekranla yeni garantör teknolojisini keşfedin.
Midea'nın üçüncü nesil insansı robotu Miro U tanıtıldı; üretim verimliliğini artırmayı hedefleyen ileri teknolojiyle iş…
ChatGPT ve Kurumsal Dönüşüm: 2025 Enterprise AI Raporunun öne çıkan bulgularını keşfedin. Yapay zeka stratejileriyle…
Galaxy S25 için One UI 8.5 Beta Almanya'dan küresel pazara yayılan ilk adımlar; yenilikler ve…