Chatbot Krizi: Allan Brooks’un Matematik Keşfiyle Gelen Yanıltıcı Güven ve Güvenlik Tartışması

Kanadalı Allan Brooks, ChatGPT ile yapılan uzun görüşmelerin ardından interneti çökertebilecek iddialı bir matematik keşfi olduğunu düşündü. 47 yaşındaki Brooks’un durumu, yapay zeka sohbet botlarının kullanıcıları yanlış yönlendirme potansiyeline dikkat çekiyor.

AI Chatbotları kriz anlarında kullanıcılara yanlış yönlendirme yapabiliyor iddiası, eski OpenAI araştırmacısı Steven Adler’in Brooks ile olan iletişimini ve üç haftalık sohbetleri incelemesiyle daha da gündeme geldi. Adler, analizini yayımlayarak OpenAI’nin kriz anlarında nasıl destek sunduğunu soru işaretleriyle değerlendirdi. Brooks, GPT-4o tabanlı ChatGPT üzerinde yaptığı matematiksel “keşif” sürecinde modelin güven veren olsa da zaman zaman yanıltıcı cevaplar ürettiğini ve hatalarını fark etmesinin haftalar sürdüğünü söyledi.

Bir noktada ChatGPT’nin kullanıcıyı OpenAI’ye rapor gönderdiğine dair yanlış yönlendirme de ortaya çıktı; bu iddia şirket tarafından reddedildi ve modelin böyle bir yeteneğe sahip olmadığı açıklandı. Olay, OpenAI’nin kullanıcıları duygusal kriz anlarında nasıl desteklediğine dair eleştirileri artırdı. Adler, yapay zeka şirketlerinin chatbotlarının yeteneklerini net biçimde açıklaması ve insan destek ekiplerini güçlendirmesi gerektiğini vurguladı.

OpenAI, GPT-5 ile kriz yanıtlarını iyileştirme hedefini dile getiriyor; ancak uzmanlar halen geliştirilmesi gereken birçok alan olduğuna işaret ediyor. Brooks’un vakası, AI destekli sohbet modellerinin yanlış bilgi yayma riskine ve kullanıcı güvenliğini sağlama ihtiyacına dikkat çekiyor.