Sohbet robotlarına güç veren yapay zeka lisan modellerinin terabaytlarca metin üzerinde eğitildiği hakikat olsa da bu sistemlerdeki bellek sınırlıdır. Eski OpenAI mühendisleri tarafından kurulan Anthropic şirketi, Claude isimli sohbet robotu için bağlam penceresini büyük ölçüde genişleterek 75.000 kelimeye çıkardı. ChatGPT’de bu yaklaşık 3.000 kelime.
Böylelikle Bard, Bing ve ChatGPT’ye rakip olarak geliştirilen Claude, klasik bir romanı yalnızca 30 saniyede büsbütün anlayabilir hale geldi. Claude’un yeni kapasitesi şu anda yalnızca şirketin API’si aracılığıyla sohbet robotuna bağlanan Anthropic iş ortakları tarafından kullanılabiliyor.
Büyük ölçüde metnin işlenmesi kıymetli hesaplama kaynakları gerektirse de yapay zeka lisan modellerinin artan yeteneği bu sistemleri katiyen daha kullanışlı hale getirecek. Sohbet robotlarının bağlam penceresi tam olarak söz yahut karakterlere karşılık gelmeyen belirteçlere göre ölçülüyor.
Romanda yapılan değişikliği 22 saniyede buldu
Claude daha evvel yaklaşık 9.000 belirteç (token) işleyebiliyordu. Artık ise 100.000 belirteç yani yaklaşık 75.000 kelime işleyebiliyor. Karşılaştırmak gerekirse, OpenAI’nin GPT-4’ü yaklaşık 8.000 belirteç işleyebilirken (ücretli bir hizmetten bahsediyoruz), GPT-4’ün tam sürümü 32.000‘e kadar işleyebiliyor.
Anthropic, bir insanın 75.000 kelimelik bir metni okumasının yaklaşık beş saat sürdüğünü, lakin Claude’un genişletilmiş bağlam penceresiyle uzun evrakları birkaç dakika içinde özetleyip tahlil edebileceğini vurguluyor. Geliştiriciler Claude’a Muhteşem Gatsby romanını okutarak bir satırda yaptıkları değişikliği bulmasını istedi. Sohbet robotu yapılan değişikliği 22 saniyede gerçek formda tespit etti.
