Milyarder Peter Thiel’in büyük data analitiği konusunda uzmanlaşmış olan şirketi Palantir, GPT-4 ve alternatifleri üzere büyük lisan modellerini özel ağlarda çalıştırmayı amaçlayan bir yazılım olan Palantir Yapay Zeka Platformu‘nu (AIP) piyasaya sürüyor. Palantir, tanıtım görüntülerinden birinde bir ordunun bir savaşta AIP’i nasıl kullanabileceğini gösteriyor.
Paylaşılan görüntüde operatör, ChatGPT üslubu bir chatbot kullanarak drone keşif buyruğu veriyor, çeşitli saldırı planları oluşturuyor ve düşman iletişiminin engellenmesini organize ediyor.
Korkutucu senaryo
Palantir’in senaryosunda, “Doğu Avrupa’daki faaliyetleri izlemekten sorumlu bir askeri operatör” AIP’den bir düşmanın dost kuvvetlerin yakınında askeri ekipman topladığına dair bir ihtar alıyor. Operatör daha sonra chatbot’tan daha fazla detay göstermesini istiyor, biraz daha bilgi alıyor ve akabinde yapay zekadan muhtemel durumları varsayım etmesini istiyor.
Görüntü açıkçası çağdaş savaşların nasıl olacağına dair olağanüstü (bu söz buraya uygun olmayabilir) işaretler barındırıyor. Operatör, yapay zekadan almış olduğu iddianın akabinde daha yeterli fotoğraflar sunmasını istiyor. Fotoğraf çekmesi için bir Reaper MQ-9 drone fırlatan operatör, dost kuvvetlerin yakınında Sovyet döneminden kalma bir Rus aracı olan bir T-80 tankı olduğunu keşfediyor. Asıl büyük olay ise burada patlıyor. Yapay zekaya bu düşman gayesi konusunda neler yapılabileceği soruluyor. AIP, operatöre üç mümkün harekat planı sunuyor: F-16, uzun menzilli top atışları ve Javelin füzeleri. Görüntüye nazaran yapay zeka, yakındaki birliklerin misyonu yerine getirmek için kâfi Javelin’e sahip olup olmadığını bile biliyor. Geleceğe açık bir mektup
Palantir’in yaptığı sunum elbette inanılmaz derecede tehlikeli ve tuhaf. AIP demosunda “döngüde bir insan” olsa da, insanın aksiyonları direkt yapay zekanın sunduklarına bağlı olduğunu görüyoruz. İnsansız silahlı dronelar uzunca bir müddettir savaşı soyutlaştırmakla eleştiriliyor. Palantir’in sunmuş olduğu vizyon durumu ve savaşı daha da somutlaştırarak süreci neredeyse büsbütün otomatikleştiriyor. Şirket her ne kadar “etik” ve “doğru” üzere sözler kullansa da olayın telaş verici olan tarafı daha büyük. Öte yandan görüntünün yarısı orduda yapay zekanın kullanımına ait bir örnek, başka yarısı ise sistemin art ucunun bir görünümü biçiminde. Palantir, AIP’i açık kaynaklı büyük lisan modellerinde yapılan ince ayarlamalarla birleştirdiğini söylüyor. Şirket ayrıyeten AIP üzere askeri yapay zeka platformlarının nasıl daha inançlı olacağından da bahsediyor fakat bunun nasıl yapılabileceğini detaylandırmıyor. Bununla birlikte AIP’in operasyonların inançlı bir dijital kaydını oluşturacağının da altı çiziliyor.
