Çin’de, ChatGPT ile düzmece haber hazırlayıp yaydığı tez edilen bir Çinli tutuklandı

Çin polisi, yanlış bilgi yaydığı teziyle Çinli bir adamı tutukladı. Bu öyküyü farklı kılansa, adamın bahsi geçen haberi tanınan AI sohbet robotu ChatGPT’yi kullanarak hazırlamış olması.

South China Morning Post (SCMP) tarafından bildirildiği üzere, Kuzey Çin’deki Gansu eyaletinde polis, 25 Nisan tarihinde dokuz kişinin hayatını kaybettiğinin söylendiği bir tren kazasına dair uydurma makaleler yazdığı argüman edilen adamı tutukladı.

SCMP haberine nazaran polis, adamın soyadının Hong olduğunu bildirdi ve geçersiz öyküyü oluşturmak için ChatGPT’yi kullandığını, akabinde da çevrimiçi olarak birden fazla blog aracılığıyla yaydığını argüman etti. Hong, muhaliflere ve aktivistlere karşı kullanılan siyasi bir hata olan “çatışma ve sorun çıkarmakla” suçlandı. Bu suçlama, beş ile on yıl ortasında mahpus cezasıyla sonuçlanabiliyor.

Söz konusu haberin Çin blog platformu Baijiahao’daki birkaç düzine hesaba gönderildiği sav ediliyor. Polisin, Hong’un Baijiahao’nun tıpkı içeriği birden fazla hesaba gönderme konusundaki kısıtlamalarını atladığını ve yaklaşık 15.000 tıklama elde etmek için haber makalesinin birden çok farklı sürümünü oluşturmak üzere ChatGPT’ye birkaç trend kıssa koyduğunu tez ettiği bildirildi. Hong’un birden fazla blog çeşidi satış noktası işleten bir şirketin sahibi olduğu argüman ediliyor. Platformların, Çin’in güneyindeki büyük bir teknoloji işletmesi ve üretim merkezi olan Shenzhen’de kayıtlı olduğu bildiriliyor.

Çin’in Siber Ortam Yönetimi, Ocak ayında insanların yapay zekayı deepfake (sahte konuşma ve imaj içerikleri) oluşturmak için kullanmasını kısıtlayan yeni bir yasa çıkardı. Yasa, görüntü ve ses canlandırmalarına ek olarak, onaylı yayın organları listesi dışında yapay zeka tarafından oluşturulan haber öykülerini sınırlıyor.

ChatGPT’ye Çin’de VPN ile erişilebiliyor

Çinli kullanıcılar ChatGPT’ye bir VPN aracılığıyla erişebilse de, Çinli firmalar ülkenin katı sansür siyasetlerine uyacak kendi sohbet robotlarını oluşturuyor. Baijiahao blog platformunun da sahibi olan Baidu üzere şirketler, şimdiden kendi üretken yapay zeka sistemleri üzerinde ağır bir halde çalışıyor.

Bu olay Çin’in yeni AI zıddı yönergeleri kapsamındaki birinci tutuklamalardan biri olsa da, yasanın siyasi çağrışımı (geçmişte, Çin’in kimi büyük tren kazalarını örtbas ederek bu kazalar hakkındaki haberleri düzmece olarak yasakladığı argüman ediliyor) tutuklamayı memleketler arası seviyede sorgulanan bir noktaya taşıyor. Gansu polisinin bilhassa ChatGPT kullanımına atıfta bulunması yeni bir şey, fakat polisin insanları söylentileri yaydığı teziyle tutukladığı birinci sefer değil. Gansu polisinin, 2013 yılında, sırf Yang olarak tanımlanan lise çağındaki bir çocuğu internette “söylentiler” yaydığı savıyla tutukladığı konuşuluyor. Genç adamın, birtakım protestolara yol açan bir karaoke kulübünün çatısından düşerek ölen bir adam hakkında polisin ne kadar uygun soruşturma yürüttüğünü sorgulamıştı.

Ancak ChatGPT üzere sohbet robotlarının başka yeteneklerinin yanı sıra palavra söylemekte de çok yeterli olduklarını belirtmekte yarar var. Avustralya’daki mahallî bir siyasetçi, AI tarafından yanlış bir halde karar giymiş bir hatalı olduğunun tez edildiğini söyleyerek, sohbet robotu üreticisi OpenAI’ye iftira davası açtı. Yeniden de bu, hükümetlerin yapay zekayı legal haberleri reddetmenin bir yolu olarak görmediği manasına gelmiyor. Son vakitlerde, AI ile çalışan sivil özgürlük kümeleri, baskıcı hükümetlerin legal haberleri itibarsızlaştırmak için “hepsi AI tarafından uyduruluyor” mazeretini kullanacaklarına dair telaşlarını paylaştı.