Jakarta –
OpenAI memblokir akun dari sekelompok pengguna asal China yang mencoba menggunakan ChatGPT untuk men-debug dan mengedit kode untuk alat pengawasan media sosial AI.
Kampanye yang disebut OpenAI sebagai Peer Review, membuat kelompok tersebut meminta ChatGPT untuk membuat promosi penjualan untuk sebuah program yang menurut dokumen-dokumen tersebut dirancang untuk memantau sentimen anti-China di X, Facebook, YouTube, Instagram, dan platform lainnya.
Operasi ini tampaknya sangat tertarik untuk menemukan seruan protes terhadap pelanggaran hak asasi manusia di China, dengan tujuan berbagi wawasan tersebut dengan pihak berwenang negara tersebut.
“Jaringan ini terdiri dari akun ChatGPT yang beroperasi dalam pola waktu yang konsisten dengan jam kerja di China daratan, meminta model kami dalam bahasa Mandarin, dan menggunakan alat kami dengan volume dan variasi yang konsisten dengan permintaan manual, bukan otomatisasi,” kata OpenAI sebagaimana dikutip detikINET dari Engadget, Minggu (23/2/2025).
“Operator menggunakan model kami untuk mengoreksi klaim bahwa wawasan mereka telah dikirim ke kedutaan besar China di luar negeri, dan kepada agen intelijen yang memantau protes di negara-negara termasuk Amerika Serikat, Jerman, dan Inggris,” sambungnya.
Menurut Ben Nimmo, seorang peneliti utama di OpenAI, ini adalah pertama kalinya perusahaan tersebut menemukan alat AI semacam ini.
“Pelaku ancaman terkadang memberi kita gambaran sekilas tentang apa yang mereka lakukan di bagian lain internet karena cara mereka menggunakan model AI kami,” kata Nimmo kepada The New York Times.
Sebagian besar kode untuk alat pengawasan tampaknya didasarkan pada versi sumber terbuka dari salah satu model Llama milik Meta. Kelompok ini juga tampaknya telah menggunakan ChatGPT untuk membuat tinjauan kinerja akhir tahun di mana mereka mengklaim telah menulis email phishing atas nama klien di China.
“Menilai dampak dari aktivitas ini akan membutuhkan masukan dari berbagai pemangku kepentingan, termasuk operator model open-source yang dapat menjelaskan aktivitas ini,” kata OpenAI tentang upaya operasi menggunakan ChatGPT untuk mengedit kode untuk alat pengawasan media sosial AI.
Secara terpisah, OpenAI mengatakan bahwa mereka baru-baru ini melarang sebuah akun yang menggunakan ChatGPT untuk membuat postingan media sosial yang mengkritik Cai Xia, seorang ilmuwan politik yang dianggap membangkang China yang tinggal di AS dalam pengasingan.
Kelompok yang sama juga menggunakan chatbot untuk membuat artikel dalam bahasa Spanyol yang mengkritik AS. Artikel-artikel ini diterbitkan oleh organisasi berita ‘arus utama’ di Amerika Latin dan sering kali dikaitkan dengan individu atau perusahaan China.
(jsn/rns)
