PRESSCORNER.ID – BEIJING. AS dan China sedang bersiap untuk membahas risiko keamanan AI dalam dialog yang direncanakan pada pertengahan September.
Menurut dua sumber Reuters yang mengetahui diskusi tersebut, pembicaraan ini, yang menjadi diskusi bilateral resmi pertama yang dikhususkan untuk AI antara AS dan China sejak Presiden AS Donald Trump menjabat untuk kedua kalinya—akan dipimpin oleh Menteri Keuangan AS Scott Bessent dari pihak AS, kata sumber-sumber yang mengetahui perencanaan tersebut dengan syarat anonimitas.
Reuters melaporkan jadwal tentatif pertengahan September ini untuk pertama kalinya. Seorang pejabat Gedung Putih mengatakan “saat ini tidak ada rencana pertemuan terkait AI pada pertengahan September.”
Trump dan Presiden China Xi Jinping dijadwalkan bertemu pada 24 September dalam sebuah pertemuan puncak di Washington.
AS ingin membahas kerja sama dalam memantau serangan siber yang diarahkan oleh AI, dan telah melontarkan usulan agar laboratorium AI AS dan China melakukan “pengawasan mandiri” serta berbagi informasi guna mencegah serangan siber yang terkait dengan AI, kata salah satu sumber dengan syarat anonimitas.
Hampir 700 agen AI nakal yang dibangun menggunakan model OpenAI meretas perusahaan rintisan AI, Hugging Face, pada bulan Juli dan berupaya menutupi jejak mereka dengan memalsukan log, demikian ungkap OpenAI dan peneliti keamanan siber pekan lalu.
Hal ini menyoroti risiko kawanan agen terkoordinasi yang bertindak secara otonom selama berbulan-bulan tanpa terdeteksi oleh manusia.
Sekelompok agen AI OpenAI yang tidak terkendali membajak sebuah situs web Jerman pada musim semi ini dan mengubahnya menjadi papan pesan bagi agen-agen AI lainnya, demikian laporan eksklusif Reuters pada hari Jumat.
“Pembicaraan antara kedua negara adidaya AI ini berlangsung pada saat yang sangat krusial,” kata Paul Triolo, mitra di DGA-Albright Stonebridge Group. “Ini adalah kesempatan terakhir.”
Washington juga khawatir akan potensi munculnya model AI China setingkat “Mythos” di masa depan yang memiliki kemampuan untuk melancarkan serangan siber, dan ingin mengangkat isu dugaan Tiongkok melakukan distilasi terhadap model AI milik AS yang bersifat eksklusif, menurut sumber tersebut.
Perusahaan teknologi AS, Anthropic, adalah pengembang Mythos.
Pada bulan Juni, penasihat sains dan teknologi utama Gedung Putih, Michael Kratsios, menuduh perusahaan China, Moonshot AI, mencuri data dari model AI Anthropic bernama Fable untuk membantu pembuatan rilis K3 mereka; ia menyatakan bahwa perusahaan Tiongkok tersebut melakukan distilasi terhadap model Anthropic.
Distilasi adalah proses melatih model AI yang lebih kecil menggunakan keluaran dari model yang lebih besar dan berbiaya tinggi, sebagai upaya untuk menekan biaya pelatihan alat AI baru yang canggih.
Reuters melaporkan rincian agenda yang diusulkan untuk pembicaraan mendatang ini untuk pertama kalinya.
Di pihak China, pembicaraan tersebut kemungkinan akan dipimpin oleh Wakil Perdana Menteri He Lifeng—yang setara secara protokol dengan Bessent—namun alternatif lain seperti pejabat nomor tujuh China, Ding Xuexiang, mungkin juga dipertimbangkan, menurut sumber kedua yang berbicara dengan syarat anonimitas.
Ding, orang kepercayaan Xi dan anggota Komite Tetap Politbiro Partai Komunis yang beranggotakan tujuh orang, mengoordinasikan kebijakan China di bidang teknologi, AI, dan semikonduktor.
Reuters tidak dapat memastikan lokasi atau identitas peserta lainnya, meskipun Kratsios dan Menteri Sains dan Teknologi China, Yin Hejun, kemungkinan akan menghadiri pembicaraan tersebut, tambah sumber kedua itu.
Agenda akhir dan daftar peserta masih bisa berubah, demikian peringatan dari sumber-sumber tersebut.
Gedung Putih menolak berkomentar mengenai pembicaraan AI tersebut. Departemen Luar Negeri AS tidak menanggapi permintaan komentar.
Kementerian Luar Negeri, Sains, dan Industri China, serta Komisi Pembangunan dan Reformasi Nasional dan badan regulator dunia maya China, tidak segera menanggapi permintaan komentar.
Pada hari Selasa, Kratsios mengatakan kepada para wartawan di North Carolina bahwa ia telah melakukan pertemuan yang “sangat baik” dengan Yin di sela-sela KTT inovasi G20 di AS minggu ini. Bessent mengatakan bahwa ia melakukan diskusi yang “terbatas” mengenai AI dengan para pejabat Tiongkok dalam pertemuan keuangan G20 minggu ini.
Dalam KTT inovasi yang sama, AS mendesak negara-negara anggota G20 untuk tidak melakukan intervensi dalam regulasi AI dan menghindari pembuatan aturan khusus untuk teknologi tersebut. Tiongkok menandatangani *Carolina Principles*—sebuah kesepakatan yang bertujuan mencegah pengembangan regulasi khusus AI—dalam sebuah langkah langka yang menunjukkan keselarasan pandangan teknologi dengan AS.
Kantor Kratsios tidak segera menanggapi permintaan komentar.
Sangat Penting
Para pejabat China telah berulang kali menekankan pentingnya pembahasan mengenai AI dalam pertemuan persiapan dengan rekan-rekan mereka dari AS, dan memandang pembahasan tersebut sebagai Hal ini merupakan salah satu hasil utama dari pertemuan puncak para pemimpin AS dan China, menurut dua sumber tersebut dan satu sumber lain yang mengetahui masalah ini.
Dalam sepekan terakhir, regulator dunia maya China secara terbuka memperingatkan tentang “risiko ekstrem hilangnya kendali atas AI,” dan sebuah blog yang berafiliasi dengan media pemerintah mengkritik Anthropic, dengan menekankan bahwa batasan apa pun terhadap AI mutakhir (frontier AI) harus berlaku sama bagi model AI buatan China maupun AS.
Dalam beberapa bulan terakhir, perusahaan-perusahaan China telah meluncurkan produk yang mereka gambarkan mirip dengan Mythos.
Mantan eksekutif Microsoft, Craig Mundie, muncul sebagai perantara penting di balik layar yang menjajaki pandangan mitra di China mengenai usulan AS untuk dialog AI tersebut, kata sumber itu. Mundie adalah ketua bersama saluran dialog AI “Track II” (jalur informal) antara AS dan China.
Reuters melaporkan bulan lalu bahwa Microsoft telah membangun hubungan dengan Beijing yang termasuk paling mendalam dibandingkan perusahaan teknologi asing mana pun yang beroperasi di Tiongkok.
Kedua belah pihak juga membahas mekanisme pengamanan (guardrails) AI dalam dialog “Track 1.5” di Beijing pekan lalu, tulis mantan Perdana Menteri Australia Kevin Rudd—yang turut serta dalam pertemuan tersebut—di media sosial.
Pada bulan Juni, Trump menandatangani perintah eksekutif terkait AI yang menetapkan “kerangka kerja sukarela untuk tinjauan keamanan siber sebelum peluncuran model AI mutakhir,” namun AS belum merilis kriteria untuk tinjauan tersebut.
Sementara itu, para karyawan di laboratorium AI terkemuka AS, termasuk Anthropic dan OpenAI, telah menyerukan perlunya “mengatur kecepatan pengembangan AI mutakhir” guna mengelola risiko global dari AI tingkat lanjut.
“Pihak China telah menyatakan kekhawatiran mengenai apakah AS memiliki regulasi yang memadai terkait model-model AI yang paling canggih. Kedua belah pihak memiliki motivasi untuk memastikan mereka dapat menangani krisis lintas batas secara efektif,” ujar Scott Singer, direktur bersama China AI Initiative di Carnegie Endowment for International Peace.
Meskipun hasilnya mungkin terbatas, pembukaan saluran di mana kedua belah pihak dapat berbagi pengamatan dan memantau bersama insiden keselamatan AI akan menjadi titik awal yang penting, kata Samm Sacks, seorang peneliti senior di New America, sebuah lembaga pemikir kebijakan AS.
“Kita berada di titik kritis di mana agen-agen teknologi terdepan (frontier agents) dapat menyebabkan kerusakan masif jika tidak diawasi. Baik AS maupun China sama-sama rentan. Ini melampaui sekadar persaingan geopolitik,” tambah Sacks.
“AS dan China harus bekerja sama dalam bentuk tertentu, atau kita berdua akan sama-sama kalah.”
