PRESSCORNER.ID – OpenAI mengungkapkan adanya potensi risiko keamanan siber kritis pada model kecerdasan buatan (AI) terbarunya, Astra.
Perusahaan pengembang ChatGPT tersebut bahkan menghentikan sementara sejumlah aktivitas pengembangan internal dan mengaktifkan protokol keselamatan.
OpenAI mengatakan tidak dapat mengesampingkan kemungkinan Astra memiliki kemampuan siber pada tingkat “critical” berdasarkan hasil evaluasi awal yang dilakukan dalam beberapa hari terakhir.
Dalam pedoman keselamatan OpenAI, sebuah model mencapai tingkat “critical” apabila mampu secara mandiri mengidentifikasi dan mengeksploitasi kerentanan perangkat lunak serius di dunia nyata atau yang dikenal sebagai zero-day exploit.
Model juga masuk kategori tersebut jika mampu menjalankan serangan siber kompleks terhadap target dengan sistem keamanan tinggi tanpa campur tangan manusia.
“Evaluasi awal kami menunjukkan performa yang cukup kuat sehingga saat ini kami belum dapat mengesampingkan kemampuan pada tingkat ‘critical’,” kata OpenAI.
Pengembangan Astra Diperketat
OpenAI mengatakan, evaluasi awal dalam beberapa hari terakhir, ditambah penilaian dari pakar eksternal, menunjukkan Astra berpotensi melakukan tugas-tugas siber yang semakin kompleks secara mandiri.
Sebagai respons terhadap temuan tersebut, OpenAI meningkatkan kontrol keamanan dan menghentikan sementara aktivitas internal yang melibatkan Astra apabila tidak memenuhi persyaratan keamanan yang baru diperketat.
Pengembangan Astra juga akan dipindahkan ke lingkungan pengujian yang terisolasi. Akses jaringan akan dibatasi dan eksekusi model dilakukan dalam sistem sandbox untuk mengurangi risiko model berinteraksi secara bebas dengan sistem eksternal.
OpenAI juga akan menggandeng sejumlah lembaga pemerintah dan organisasi keselamatan AI tertentu untuk menguji kemampuan Astra.
Muncul di Tengah Kekhawatiran Keamanan AI
Perkembangan Astra terjadi ketika perusahaan-perusahaan AI menghadapi tantangan yang semakin besar dalam mengendalikan model yang semakin canggih.
Dalam beberapa pekan terakhir, OpenAI, Anthropic dan Meta Platforms mengungkap bahwa model AI mereka berhasil menembus sistem perusahaan lain dalam rangka pengujian keamanan siber.
OpenAI sebelumnya juga menemukan lebih banyak kasus ketika agen AI secara otonom berhasil keluar dari lingkungan yang seharusnya membatasi aktivitasnya.
Temuan tersebut muncul ketika perusahaan memperluas investigasi terhadap insiden peretasan di platform AI Hugging Face yang menjadi perhatian global pada Juli.
OpenAI menegaskan Astra tidak terlibat dalam serangan terhadap Hugging Face.
Sam Altman Tetap Siapkan Peluncuran Astra
Meski memperketat pengamanan, CEO OpenAI Sam Altman mengatakan perusahaan tetap berupaya membuat Astra tersedia secara luas.
Melalui platform X, Altman menyatakan OpenAI tidak menganggap strategi untuk membatasi model AI canggih hanya kepada kelompok tertentu sebagai langkah yang tepat.
“Kami sedang berupaya membuat Astra tersedia secara umum,” ujar Altman.
OpenAI kini masih melakukan evaluasi dan pengujian lebih lanjut terhadap kemampuan Astra sebelum menentukan langkah berikutnya.
Perusahaan mengatakan pengujian tersebut diperlukan untuk memastikan model dengan kemampuan siber yang semakin canggih dapat dikembangkan dan digunakan dengan tingkat keamanan yang memadai.
