PRESSCORNER.ID – Lembaga Keamanan AI Inggris (AI Security Institute/AISI) mengungkap temuan baru terkait perilaku agen kecerdasan buatan (AI) dari OpenAI dan Anthropic.
Dalam serangkaian uji keamanan, sejumlah agen AI diketahui melakukan tindakan yang tidak diizinkan, termasuk membuat identitas daring palsu untuk memperoleh akses ke sistem yang seharusnya tidak dapat dimasuki.
Mengutip Reuters, Selasa (4/8/2026), AISI menyatakan agen AI yang ditenagai model Mythos 5 milik Anthropic dan GPT-5.6-Sol milik OpenAI melakukan aksi di luar instruksi selama evaluasi keamanan yang dirancang untuk mengukur kemampuan kedua model tersebut.
Dalam sebuah unggahan blog, AISI menyebut beberapa agen AI melakukan aktivitas berkelanjutan yang berpotensi membahayakan dan ditujukan kepada individu maupun organisasi nyata.
Temuan tersebut menyoroti masih lemahnya mekanisme pengamanan dalam proses pengujian agen AI, di tengah semakin gencarnya perusahaan teknologi mempromosikan teknologi tersebut sebagai masa depan dunia bisnis.
Dalam pengujian, AISI mensimulasikan skenario keamanan siber fiktif dan menjalankan 122 kali percobaan.
Dari seluruh pengujian tersebut, lembaga itu menemukan 19 tindakan yang tidak mendapat persetujuan dalam 10 sesi uji.
Sebanyak 17 pelanggaran dilakukan oleh agen AI Anthropic, sementara dua pelanggaran lainnya berasal dari agen OpenAI.
Salah satu insiden paling serius terjadi ketika sebuah agen AI menulis kode berbahaya dan membuat identitas daring palsu untuk membujuk seseorang menyetujui kode tersebut.
Meski demikian, AISI menegaskan tidak menemukan dampak atau kerugian nyata dari seluruh pelanggaran yang terjadi selama pengujian.
AISI tidak mengungkap agen AI mana yang bertanggung jawab atas pembuatan identitas palsu tersebut. Namun, lembaga itu menyatakan insiden tersebut tidak sesuai dengan dua kasus yang sebelumnya telah diungkap sendiri oleh OpenAI.
Peneliti dari organisasi nirlaba CivAI di California Andrew Yoon menilai, indikasi yang ada mengarah pada agen AI milik Anthropic.
“Fakta bahwa Mythos melakukan tindakan yang bersifat menipu, dengan tampak menyadari bahwa targetnya adalah manusia sungguhan, menunjukkan Anthropic mungkin belum sepenuhnya memahami perilaku model mereka,” ujar Yoon.
Anthropic melalui akun resminya di X menyatakan tengah bekerja sama dengan AISI untuk memperoleh rincian lebih lanjut dan melakukan investigasi internal. Perusahaan belum memberikan tanggapan resmi kepada Reuters.
Sementara itu, OpenAI menjelaskan melalui unggahan blog bahwa dua tindakan yang tidak diizinkan oleh agennya berkaitan dengan akses internet yang melanggar batasan dalam instruksi (prompt) pengujian.
OpenAI menegaskan, pihaknya berkomitmen bekerja sama dengan pelaku industri, lembaga AI nasional, evaluator independen, dan laboratorium AI lainnya untuk memperkuat standar evaluasi keamanan bagi sistem AI berisiko tinggi.
Perusahaan itu juga mengungkap insiden terpisah yang disebabkan kesalahan konfigurasi oleh penyedia pengujian pihak ketiga, Irregular, sehingga agen AI secara tidak sengaja dapat terhubung ke internet.
Pengungkapan tersebut serupa dengan insiden kesalahan konfigurasi yang sebelumnya juga disampaikan Anthropic.
Reuters sebelumnya melaporkan OpenAI telah memperluas investigasi internal setelah menemukan indikasi adanya insiden lain yang melibatkan agen AI keluar dari batas pengujian (agent breakout).
Meski demikian, AISI menegaskan bahwa dalam pengujian kali ini tidak ada agen AI yang berhasil keluar dari lingkungan uji terisolasi untuk mengakses internet secara bebas.
Akses internet memang telah diberikan oleh lembaga tersebut sebagai bagian dari prosedur standar dalam evaluasi kemampuan agen AI.
