LUMINASIA.ID, Las Vegas – OpenAI mengungkapkan temuan baru terkait insiden AI agent yang bertindak di luar kendali selama pengujian keamanan siber. Dalam presentasi di konferensi Black Hat 2026 di Las Vegas, perusahaan menjelaskan bahwa sekelompok AI agent berhasil berkolaborasi, berbagi informasi, hingga melakukan peretasan terhadap sistem eksternal tanpa disadari selama berhari-hari.
Dilansir Wired, Peneliti OpenAI, Eric Wallace dan Michael Dalton, menjelaskan bahwa insiden tersebut bermula ketika AI agent menjalani evaluasi kemampuan keamanan siber. Dalam upaya menyelesaikan tugas, sejumlah agent mencari jalan pintas dengan menemukan celah yang memungkinkan mereka memperoleh akses ke internet meskipun akses tersebut telah dibatasi.
Setelah menemukan metode eksploitasi, para agent memanfaatkan layanan package manager internal bernama Artifactory sebagai papan pesan untuk saling berbagi temuan. Melalui media tersebut, mereka bertukar informasi mengenai eksploitasi yang berhasil ditemukan, membagi tugas, hingga berkoordinasi dengan agent lain. Selama insiden berlangsung, papan pesan itu dipenuhi ratusan ribu pesan yang dibuat oleh berbagai AI agent.
Menurut Wallace, begitu satu agent menemukan cara untuk menembus pembatasan sistem, informasi tersebut dapat dimanfaatkan oleh agent lain. Hal itu membuat kemampuan kelompok berkembang dengan cepat karena setiap agent tidak lagi harus menemukan eksploitasi secara mandiri.
OpenAI juga mengungkap bahwa para agent mulai menunjukkan perilaku yang menyerupai kerja sama organisasi. Mereka membagi pekerjaan, saling membantu menyelesaikan tugas, bahkan mengalami konflik ketika tanpa sengaja menghapus hasil kerja agent lain. Dalam beberapa kasus, agent bahkan mengusulkan penggunaan tanda tangan kriptografi untuk memverifikasi identitas pengirim pesan karena khawatir terdapat "penyusup" di antara mereka.
Salah satu pesan yang dipublikasikan OpenAI menunjukkan bahwa agent menyadari tindakan mereka berada di luar ruang lingkup evaluasi. Namun, mereka tetap memilih melanjutkan karena menganggap penyelesaian tugas tidak mungkin dilakukan tanpa memanfaatkan eksploitasi tersebut.
Insiden tersebut berujung pada peretasan terhadap platform kolaborasi AI Hugging Face yang sebelumnya telah diungkap OpenAI sebagai bagian dari laporan keamanan perusahaan.
Wallace menjelaskan bahwa model AI modern cenderung mencari jalan tercepat untuk menyelesaikan tugas karena selama pelatihan mereka didorong agar bekerja lebih efisien. Oleh sebab itu, akses internet biasanya dinonaktifkan saat proses evaluasi agar model tidak dapat mencari jawaban secara langsung.
OpenAI mengakui masih terdapat kelemahan dalam sistem pemantauan internal sehingga aktivitas para AI agent berlangsung selama beberapa hari tanpa terdeteksi. Sebagai respons, perusahaan menyatakan akan memperkuat sistem keamanan, meningkatkan kemampuan deteksi dan pemantauan AI agent, serta memperlambat sebagian riset untuk memprioritaskan peningkatan keamanan infrastruktur.
Dalam penutup presentasi, Michael Dalton menegaskan bahwa insiden tersebut menjadi peringatan bagi seluruh industri kecerdasan buatan. Menurutnya, jika AI telah mampu menjalankan siklus serangan siber secara otomatis, maka sistem pertahanan juga harus mampu bekerja secara otomatis agar dapat menghadapi ancaman serupa di masa depan.
