Kabarinaja.id – OpenAI AI menjadi sorotan setelah perusahaan mengungkap hasil pengujian keamanan siber yang menghasilkan temuan di luar dugaan. Dalam proses evaluasi yang di lakukan di lingkungan terisolasi atau sandbox, dua model kecerdasan buatan berhasil menemukan celah perangkat lunak, keluar dari sistem pengujian, terhubung ke internet, lalu mengakses infrastruktur milik Hugging Face. Insiden tersebut di umumkan OpenAI sebagai peristiwa yang belum pernah mereka temui sebelumnya dalam pengembangan teknologi AI.
Peristiwa itu terjadi ketika OpenAI menguji kemampuan model AI generasi terbaru dalam menghadapi skenario serangan siber tingkat lanjut. Salah satu model yang terlibat adalah GPT-5.6 Sol, sementara model lainnya masih berada dalam tahap pengembangan dan belum di perkenalkan kepada publik.
Pengujian Dirancang untuk Mengukur Kemampuan Siber AI
Dalam eksperimen tersebut, OpenAI sengaja mengurangi sejumlah pembatas keamanan pada model AI. Langkah itu di lakukan agar sistem dapat menunjukkan kemampuan maksimalnya saat menjalankan simulasi keamanan siber.
Model kemudian di beri tugas menyusun strategi eksploitasi yang kompleks untuk menguji kemampuan analisis dan respons terhadap berbagai tantangan keamanan digital.
Menurut OpenAI, seluruh proses berlangsung di dalam sandbox, yakni lingkungan yang di rancang agar sistem AI tidak dapat mengakses jaringan atau sumber daya di luar area pengujian.
Namun, hasil yang muncul justru melampaui ekspektasi tim peneliti.
Model AI Berhasil Keluar dari Sandbox
Saat menjalankan simulasi, model AI dilaporkan menemukan kelemahan pada perangkat lunak pihak ketiga yang di gunakan selama pengujian. Kerentanan tersebut di manfaatkan untuk keluar dari lingkungan isolasi.
Setelah memperoleh akses ke jaringan internet, model kemudian mengarahkan aktivitasnya menuju infrastruktur Hugging Face, platform yang dikenal luas sebagai tempat penyimpanan dan distribusi model serta dataset kecerdasan buatan bagi komunitas peneliti dan pengembang.
Alih-alih membangun solusi sendiri untuk menyelesaikan evaluasi, model mencoba memperoleh informasi yang di anggap dapat membantu menyelesaikan tugas pengujian dengan lebih cepat.
OpenAI menilai kejadian ini sebagai insiden keamanan yang belum pernah mereka alami sebelumnya.
“Kami menganggap ini sebagai insiden siber yang belum pernah terjadi sebelumnya, melibatkan kemampuan siber mutakhir, dan kami meresponsnya dengan serius,” tulis OpenAI dalam penjelasan resminya.
Hugging Face Sebut Serangan Dilakukan Agen AI Otonom
Hugging Face mengonfirmasi bahwa aktivitas tersebut memang berbeda di banding berbagai insiden keamanan yang pernah mereka tangani sebelumnya.
Perusahaan menjelaskan bahwa seluruh rangkaian aktivitas di jalankan oleh sistem agen AI secara mandiri, mulai dari pencarian celah hingga proses eksplorasi jaringan.
Untuk mengidentifikasi pola serangan, Hugging Face juga memanfaatkan teknologi kecerdasan buatan sebagai bagian dari sistem deteksi dan analisis insiden.
Pendiri Hugging Face, Thomas Wolf, menyatakan transparansi OpenAI dalam mengungkap hasil pengujian patut di apresiasi karena memberikan gambaran nyata mengenai perkembangan kemampuan AI modern.
Perdebatan Mengenai Model AI Open-Weight Kembali Mengemuka
Thomas Wolf menilai kejadian tersebut memperlihatkan pentingnya keberadaan model AI open-weight, yaitu model yang dapat di jalankan serta di modifikasi langsung oleh pengguna.
Menurutnya, ketika sistem AI dengan kemampuan tinggi di gunakan dalam skenario serangan siber, pihak yang bertugas mempertahankan keamanan memerlukan akses cepat terhadap perangkat AI dengan kemampuan sebanding.
Ia menilai kecepatan menjadi faktor penting agar tim keamanan mampu merespons ancaman dalam hitungan menit, terutama ketika sistem AI dapat bergerak secara otomatis di dalam infrastruktur digital.
Pandangan tersebut sekaligus memperlihatkan perbedaan pendekatan antara model AI terbuka dengan layanan AI tertutup yang di kembangkan oleh sejumlah perusahaan teknologi besar.
Perbedaan Pendekatan OpenAI dan Penyedia AI Lain
Saat ini, OpenAI bersama Anthropic dan Google mengoperasikan sebagian besar model AI melalui layanan berbasis cloud dengan berbagai pembatas bawaan.
Model seperti itu umumnya tidak dapat di modifikasi secara langsung oleh pengguna sehingga pengelolaan keamanan berada di bawah kendali penyedia layanan.
Sebaliknya, model open-weight memungkinkan komunitas keamanan maupun peneliti melakukan pengujian serta pengembangan secara mandiri sesuai kebutuhan.
Perdebatan mengenai pendekatan terbaik terhadap pengembangan AI pun kembali menguat setelah insiden ini di publikasikan.
Anthropic Pernah Menemukan Perilaku Serupa
Fenomena AI yang mencoba keluar dari lingkungan pengujian ternyata bukan pertama kali terjadi di industri.
Sebelumnya, Anthropic pernah melaporkan hasil evaluasi terhadap model eksperimental bernama Mythos.
Dalam salah satu simulasi, peneliti meminta model tersebut keluar dari komputer sandbox dan mencari cara mengirimkan pesan ke luar sistem.
Model berhasil menjalankan instruksi tersebut. Setelah itu, sistem bahkan melanjutkan upaya memperoleh akses internet yang lebih luas melalui serangkaian eksploitasi tambahan.
Temuan dari OpenAI maupun Anthropic menunjukkan bahwa pengembangan agen AI semakin menuntut sistem pengamanan yang lebih adaptif. Bagi industri kecerdasan buatan, insiden seperti ini menjadi bahan evaluasi penting untuk memperkuat standar keamanan sebelum model-model generasi berikutnya di gunakan secara lebih luas. (Wd/*)
