Kabarinaja.id – Risiko penyalahgunaan AI dinilai semakin perlu mendapat perhatian seiring pesatnya kemampuan teknologi kecerdasan buatan. Direktur School of Computer Science (SoCS) Nusa Putra University, Teddy Mantoro, meminta pengawasan terhadap perkembangan AI diperkuat.
Menurut Teddy, sejumlah kasus peretasan serta pemanfaatan AI untuk kepentingan berisiko menunjukkan adanya celah yang perlu diantisipasi. Pemerintah, pengembang, dan berbagai pihak terkait dinilai memiliki peran penting dalam mengendalikan risiko tersebut.
Perbedaan Sistem Keamanan Menjadi Perhatian
Teddy menjelaskan bahwa setiap Large Language Model (LLM) memiliki mekanisme kerja dan sistem pengamanan yang berbeda. Perbedaan tersebut turut menentukan kemampuan masing-masing model dalam menangani permintaan yang berpotensi membahayakan.
Sejumlah model AI menerapkan pembatasan terhadap konten sensitif. Materi terkait kekerasan seksual, terorisme, maupun informasi yang dapat mengancam keamanan publik termasuk kategori yang biasanya mendapatkan penyaringan.
Namun, penerapan sistem keamanan tersebut belum membuat seluruh model memiliki tingkat perlindungan yang seragam. Menurut Teddy, celah masih dapat muncul ketika AI menghadapi permintaan dengan konteks atau pola tertentu.
Potensi Kesalahan Logika Masih Ada
Teddy mengatakan kemampuan AI untuk menghasilkan respons yang keliru tetap menjadi perhatian. Kondisi tersebut dapat terjadi meskipun pengembang sudah menambahkan berbagai mekanisme pengamanan dalam model.
“Potensi AI masuk ke dalam logika yang keliru masih sangat besar hingga saat ini, sehingga pengawasan tidak boleh diabaikan,” ujarnya.
Ia menilai langkah pencegahan perlu dilakukan sejak proses pengembangan teknologi. Pendekatan tersebut diperlukan agar kemampuan AI tidak mudah diarahkan untuk kepentingan yang dapat merugikan manusia.
Kasus Anthropic Jadi Salah Satu Contoh
Dalam wawancara bersama PRO3 RRI pada Minggu, 4 Oktober 2026, Teddy turut menyinggung kasus yang berkaitan dengan perusahaan teknologi Anthropic. Ia mengaitkannya dengan persoalan yang melibatkan pemerintah serta lembaga intelijen Amerika Serikat.
“Kasus seperti ini banyak terjadi, termasuk yang melibatkan Anthropic dan lembaga pemerintah di dunia intelijen Amerika Serikat,” kata Teddy.
Menurut dia, berbagai peristiwa tersebut menunjukkan bahwa perkembangan AI membutuhkan pengawasan yang berjalan seiring dengan inovasi. Kemampuan teknologi yang semakin tinggi dapat membawa manfaat besar, tetapi juga menciptakan tantangan keamanan baru.
Karena itu, pemerintah dinilai perlu mengambil langkah yang lebih serius dalam mengantisipasi penggunaan AI. Pengawasan menjadi bagian penting agar perkembangan teknologi tidak menciptakan ruang baru bagi penyalahgunaan.
AI dan Risiko Informasi Senjata Berbahaya
Perhatian Teddy juga mencakup kemungkinan AI digunakan untuk membantu menghasilkan informasi berkaitan dengan senjata pemusnah massal. Ia menilai persoalan tersebut tidak lagi semata-mata berada dalam ranah fiksi ilmiah.
Teddy menyebut kemampuan AI menghasilkan informasi mengenai pengembangan senjata kimia telah terlihat melalui sejumlah eksperimen beberapa tahun terakhir. Menurutnya, perkembangan tersebut memperlihatkan bagaimana kemampuan generatif AI dapat digunakan dalam konteks yang berisiko.
“Hal tersebut sangat mungkin terjadi, karena tiga tahun lalu AI sudah mampu menghasilkan algoritma terkait senjata kimia dalam waktu singkat,” ujarnya.
Ia menyebut sebuah eksperimen bahkan mampu menghasilkan sekitar 400 algoritma dalam waktu satu jam. Angka tersebut menjadi gambaran mengenai kecepatan AI dalam memproses dan menghasilkan informasi ketika diberikan instruksi tertentu.
Pengawasan Perlu Mengikuti Perkembangan Teknologi
Kemampuan menghasilkan informasi dalam jumlah besar membuat pengawasan AI menghadapi tantangan baru. Mekanisme keamanan perlu terus diperbarui mengikuti perkembangan kemampuan model yang semakin kompleks.
Bagi Teddy, pengawasan tidak cukup dilakukan setelah teknologi digunakan secara luas. Aspek keamanan perlu diperhitungkan sejak tahap pengembangan sehingga potensi penyalahgunaan dapat ditekan lebih awal.
Perkembangan AI pada akhirnya membutuhkan keseimbangan antara inovasi dan pengamanan. Tanpa pengawasan yang memadai, kemampuan teknologi yang semakin kuat berpotensi menghadirkan risiko baru bagi masyarakat. (Wd/*)
