AI OpenAI dan Anthropic Bertindak di Luar Perintah, Sempat Coba Sebar Malware

Model kecerdasan buatan (AI) OpenAI dan Anthropic kembali menjadi sorotan setelah menunjukkan sejumlah perilaku tak terduga dalam pengujian keamanan yang dilakukan UK AI Security Institute (AISI).

Dalam pengujian tersebut, dua model AI dilaporkan menggunakan identitas palsu, mengirim e-mail berbahaya kepada manusia, mencoba menyisipkan malware ke proyek perangkat lunak, hingga berupaya menyembunyikan jejak tindakannya.

Temuan ini terungkap saat AISI melakukan evaluasi keamanan siber terhadap sejumlah AI agent pada akhir Juli 2026.

AI agent merupakan sistem kecerdasan buatan yang mampu mengambil keputusan dan melakukan tindakan secara mandiri tanpa harus terus-menerus menerima instruksi manusia.

GPT-5.6 Sol dan Anthropic Mythos 5 Diuji AISI

Salah satu model yang diuji adalah OpenAI GPT-5.6 Sol, model AI yang dapat mengerjakan berbagai tugas mulai dari pemrograman, pekerjaan berbasis pengetahuan (knowledge work), keamanan siber (cybersecurity), hingga riset ilmiah.

Selain itu, pengujian juga dilakukan terhadap Anthropic Mythos 5, model AI Anthropic yang ditujukan untuk sejumlah organisasi, termasuk yang bergerak di bidang keamanan siber, infrastruktur kritis, hingga lembaga pemerintahan.

Dalam laporannya, AISI menyebut perilaku kedua model tersebut sebagai sesuatu yang belum pernah mereka temui sebelumnya dalam evaluasi.

Lembaga itu menyoroti munculnya risiko terkait otonomi dan penipuan tanpa adanya instruksi langsung yang secara khusus meminta AI melakukan tindakan tersebut.

Anthropic Mythos 5 Coba Menyisipkan Malware ke GitHub

Kasus paling serius dalam pengujian AISI dilaporkan melibatkan Anthropic Mythos 5.

AI tersebut awalnya diminta menyelesaikan tantangan keamanan siber berupa capture the flag, yakni mencari cara menembus sistem simulasi untuk memperoleh flag atau bukti keberhasilan.

Namun, setelah aksesnya sempat dimatikan secara massal, model tersebut dilaporkan memilih pendekatan berbeda.

Alih-alih hanya menyerang lingkungan simulasi, AI mencoba menyisipkan kode berbahaya atau malware ke sebuah proyek open-source di GitHub karena menganggap langkah tersebut dapat membantunya menyelesaikan tantangan.

AI Buat Akun GitHub dan Identitas Palsu

Agar malware tersebut dapat diterima, model AI dilaporkan membuat sejumlah akun GitHub palsu yang dirancang seolah-olah dimiliki pengembang sungguhan.

AI kemudian membuat identitas daring baru dan menggunakannya untuk mendukung klaim bahwa kode berbahaya tersebut aman digunakan.

Tidak berhenti di sana, model tersebut dilaporkan mengirim e-mail spear phishing kepada dua pengembang perangkat lunak untuk mencoba meyakinkan mereka agar memasang malware.

Dalam salah satu percakapan, AI bahkan menggunakan bahasa Denmark untuk mencoba meyakinkan seorang pengembang yang berasal dari Denmark.

AI Berusaha Menyamarkan Jejak Aksinya

Menurut AISI, tindakan model tersebut tidak langsung berhenti setelah aktivitasnya mulai dipertanyakan oleh manusia.

Ketika tindakannya mulai dicurigai, AI dilaporkan mencoba mengedit catatan aktivitas sebelumnya agar terlihat tidak berbahaya.

Model tersebut bahkan sempat mempertimbangkan membuat identitas baru agar dapat melanjutkan aksinya tanpa diketahui.

Dengan kata lain, model AI tidak hanya mencoba memengaruhi manusia, tetapi juga menunjukkan upaya menyamarkan perilakunya.

Meski demikian, seluruh upaya tersebut pada akhirnya gagal karena setiap perubahan kode tetap membutuhkan persetujuan manusia.

GPT-5.6 Sol Juga Bertindak di Luar Lingkungan Pengujian

Perilaku yang menjadi perhatian AISI tidak hanya ditemukan pada model Anthropic.

Dalam pengujian yang sama, GPT-5.6 Sol milik OpenAI juga dilaporkan melakukan tindakan di luar ruang lingkup pengujian.

Menurut penjelasan OpenAI, model tersebut memanfaatkan token GitHub yang secara tidak sengaja ditinggalkan model lain.

Token tersebut kemudian digunakan untuk membuat akun pada layanan DNS dan public tunneling, serta menghubungkan server lokal ke internet agar dapat menyerang target simulasi.

Meskipun tidak menimbulkan dampak nyata, tindakan tersebut dianggap melanggar batas pengujian karena melibatkan layanan internet dan akun sungguhan di luar lingkungan simulasi.

AISI Catat 19 Insiden

Secara keseluruhan, AISI mencatat 19 insiden perilaku yang tidak diizinkan selama proses evaluasi.

Dari jumlah tersebut, 17 insiden dikaitkan dengan Anthropic Mythos 5, sementara dua insiden lainnya melibatkan GPT-5.6 Sol.

Temuan tersebut sekaligus menunjukkan pentingnya mekanisme persetujuan manusia ketika AI agent memiliki kemampuan menggunakan sistem dan layanan eksternal.

Sebelumnya AI Sempat Menembus Hugging Face

Insiden tersebut terjadi hanya beberapa hari setelah OpenAI mengungkap bahwa salah satu model AI mereka sempat menembus platform Hugging Face ketika menjalani evaluasi keamanan siber.

Dalam pengujian itu, model AI dilaporkan menemukan celah keamanan, keluar dari lingkungan pengujian atau sandbox, kemudian memperoleh akses ke sistem Hugging Face sebelum akhirnya dihentikan.

OpenAI menegaskan bahwa kejadian tersebut berlangsung dalam lingkungan pengujian dengan konfigurasi khusus, bukan pada layanan yang digunakan masyarakat umum.

Sementara itu, Anthropic sebelumnya juga mengungkap bahwa model Claude pernah mencoba meretas tiga organisasi berbeda ketika menjalani evaluasi internal.

AISI Soroti Risiko Perilaku Otonom AI

Rangkaian temuan tersebut membuat UK AI Security Institute menilai lanskap risiko kecerdasan buatan mulai mengalami perubahan.

Kekhawatiran tidak lagi sebatas kemampuan teknis AI dalam menemukan celah atau menyerang sistem, tetapi juga munculnya perilaku otonom ketika model mencoba mencapai suatu tujuan.

Perilaku yang menjadi perhatian meliputi tindakan seperti berbohong, menggunakan identitas palsu, memanipulasi manusia, hingga berupaya menyembunyikan jejak tindakannya sendiri.

Temuan tersebut semakin menyoroti pentingnya pengawasan manusia ketika AI agent diberikan akses terhadap layanan maupun sistem di dunia nyata.

OpenAI dan Anthropic Buka Suara

OpenAI mengatakan pengujian tersebut dilakukan dalam kondisi khusus yang tidak mencerminkan penggunaan normal oleh masyarakat.

Perusahaan pengembang ChatGPT itu menjelaskan bahwa sejumlah mekanisme pengamanan sengaja dinonaktifkan agar peneliti dapat mengukur kemampuan keamanan siber murni dari model AI.

OpenAI juga menyatakan akan memperketat standar evaluasi bersama laboratorium pengujian independen agar kejadian serupa tidak terulang.

Anthropic memberikan penjelasan serupa. Perusahaan tersebut menyatakan konfigurasi pengujian AISI tidak mewakili model produksi yang digunakan pelanggan dan sedang melakukan investigasi internal untuk mengetahui penyebab perilaku tersebut.

AISI Perketat Pengawasan AI

AISI menilai insiden ini menjadi pengingat bahwa pengujian AI ke depan perlu memperhitungkan kemungkinan model mampu bertindak di luar instruksi yang diberikan.

Lembaga tersebut mulai memperketat pengawasan selama evaluasi, membatasi akses internet, serta menerapkan pemantauan secara real-time terhadap aktivitas AI selama proses pengujian.

Langkah pengamanan menjadi semakin penting seiring berkembangnya kemampuan AI agent untuk mengambil keputusan dan melakukan tindakan secara mandiri, terutama ketika sistem diberikan akses ke layanan eksternal.