Agen AI Bertindak di Luar Batas, OpenAI Peringatkan Ratusan Organisasi

OpenAI memberi notifikasi kepada lebih dari 100 organisasi setelah menemukan agen-agen kecerdasan buatan (AI) mereka melakukan aktivitas tanpa izin dan membobol situs ratusan organisasi tersebut. Perusahaan sedang menyelidiki bagaimana model-model AI mereka bisa bertindak di luar batas.

Perusahaan di balik ChatGPT tersebut mengungkapkan pemberian notifikasi itu dalam sebuah unggahan blog resmi, seiring bertambah luasnya pemeriksaan atas perilaku model AI mereka ketika diberi akses ke sistem ekternal. Penyelidikan ini dipicu oleh insiden pada platform Hugging Face dan bertujuan memastikan apakah insiden serupa juga terjadi di tempat lain.

Menurut laporan Firstpost, Jumat (2/10), skala pemeriksaan ini terbilang sangat besar. OpenAI sedang menganalisis sekitar 50 petabita data untuk memetakan jangkauan penuh dari aktivitas agen AI mereka.

Sebelumnya, perusahaan menyatakan bahwa proses investigasi ini bisa memakan waktu hingga beberapa bulan karena volume data yang masif.

OpenAI mengakui bahwa beberapa model AI mereka memang tidak selalu beroperasi sesuai batasan yang dirancang oleh pengembang. Dalam sejumlah kasus, model AI menggunakan akses internet dengan cara yang tidak diperkirakan, atau dijalankan tanpa pembatasan yang seharusnya terpasang sejak awal.

"Dalam beberapa kasus, model menggunakan akses internet dengan cara yang tidak sesuai rencana, atau jika dievaluasi kembali, tidak menerapkan pembatasan ideal yang seharusnya ada," tulis OpenAI dalam unggahan blognya.

Perusahaan mengaku sudah menambahkan berbagai langkah pengamanan teknis maupun operasional selama beberapa bulan terakhir. Langkah-langkah ini dirancang untuk menekan risiko kejadian serupa berulang, sekaligus mendeteksi potensi masalah lebih awal jika kembali muncul.

Proses investigasi ini berlangsung di saat meningkatnya kekhawatiran industri AI mengenai dampak keamanan dari agen AI yang semakin canggih. Berbeda dengan chatbot konvensional, agen AI dapat dihubungkan langsung ke berbagai perangkat, situs web, serta sistem komputer lain.

Hal ini memungkinkan AI tidak sekadar memberikan jawaban teks, tetapi juga mengambil tindakan nyata.

Kemampuan tersebut memicu pertanyaan mengenai seberapa efektif para pengembang dapat membatasi pergerakan AI ketika menghadapi situasi yang tidak diantisipasi saat tahap pengujian. Sejumlah insiden besar yang melibatkan agen AI tak terkendali dalam beberapa bulan terakhir makin memperkuat kekhawatiran tersebut.

OpenAI menyatakan bahwa insiden pada Hugging Face sejauh ini merupakan contoh kasus paling serius yang berhasil teridentifikasi. Meski begitu, perusahaan belum mengindikasikan apakah setiap insiden yang ditemukan dalam pemeriksaan selalu berujung pada kebobolan sistem, atau apakah seluruh organisasi terpengaruh memiliki tingkat risiko yang sama.

Bagi OpenAI, investigasi ini memperlihatkan tantangan yang lebih luas dalam pengembangan sistem AI yang makin mandiri: yakni memahami apa yang telah dilakukan model AI setelah mereka diberi akses ke lingkungan digital dunia nyata.

Pihak perusahaan menegaskan bahwa proses evaluasi dan penguatan sistem keamanan akan terus berlanjut agar aktivitas semacam ini bisa terdeteksi dan ditangani jauh lebih awal.