OpenAI Menjawab Kekhawatiran AI Bisa Lepas Kendali

Semakin canggihnya kecerdasan buatan (AI), diiringi dengan kekhawatiran mengenai potensi risiko AI lepas kendali. Bahkan, muncul wacana agar laju perkembangan teknologi tersebut ditahan.

OpenAI mengatakan perkembangan kemampuan model AI memang meningkat sangat cepat. Namun, perusahaan menilai keamanan tidak harus dilakukan dengan menghentikan perkembangan teknologi. Head of Policy Southeast Asia OpenAI, Sandy Kunvatanagarn, mengatakan keamanan justru harus menjadi bagian dari setiap tahap pengembangan AI.

"Misi OpenAI adalah membangun AI dengan pendekatan yang aman dan bertanggung jawab. Karena jika tidak aman, AI secara default tidak akan memberikan manfaat," kata Sandy dalam sesi tanya jawab saat media gathering di Penang Bistro, Jakarta Pusat, Rabu (30/9/2026).

Menurut Sandy, OpenAI menerapkan pendekatan keamanan berlapis (layered approach). Keamanan, kata dia, bukan sesuatu yang baru diperhatikan setelah sebuah model selesai dikembangkan. Sandy menjelaskan, aspek keamanan sudah diperhatikan sejak proses pelatihan model, setelah pelatihan, hingga ketika model tersebut dikembangkan menjadi sebuah produk.

"Kami tidak berpikir bahwa keamanan adalah sesuatu yang hanya terjadi sekali dalam proses pengembangan. Sebaliknya, keamanan dibangun ke dalam setiap tahap, mulai dari bagaimana kami melatih model, bagaimana kami melakukan post-training model, hingga bagaimana kami membangun berbagai harnesses dan produk yang berada di atas model," ujarnya.

Dengan pendekatan tersebut, keamanan tidak hanya bergantung pada kemampuan model AI itu sendiri. Produk yang menggunakan model tersebut juga menjadi bagian dari sistem pengamanan.

OpenAI juga mempertimbangkan keamanan ketika model dirilis kepada publik, termasuk melalui komunikasi dengan masyarakat mengenai kemampuan teknologi tersebut. Selain membangun pengamanan di dalam model dan produk, Sandy mengatakan OpenAI juga menggunakan laporan sebagai bagian dari pendekatan keamanan.

Laporan tersebut, menurutnya, memberikan transparansi mengenai bagaimana model bekerja sehingga peneliti dan institusi lain dapat memahami kemampuan sekaligus keterbatasannya.

"Laporan yang kami keluarkan memberikan banyak transparansi mengenai bagaimana model bekerja, sehingga peneliti dan institusi lain tak hanya dapat memahami kemampuannya, tetapi juga batas-batasnya," kata Sandy.

Pendekatan tersebut, lanjutnya, penting karena pemahaman mengenai kemampuan dan keterbatasan AI tidak hanya menjadi tanggung jawab pembuat model. Peneliti dan institusi lain juga perlu memiliki informasi untuk memahami teknologi yang semakin berkembang tersebut.

Hal lain yang menjadi bagian dari pendekatan OpenAI adalah umpan balik (feedback) dari masyarakat. Sandy mengatakan percakapan dengan pengguna, komunitas, dan berbagai pihak dapat menjadi masukan yang kemudian digunakan kembali dalam proses pengembangan model.

"Semua itu memungkinkan kami untuk berpikir dengan sengaja mengenai bagaimana sebuah model dibangun," ujarnya.

Ia memberikan contoh pengembangan produk yang ditujukan khusus untuk remaja. Menurut Sandy, keputusan membuat pengalaman ChatGPT untuk remaja juga dipengaruhi oleh berbagai percakapan dengan komunitas orang tua.

OpenAI sebelumnya melakukan diskusi dengan komunitas parenting mengenai kekhawatiran mereka terhadap penggunaan AI oleh remaja, bagaimana mereka memahaminya, serta hal-hal yang belum mereka pahami.