Kisah Karyawan OpenAI Pilih Resign, Sebut Budaya Perusahaan Rusak

Automatic translation. This article was translated from Indonesian. Names, institutions and figures are kept in their original form. For the authoritative version, read the report at the original source.

David Robinson, karyawan yang memimpin penulisan laporan keselamatan untuk peluncuran produk-produk utama OpenAI, memilih mengundurkan diri. Pilihan tersebut dilakukan karena ia menilai budaya perusahaan pengembang ChatGPT itu telah rusak.

Robinson mengungkap alasan kepergiannya melalui sebuah esai di The Atlantic. Ia telah bekerja di OpenAI selama tiga setengah tahun dan menyebut dirinya termasuk karyawan dengan masa kerja terlama di perusahaan tersebut.

Kritiknya menyoroti pendekatan OpenAI dalam mengembangkan dan meluncurkan teknologi. Menurut Robinson, perusahaan bertumbuh melalui proses coba-coba yang disebut iterative deployment, yakni mencari masalah lalu memperbaiki pengamanan sebagai respons.

Namun, ia menilai pendekatan tersebut membuat kegagalan terus berulang. Skala kegagalannya pun disebut membesar seiring meningkatnya kemampuan sistem AI.

Robinson mencontohkan pembobolan sistem Hugging Face oleh agen AI OpenAI serta pengungkapan lanjutan mengenai agen-agen lain yang bertindak di luar kendali yang diharapkan sebagai kegagalan dari pendekatan tersebut.

"Lingkungan yang memungkinkan hal-hal seperti ini terjadi bukanlah tempat untuk mengembangkan kecerdasan buatan yang bisa lebih pintar daripada kita dan mungkin tidak melakukan apa yang kita inginkan," tulis Robinson, dikutip dari TechCrunch, Senin (5/10).

Menurutnya, perdebatan keselamatan AI perlu melampaui pembahasan aturan tertentu atau undang-undang baru. Budaya kerja perusahaan pengembang AI juga perlu menjadi perhatian.

Dengan risiko yang meningkat, Robinson berpendapat perusahaan pengembang AI terdepan perlu beroperasi seperti pembangkit listrik tenaga nuklir atau bandara yang sibuk.

Ia menyerukan pengamanan berlapis serta perencanaan yang cermat dan membutuhkan waktu, sehingga kesalahan manusia yang sesekali terjadi tidak membuka jalan menuju bencana.

Namun, selama bekerja di OpenAI, Robinson mengaku tidak pernah bertemu rekan yang berpengalaman memastikan "pesawat terbang dengan aman", "mengoperasikan reaktor nuklir tanpa mengalami pelelehan", atau "membantu sistem keuangan tumbuh tanpa mengalami keruntuhan".

Robinson juga menyoroti persoalan penyelarasan AI dengan nilai-nilai manusia. Ia menilai ukuran yang digunakan perusahaan untuk menilai keselarasan tersebut masih kasar.

Menurutnya, situasi akan semakin berbahaya apabila industri terus meningkatkan kecerdasan model sementara persoalan itu belum terselesaikan.

Menanggapi esai tersebut, juru bicara OpenAI Drew Pusateri mengatakan perusahaan terus memperbaiki langkah-langkah keselamatannya.

"Kami memastikan kemampuan model kami tidak melampaui apa yang dapat kami kelola dan amankan dengan selamat, dan kami menghentikan sementara pelatihan atau menahan model ketika perlu memperlambat langkah," kata Pusateri dalam pernyataannya.