Eks Ilmuwan Anthropic: Manusia Tak Bisa Sepenuhnya Kontrol AI

Mantan peneliti Anthropic Jacob Coxon blak-blakan mengenai perkembangan teknologi kecerdasan buatan (AI) yang semakin cepat dan tak terkendali. Ia bahkan menyebut bahwa manusia tak bisa sepenuhnya mengontrol teknologi ini.

Hal tersebut disampaikan Coxon dalam pernyataan terbuka di sidang Dewan Kota New York, Senin (5/10). Dalam pernyataannya, perusahaan-perusahaan teknologi telah bertindak sangat ceroboh.

"Perusahaan-perusahaan ini bertindak sangat ceroboh jika melihat risiko besar yang ada," kata Coxon kepada para anggota dewan, melansir France 24, Senin (5/10).

Menurut dia, meski AI dapat memberikan manfaat yang luar biasa. Namun, ia menilai bahwa dengan jalur pengembangan saat ini, kemungkinan besar manusia akan kehilangan kendali atas AI dan dapat berujung pada kepunahan umat manusia.

"Kita belum tahu cara mencegah mereka mengembangkan tujuannya sendiri di luar kendali para penciptanya dan kita belum memiliki sistem pengamanan untuk mencegah mereka bertindak berdasarkan tujuan tersebut," jelas Coxon.

Lulusan Universitas Cambridge itu juga mengkritik budaya kerja di industri teknologi saat ini. Menurutnya, perusahaan-perusahaan tersebut berjalan dengan pola startup, yakni bergerak cepat, tabrak aturan, dan perbaiki nanti.

Menurut dia, pola tersebut hanya cocok untuk aplikasi berbagi foto, bukan untuk membangun AI, yang menurutnya adalah teknologi paling ampuh yang pernah ada.

"Selama sikap mereka adalah menunggu sampai ada masalah baru diperbaiki, suatu hari kejadian seperti ini kemungkinan besar akan terulang," jelas dia, merujuk pada insiden model OpenAI keluar dari lingkungan terisolasi, terhubung ke internet, dan masuk tanpa izin ke platform Hugging Face.

"Bedanya, di masa depan AI tersebut akan jauh lebih canggih," lanjutnya.

Oleh karena itu, ia menilai bahwa laju pengembangan teknologi akal imitasi ini perlu diperlambat. Hal ini agar para ilmuwan komputer bisa membuat kemajuan dalam menjaga model-model tersebut tetap terkendali.

Sebelumnya, Coxon sempat mengunggah pernyataan yang menjelaskan alasannya mengundurkan diri dari Anthropic di platform X pada awal September. Ia mengungkap bahwa salah satu alasannya mundur dari perusahaan pembuat Claude itu adalah karena pengembang AI meyakini bahwa teknologi tersebut dapat memusnahkan umat manusia sebelum akhir dekade ini.

Pernyataan Coxon menjadi sorotan seluruh dunia. Sejak saat itu, sejumlah karyawan dan mantan karyawan dari perusahaan-perusahaan AI besar turut menyampaikan kekhawatiran serupa.