Ini Bahaya AI, Nyaris Bikin AS dan China Perang Gegara Laporan Palsu!

Automatic translation. This article was translated from Indonesian. Names, institutions and figures are kept in their original form. For the authoritative version, read the report at the original source.

Penggunaan akal imitasi (AI) yang tidak teliti dalam militer Amerika Serikat nyaris memicu perang dengan China.

Sebuah laporan intelijen palsu yang dibuat dengan bantuan AI hampir membuat militer AS mencegat kapal China di Timur Tengah karena diduga membawa komponen senjata nuklir.

Insiden itu terjadi pada musim semi tahun ini, saat AS tengah berperang dengan Iran.

Menurut empat sumber yang mengetahui kejadian tersebut, militer AS sempat merencanakan operasi untuk mencegat kapal China setelah menerima laporan intelijen yang mencurigakan.

Dua sumber menyebut personel militer AS bersenjata bahkan telah bersiap menaiki kapal. Pesawat militer juga sudah berada di udara untuk mendukung operasi tersebut.

Namun, menjelang pelaksanaan operasi, sejumlah pejabat memeriksa kembali laporan itu. Mereka menemukan bahwa seorang analis Komando Operasi Khusus AS menyusun laporan tersebut dengan bantuan AI.

Chatbot yang digunakan analis itu ternyata salah mengidentifikasi material yang diangkut kapal China. CNN tidak mengetahui jenis muatan sebenarnya.

Salah satu sumber menyebut laporan tersebut "sepenuhnya salah" dan "hampir memicu perang". Pasalnya, tindakan militer AS terhadap kapal China berisiko memicu konflik bersenjata antara kedua negara.

Insiden ini menyoroti bahaya penggunaan AI dalam pengambilan keputusan militer, terutama saat perang berlangsung. Informasi yang keliru berpotensi memicu kesalahan perhitungan yang berakibat fatal.

Dalam kasus tersebut, analisis menggunakan chatbot untuk memeriksa sejumlah laporan intelijen tentang manifes kapal dari Komando Operasi Khusus AS Pasifik di Hawaii. Chatbot itu menggabungkan informasi dari sumber terbuka dan intelijen rahasia pemerintah AS, lalu menghasilkan kesimpulan yang keliru.

Analis kemudian kembali menggunakan AI untuk menyusun temuan tersebut menjadi laporan intelijen resmi. Laporan itu selanjutnya disebarkan kepada pihak militer.

Menurut salah sumber sumber, kejadian serupa bukan hal baru. Fenomena "halusinasi" AI, ketika sistem menghasilkan informasi yang salah seolah-olah benar, juga ditemukan dalam penggunaan AI di komunitas intelijen AS.

Di sisi lain, militer dan intelijen AS, terus mempercepat penggunaan AI untuk berbagai kebutuhan, mulai dari analisis intelijen, penentuan target serangan, hingga pengelolaan anggaran, logistik, dan rantai pasokan.

Pada Januari, Menteri Pertahanan AS, Pete Hegseth, meluncurkan strategi percepatan AI untuk memperluas penggunaan teknologi tersebut di lingkungan militer.