Oleh Aurora Weiss
Vienna (INPS Jepun) – Lebih 1000 tetamu, termasuk wakil dari 144 negara, organisasi antarabangsa, industri, ahli akademik, sains, dan masyarakat sivil, telah berkumpul di Vienna untuk membincangkan cara Sistem Senjata Berautonomi boleh dikawal selia. Persidangan antarabangsa yang pertama tentang Sistem Senjata Berautonomi (Autonomous Weapons Systems, AWS), bertajuk ‘Kemanusiaan di Persimpangan: Sistem Senjata Berautonomi dan Cabaran Kawal Selia,’ telah berlangsung dari 29 hingga 30 April 2024, dianjurkan oleh Kementerian Luar Negeri Austria.
Autonomi senjata yang kian meningkat melalui pengenalan kecerdasan buatan (AI) pada asasnya telah mengubah konflik bersenjata. Walaupun sudah bertahun-tahun usaha dan perbincangan dijalankan, peraturan belum lagi dilaksanakan untuk mengawal selia kemajuan teknologi yang pesat di peringkat antarabangsa. Sistem Senjata Berautonomi (AWS) sudah pun digunakan dalam konflik semasa, seperti dalam perang Israel di Gaza dan perang pencerobohan Ukraine oleh Rusia. Peraturan sangat diperlukan, disebabkan penggunaan AI dalam konflik bersenjata menimbulkan persoalan yang mendalam mengenai undang-undang, moral, hak asasi manusia, dan keselamatan antarabangsa.
“Sistem senjata berautonomi akan digunakan secara giat tidak lama lagi dalam pelbagai medan perang di dunia. Kita sudah pun melihat hal ini dalam bentuk dron yang didayakan AI dan pemilihan sasaran berasaskan AI. Teknologi melangkah maju dengan begitu pesat sekali, manakala politik tertinggal di belakang. Kita berhadapan dengan persoalan undang-undang, etika, dan keselamatan yang mendalam: Bagaimanakah kita boleh mencegah mesin daripada membuat keputusan yang berkaitan dengan hidup dan mati? Bagaimanakah kita dapat menangani algoritma yang terdedah kepada kesilapan dan berat sebelah? Bagaimanakah kita boleh menghentikan perlumbaan senjata yang didorong oleh AI dan menjauhkan teknologi ini daripada jatuh ke tangan pengganas? Saya tidak berupaya menegaskan betapa penting dan mendesaknya situasi ini. Inilah ‘momen Oppenheimer’ generasi kita. “Sekaranglah masanya untuk mencapai persetujuan tentang peraturan dan norma antarabangsa bagi memastikan manusia masih menguasai kawalan,” tegas Menteri Luar Austria Alexander Schallenberg dalam ucapan pembukaan beliau. Beliau merayu bahawa setiap nyawa yang telah diragut adalah terlalu berharga dan hal ini tidak sepatutnya berlaku, kita mesti sentiasa memastikan bahawa keputusan tentang hidup dan mati tidak dikuasai oleh mesin
Austria telah lama berusaha untuk mewujudkan pengawalseliaan AWS antarabangsa dan memainkan peranan perintis dalam bidang ini. Pada tahun 2023, Austria menyelaraskan resolusi PBB yang pertama mengenai sistem senjata berautonomi, dengan menggariskan keperluan untuk hal ini dikawal selia. Membangunkan undang-undang dan piawaian antarabangsa memakan masa, oleh sebab penerimaan perjanjian biasanya hasil daripada usaha yang berdekad-dekad, perkongsian yang erat, dan mobilisasi secara kolektif. Perjanjian juga memerlukan sokongan yang berkesan setelah dimeterai.
Sistem senjata berautonomi telah diprogramkan terlebih dahulu untuk membunuh ‘profil sasaran’ yang tertentu. Senjata itu kemudiannya digunakan dalam persekitaran yang menyaksikan AI mencari ‘profil sasaran’ dengan menggunakan data sensor, seperti pengecaman wajah. Senjata berautonomi ialah contoh penyingkiran sifat perikemanusiaan secara digital pada tahap yang paling ekstrem. Memberi kuasa kepada mesin untuk membuat keputusan hidup atau mati merendahkan martabat manusia dan menafikan hak kita. Daripada dilihat sebagai manusia, individu diproses sebagai objek. Apabila senjata berautonomi diaktifkan, kita tidak tahu individu atau perkara yang khusus yang bakal diserang senjata berkenaan, atau tempat yang disasarkan secara jitu, mahupun waktu serangan itu akan berlaku.
Austria mempunyai tradisi yang panjang dalam mengusahakan permasalahan pelucutan senjata dan mewujudkan perjanjian antarabangsa yang mengikat secara sah di sisi undang-undang, seperti Perjanjian mengenai Larangan Senjata Nuklear (Treaty on the Prohibition of Nuclear Weapons, TPNW), yang mencabar pengaturan nuklear yang sudah mantap. Salah seorang arkitek Inisiatif Kemanusiaan yang menghasilkan TPNW ini ialah Alexander Kmentt, Pengarah Pelucutan Senjata, Kawalan Senjata, dan Larangan Penyebaran Senjata di Kementerian Luar Negeri Austria. Semasa persidangan itu, ramai penceramah menyerlahkan bahawa kita sekali lagi berada pada momen Oppenheimer yang bersejarah. Kami meminta Duta Besar Kmentt untuk menjelaskan perbandingan antara senjata nuklear dengan senjata berautonomi.”
“Perbandingan dengan momen Oppenheimer adalah bahawa selepas Hiroshima dan Nagasaki, ramai, termasuk Oppenheimer dan Einstein, memberi amaran tentang implikasi senjata nuklear dan menggesa supaya peraturan digubal. Hari ini, kami mempunyai pakar AI utama yang memberi amaran mengenai kemungkinan risiko eksistensial AI dan AWS serta meminta supaya peraturan digubal, tetapi keadaan geopolitik semasa menyukarkan persetujuan tentang peraturan antarabangsa dicapai. Kita mesti cuba memastikan kita tidak terlepas waktu tindakan pencegahan masih boleh dilaksanakan,” jelas Alexander Kmentt.
Terdapat beberapa cabaran penting yang berkaitan dengan AWS dari perspektif pakar kawalan senjata seperti Kmentt. Meningkatkan autonomi (melalui penggunaan AI) dalam sistem senjata secara asasnya akan mengubah konflik bersenjata. Kami sudah menyaksikan beberapa perubahan ini. Satu kebimbangan utama ialah apabila mesin membuat keputusan hidup dan mati berdasarkan algoritma yang diaturcarakan lebih awal.
“Apabila mesin belajar dan berkomunikasi antara satu sama lain, apakah peranan manusia atau peranan yang sepatutnya dimainkan manusia ketika senjata membuat keputusan seperti itu? Kita sudah pun melihat tanda-tanda perlumbaan senjata AI. Tidak lama lagi, senjata ini akan berada dalam banyak gedung senjata di seluruh dunia dan juga di tangan pelaku yang bukan diamanahkan oleh negara yang sah, misalnya, pengganas,” ujar seorang diplomat Austria dengan cemas.
Pada masa ini, tiada peraturan khusus untuk menangani cabaran undang-undang, etika, dan dasar keselamatan yang ditampilkan oleh sistem senjata seperti AWS. Kmentt menegaskan bahawa Austria ingin meningkatkan profil politik bagi isu ini dan mewujudkan momentum bagi memastikan kemajuan dalam hal peraturan antarabangsa untuk AWS. Austria memulakan resolusi dalam UNGA tahun lalu, dan kami kini telah menganjurkan persidangan ini. Persidangan ini penting sebagai perjumpaan antarabangsa terbesar setakat ini yang membincangkan mengenai isu ini secara khusus, dan kami berharap usaha ini dapat menjadi satu langkah ke arah momentum politik yang lebih besar bagi melaksanakan peraturan antarabangsa. Mengetahui tentang sumbangan yang besar terhadap pewujudan TPNW, kami bertanya beliau sama ada persidangan ini memberi isyarat bahawa sebuah Perjanjian mengenai AWS akan disiapkan tidak lama lagi.
“Cabaran pada masa ini adalah untuk beralih daripada perbincangan, yang telah berlangsung selama beberapa tahun, untuk benar-benar merundingkan sebuah perjanjian. Setiausaha Agung PBB telah mencabar komuniti antarabangsa supaya melaksanakan perkara ini menjelang tahun 2026. Sekiranya kita mencapai peringkat rundingan, kita hendaklah menetapkan sasaran untuk mengharamkan secara jelas sistem yang tidak sepatutnya digunakan berlandaskan undang-undang antarabangsa atau melanggar prinsip etika asas, dan untuk mengawal selia sistem lain dengan kaedah yang dapat mengekalkan tahap kawalan manusia yang bermakna,” Alexander Kmentt menjelaskan kesimpulan beliau.
Inovasi dalam bidang sains dan teknologi (S&T) sedang berkembang dengan pesat. Beberapa kemajuan yang dibuat berhubung kait dengan pembangunan senjata, daripada senjata tenaga berarah hinggalah senjata nano atau saraf, serta pusuan platform robotik berautonomi. Perkembangan seperti ini boleh mencabar norma yang sudah lama diwujudkan demi mengekalkan keamanan dan keselamatan antarabangsa, perlindungan hak asasi manusia, dan pencapaian matlamat pembangunan yang lestari.
Itulah sebabnya Richard Moyes, Pengarah Article 36 dan pengasas kempen Stop Killer Robots (Hentikan Robot Pembunuh), berpendapat bahawa persidangan Vienna sangat penting dalam usaha berterusan membina kerjasama antara negara, organisasi antarabangsa, dan masyarakat sivil yang diperlukan demi merealisasikan perjanjian-perjanjian ini. Stop Killer Robots ialah gabungan organisasi masyarakat sivil dari seluruh dunia yang prihatin tentang hal ehwal hak asasi manusia, konflik, teknologi, dan perlindungan orang awam. Pergerakan ini ialah perkongsian organisasi yang bekerjasama untuk mendorong negara-negara supaya membangunkan perjanjian antarabangsa yang baharu.
“Kami belum mencapai peringkat mendraf teks perjanjian lagi, namun kami sedang membina keyakinan dalam kalangan rakan kerjasama bahawa perjanjian ini tidak mustahil dimeterai. Akhirnya, cuma negara-negara yang boleh mencapai persetujuan tentang undang-undang antarabangsa yang baharu, tetapi kita boleh bekerjasama bagi memastikan mereka bertindak,” jelas Richard Moyes, pakar impak konflik terhadap orang awam dan peraturan teknologi senjata antarabangsa, kepada kami.
Beliau telah mengusahakan penciptaan beberapa instrumen undang-undang dan politik antarabangsa yang berkaitan dengan senjata dan konflik. Mengenai AWS, beliau mengesan ancaman khusus yang timbul sekiranya kawalan dan akauntabiliti manusia disingkirkan dalam penggunaan kekerasan.
“Manusia membuat kesilapan, dan manusia ada kalanya melakukan perkara-perkara yang mengerikan, tetapi semua rangka kerja undang-undang kita tentang penggunaan kekerasan dibina atas dasar yang memastikan manusialah yang membuat keputusan dan manusia boleh dipertanggungjawabkan. Kita perlu mengekalkan kawalan manusia yang bermakna jika kita ingin mengekalkan konsep undang-undang dalam konflik bersenjata. Menyerahkan keputusan hidup dan mati kepada mesin juga menyingkirkan perikemanusiaan dan merendahkan nilai nyawa manusia secara lebih lanjut, khususnya mereka yang sudah pun terpinggir,” kata Moyes, menunjukkan betapa mencabarnya usaha mengawal selia teknologi baharu sebelum menjadi masalah yang meluas. Pada waktu senjata berautonomi menjadi masalah yang meluas, nasi sudah menjadi bubur.
Moyes menegaskan bahawa perjanjian yang sah di sisi undang-undang hendaklah mengandungi larangan sistem yang tidak boleh digunakan dengan kawalan manusia yang bermakna, serta peraturan untuk memastikan kawalan itu diamalkan Perjanjian ini juga hendaklah melarang sistem autonomi yang akan menetapkan manusia sebagai sasaran langsung. Daripada sudut pandangan beliau, inilah peraturan penting yang akan mempengaruhi cara teknologi dibangunkan pada masa yang akan datang.
“Satu cabaran utama ialah negara-negara yang mempunyai kuasa ketenteraan yang tinggi tidak mahu menerima apa-apa kekangan terhadap pilihan ketenteraan mereka. Kita memerlukan sebahagian besar negara menggariskan sempadan yang boleh memandu masyarakat supaya menuju ke arah yang lebih selamat,” jelas pengarah organisasi bukan kerajaan UK Article 36 kepada kami.
Kepentingan membina rangka kerja undang-undang, khususnya sebuah perjanjian antarabangsa, turut ditegaskan oleh NGO Soka Gakkai International (SGI), yang juga merupakan sebahagian daripada kempen Stop Killer Robots.
“Oleh itu, kami menyertai pihak berkepentingan yang kian ramai untuk menyeru supaya dibentuk sebuah perjanjian antarabangsa bagi melarang dan mengawal selia autonomi dalam sistem senjata, demi melindungi hak dan maruah manusia dalam menghadapi kemajuan teknologi yang sangat pesat,” Hayato Yamashita, Penyelaras Program untuk Pelucutan Senjata di SGI dari Jepun, merayu dalam kenyataan beliau.
INPS Jepun