Kecerdasan Buatan dan Faktor Manusia

Direktur Editorial Vatican News merefleksikan peristiwa pada tahun 1983, ketika seseorang menyelamatkan dunia dari perang nuklir yang bisa saja dipicu oleh kesalahan mesin.

“Sistem Senjata Otonom, termasuk penggunaan kecerdasan buatan, merupakan penyebab keprihatinan etika yang serius. Sistem senjata otonom tidak akan pernah bisa menjadi subyek yang bertanggung jawab secara moral. Kapasitas manusia yang unik dalam penilaian moral dan pengambilan keputusan etis lebih dari sekedar kumpulan algoritma yang kompleks. , dan kapasitas tersebut tidak dapat direduksi menjadi pemrograman sebuah mesin, yang meskipun “cerdas” namun tetap merupakan sebuah mesin. Oleh karena itu, sangat penting untuk memastikan pengawasan manusia yang memadai, bermakna, dan konsisten terhadap sistem senjata,” demikian tulis Paus Fransiskus dalam Pesannya untuk Hari Perdamaian Sedunia 2024.

Sebuah episode yang terjadi empat puluh tahun yang lalu harus menjadi paradigma setiap kali kita berbicara tentang kecerdasan buatan yang diterapkan pada perang, senjata, dan instrumen kematian.

Ini adalah kisah tentang seorang perwira Soviet yang, berkat keputusannya yang melanggar protokol, menyelamatkan dunia dari konflik nuklir yang dapat menimbulkan konsekuensi bencana. Pria itu adalah Stanislav Yevgrafovich Petrov, seorang letnan kolonel di tentara Rusia.

Pada malam tanggal 26 September 1983, dia bertugas malam di bunker “Serpukhov 15”, memantau aktivitas rudal AS. Perang Dingin berada pada titik balik yang penting, Presiden Amerika Ronald Reagan menginvestasikan sejumlah besar uang dalam persenjataan dan baru saja menggambarkan Uni Soviet sebagai “kerajaan jahat”, sementara NATO terlibat dalam latihan militer yang mensimulasikan skenario perang nuklir.

Di Kremlin, Yuri Andropov baru-baru ini berbicara tentang “eskalasi yang belum pernah terjadi sebelumnya” dalam krisis ini, dan pada tanggal 1 September, Soviet menembak jatuh sebuah pesawat komersial Korean Air Lines di Semenanjung Kamchatka, menewaskan 269 orang.

Pada malam tanggal 26 September itu, Petrov melihat bahwa sistem komputer Oko, “otak” yang dianggap sempurna dalam memantau aktivitas musuh, telah mendeteksi peluncuran rudal dari pangkalan di Montana yang ditujukan ke Uni Soviet.

Protokol menetapkan bahwa perwira tersebut segera memberi tahu atasannya, yang kemudian akan memberikan lampu hijau untuk peluncuran rudal balasan ke Amerika Serikat. Namun Petrov ragu-ragu, mengingat potensi serangan apa pun kemungkinan besar akan berskala besar. Oleh karena itu, dia menganggap rudal tunggal itu sebagai alarm palsu.

Dia membuat pertimbangan yang sama untuk empat rudal berikutnya yang muncul tak lama kemudian di monitornya, bertanya-tanya mengapa tidak ada konfirmasi yang datang dari radar darat. Dia tahu bahwa rudal antarbenua membutuhkan waktu kurang dari setengah jam untuk mencapai tujuannya, tetapi dia memutuskan untuk tidak membunyikan alarm, sehingga membuat personel militer lain yang hadir terkejut.

Kenyataannya, “otak elektronik” salah; tidak ada serangan rudal. Oko telah disesatkan oleh fenomena pembiasan sinar matahari yang bersentuhan dengan awan di ketinggian.

Singkatnya, kecerdasan manusia telah melampaui kemampuan mesin. Keputusan takdir untuk tidak mengambil tindakan telah dibuat oleh seorang pria, yang penilaiannya mampu melihat melampaui data dan protokol.

Bencana nuklir dapat dicegah, meskipun tidak ada seorang pun yang mengetahui kejadian tersebut hingga awal tahun 1990-an. Petrov, yang meninggal pada bulan September 2017, mengomentari malam itu di bunker “Serpukhov 15”: “Apa yang saya lakukan? Tidak ada yang istimewa, hanya pekerjaan saya. Saya adalah orang yang tepat di tempat yang tepat pada waktu yang tepat.”

Beliau adalah orang yang mampu mengevaluasi potensi kesalahan dari mesin yang dianggap sempurna, orang yang mampu – sesuai dengan kata-kata Paus Fransiskus – “melakukan penilaian moral dan pengambilan keputusan etis,” karena sebuah mesin, tidak peduli seberapa “cerdasnya”, tetaplah sebuah mesin.

Perang, ulang Paus Fransiskus, adalah kegilaan, sebuah kekalahan bagi umat manusia. Perang adalah pelanggaran serius terhadap martabat manusia.

Melakukan perang sambil bersembunyi di balik algoritma, mengandalkan kecerdasan buatan untuk menentukan target dan cara menyerangnya, sehingga melegakan hati nurani karena mesinlah yang mengambil keputusan, bahkan lebih serius lagi. Janganlah kita melupakan Stanislav Evgrafovich Petrov.

** Andrea Tornielli

Diterjemahkan dari: Artificial Intelligence and the Human Factor

Baca juga: Bacaan Liturgi Sabtu, 15 Juni 2024