Dalam pertemuan yang membahas kecerdasan buatan (AI), Paus Leo XIV menekankan pentingnya menempatkan manusia sebagai pusat pengembangan teknologi tersebut. Hal ini diperlukan untuk menghindari bahaya yang dapat mengancam kesejahteraan bersama dan mereduksi manusia menjadi sekadar kumpulan data.
Berbicara kepada para peserta pertemuan bertajuk “Masa Depan AI: Dialog antara Vatikan dan Dunia Ilmiah tentang Perkembangan dan Penerapan Teknologi Cerdas”, Paus Leo XIV menunjukkan bahwa kehadiran peserta dari berbagai negara menghadirkan pertanyaan dan perspektif baru.
Namun demikian, “kalian memiliki kegelisahan tertentu mengenai perkembangan kecerdasan buatan. Kita mengetahui arah yang seharusnya ditempuh, tetapi belum cukup banyak yang dilakukan untuk bergerak maju,” ujarnya.
Menurut Paus, berbagai keprihatinan, gagasan, dan saran kelompok tersebut mengenai masa depan merupakan “buah pertama dari pendekatan transdisipliner”, yang semakin dibutuhkan untuk menghadapi berbagai tantangan kompleks pada zaman ini.
Pesan yang Tetap Relevan
Paus menyoroti bahwa Akademi Kepausan untuk Kehidupan dan Future of Life Institute, yang bersama-sama menyelenggarakan pertemuan tersebut, sangat memahami berbagai tantangan yang muncul ketika martabat manusia terancam.
Dalam konteks ini, ia mengingat kembali pesan Paus Fransiskus kepada para pemimpin negara-negara G7 pada 2024. Saat itu, Paus Fransiskus menggambarkan AI sebagai “sebuah alat yang menarik sekaligus menakutkan” dan menegaskan bahwa tidak boleh ada mesin yang menentukan apakah kehidupan manusia harus diakhiri.
Menurut Paus Leo XIV, pesan tersebut tetap relevan hingga saat ini.
Merujuk pada ensikliknya sendiri, Magnifica Humanitas, Paus Leo menguraikan lima pertimbangan penting mengenai kecerdasan buatan:
Pertama, masa depan AI tidak ditentukan sebelumnya.
Kedua, mesin adalah alat, bukan manusia.
Ketiga, keputusan-keputusan tertentu tidak boleh pernah diserahkan kepada mesin.
Keempat, teknologi cerdas harus diarahkan untuk kepentingan bersama.
Kelima, diperlukan lembaga-lembaga yang mampu menerapkan prinsip-prinsip etika dalam praktik guna mengarahkan perkembangan AI.
Apa Tujuan Kecerdasan Buatan?
Masa depan kecerdasan buatan tidak ditentukan sebelumnya. Karena manusia yang mengembangkan AI, masa depannya bergantung pada pilihan yang dibuat oleh umat manusia.
Itulah sebabnya, Paus menegaskan, “kita memiliki tanggung jawab untuk mengarahkan, mengubah, dan, apabila diperlukan, menolak penerapannya”.
Dengan demikian, pertanyaannya bukan sekadar, “Apa yang dapat dilakukan oleh AI?” Sebaliknya, pertanyaan yang perlu diajukan adalah, “Untuk tujuan apa AI seharusnya digunakan?”
Pengembangan AI tidak boleh hanya berfokus pada pencapaian akhir, sementara mengabaikan mereka yang tertinggal.
dan Future of Life Institute. | VATICAN MEDIA
Paus Leo menegaskan bahwa sistem yang dapat diandalkan dan melayani manusia memiliki nilai jauh lebih besar dibandingkan sistem yang sangat canggih dan berkemampuan tinggi, tetapi memiliki “konsekuensi yang tidak dapat diperkirakan atau dikendalikan secara memadai”.
Mesin Tidak Dapat Menggantikan Manusia
Pertimbangan kedua yang dijelaskan Paus adalah bahwa mesin merupakan alat, bukan pribadi manusia.
Mesin tidak memiliki pengalaman hidup, tubuh, perasaan, hubungan antarmanusia, serta tidak memahami cinta, pekerjaan, maupun tanggung jawab.
Sebagian pihak mengusulkan agar sistem-sistem tersebut diberikan hak atau status sebagai subjek hukum. Namun, Paus Leo mengingatkan bahwa gagasan tersebut berisiko “mengaburkan tanggung jawab manusia dan membiarkan mereka yang mengalami kerugian harus berhadapan dengan entitas tanpa wajah”.
Ketiga, terdapat keputusan-keputusan tertentu yang tidak boleh diserahkan kepada mesin.
Sebagai contoh, memasukkan seseorang ke dalam daftar target atau basis data pengawasan perbatasan dapat membuat orang tersebut diperlakukan hanya sebagai sebuah titik data.
“Keputusan yang memengaruhi kehidupan manusia, kebebasan, dan penggunaan kekuatan harus selalu berada di bawah pengawasan manusia yang efektif, berdasarkan informasi yang memadai, dan dilaksanakan secara bertanggung jawab,” jelas Paus.
Karena itu, AI harus “dilucuti senjatanya”.
Lebih lanjut, ia mendorong negara-negara yang akan bertemu di Jenewa pada November untuk mengambil langkah-langkah guna melarang senjata otonom yang mematikan.
Apa yang Dibutuhkan Saat Ini
Pertimbangan keempat adalah bahwa teknologi cerdas harus diarahkan untuk kepentingan bersama.
“Teknologi tersebut tidak boleh pernah menjadi tujuan pada dirinya sendiri atau hanya melayani kepentingan segelintir orang yang memiliki hak istimewa,” tegas Paus kepada para peserta.
Teknologi ini seharusnya mendorong solidaritas dan partisipasi di berbagai tingkatan komunitas global, sekaligus memastikan bahwa manfaat kemajuan dapat dinikmati secara merata.
Pertimbangan terakhir Paus Leo merupakan sebuah tantangan yang menurutnya mungkin menjadi hal paling mendesak saat ini.
Dunia membutuhkan lembaga-lembaga yang mampu menerapkan prinsip-prinsip etika secara nyata untuk mengarahkan pengembangan dan penggunaan AI, dengan tetap berfokus pada perlindungan kepentingan bersama.
Hal ini membutuhkan “standar bersama, pengawasan independen, serta mekanisme pertanggungjawaban yang jelas, sehingga keputusan mengenai pengembangan dan penggunaan AI dapat diperiksa, dipersoalkan apabila diperlukan, serta disertai langkah-langkah pemulihan yang tepat atas setiap kerugian yang ditimbulkan”.
Paus Leo menutup sambutannya kepada para peserta dengan menyampaikan rasa terima kasih atas kontribusi mereka dalam bidang kecerdasan buatan.
Ia juga mendorong mereka untuk terus bertekun dan bekerja sama dalam semangat dialog serta tanggung jawab bersama yang diarahkan pada kepentingan umum.
“Saya menyertai kalian dengan doa-doa saya, dan kepada masing-masing dari kalian saya dengan tulus memberikan berkat.”
***Kielce Gussie
Dari Vatican News, 30 Oktober 2026