Paus Kepada G7: AI ‘Tidak Obyektif dan Tidak Netral’

Dalam pidatonya di KTT G7, Paus Fransiskus membahas ancaman dan potensi kecerdasan buatan, ‘kondisi tekno-manusia’, pengambilan keputusan yang dilakukan manusia vs algoritmik, esai yang ditulis oleh AI, dan perlunya kolaborasi politik dalam bidang teknologi.

Pada Jumat sore, Paus Fransiskus berpidato di pertemuan puncak para pemimpin G7 di Puglia, Italia. Dia adalah Paus pertama yang berpidato di forum yang mempertemukan para pemimpin Amerika, Inggris, Italia, Prancis, Kanada, Jerman, dan Jepang.

Artificial Intelligence (AI): Bahaya dan Janji

Paus mendedikasikan pidatonya di G7 pada topik kecerdasan buatan.

Dia memulai dengan mengatakan bahwa kelahiran AI mewakili “revolusi industri-kognitif sejati” yang akan mengarah pada “transformasi penting yang kompleks”.

Transformasi-transformasi ini, kata Paus, mempunyai potensi positif – misalnya, “demokratisasi akses terhadap pengetahuan”, “kemajuan eksponensial penelitian ilmiah”, dan pengurangan “pekerjaan yang menuntut dan sulit” – dan negatif – misalnya, “ketidakadilan yang lebih besar antara negara-negara maju dan berkembang atau antara kelas sosial yang dominan dan tertindas.”

‘Kondisi Tekno-Manusia’

Dengan menyatakan bahwa AI adalah “di atas segalanya sebuah alat”, Paus Fransiskus berbicara tentang apa yang disebutnya sebagai “kondisi tekno-manusia”.

Ia menjelaskan, maksudnya adalah hubungan manusia dengan lingkungan selalu dimediasi oleh alat-alat yang mereka hasilkan.

Beberapa orang, kata Paus Fransiskus, melihat hal ini sebagai kelemahan, atau kekurangan; Namun, menurutnya, hal tersebut justru merupakan sesuatu yang positif. Hal ini, katanya, berasal dari fakta bahwa kita adalah makhluk yang “cenderung terhadap apa yang ada di luar diri kita”, makhluk yang “sangat terbuka terhadap hal-hal di luar diri kita”.

Keterbukaan ini, kata Paus Fransiskus, adalah akar dari “kondisi tekno-manusia” kita dan akar dari keterbukaan kita terhadap orang lain dan kepada Tuhan, serta akar dari kreativitas artistik dan intelektual kita.

Pengambilan Keputusan: Manusia vs Mesin

Paus kemudian beralih ke topik pengambilan keputusan. Dia mengatakan bahwa AI mampu membuat “pilihan algoritmik” – yaitu, pilihan “teknis” “di antara beberapa kemungkinan berdasarkan kriteria yang jelas atau kesimpulan statistik”.

Akan tetapi, umat manusia “tidak hanya memilih, namun di dalam hati mereka mampu mengambil keputusan”. Hal ini karena, jelas Paus, mereka mampu memiliki kebijaksanaan, yang oleh orang Yunani Kuno disebut phronesis (sejenis kecerdasan yang berkaitan dengan tindakan praktis), dan mendengarkan Kitab Suci.

Oleh karena itu, sangat penting, Paus Fransiskus menekankan, bahwa keputusan-keputusan penting harus “selalu diserahkan kepada pribadi manusia.”

Sebagai contoh dari prinsip ini, Paus Fransiskus menunjuk pada pengembangan senjata otonom yang mematikan – yang dapat merenggut nyawa manusia tanpa campur tangan manusia – dan mengatakan bahwa senjata tersebut pada akhirnya harus dilarang.

Algoritma ‘Tidak Objektif dan Tidak Netral’

Paus juga menekankan bahwa algoritma yang digunakan oleh kecerdasan buatan untuk mengambil keputusan adalah “tidak objektif dan tidak netral.”

Dia menunjuk pada algoritma yang dirancang untuk membantu hakim dalam memutuskan apakah akan memberikan pengurungan di rumah kepada narapidana. Program-program ini, katanya, menentukan pilihan berdasarkan data seperti jenis pelanggaran, perilaku di penjara, penilaian psikologis, dan asal etnis narapidana, pencapaian pendidikan, dan peringkat kredit.

Namun, Paus menekankan, hal ini bersifat reduktif: “manusia selalu berkembang, dan mampu mengejutkan kita dengan tindakan mereka. Ini adalah sesuatu yang tidak dapat diperhitungkan oleh mesin.”

Masalah selanjutnya, Paus menekankan, adalah bahwa algoritma “hanya dapat memeriksa realitas yang diformalkan dalam bentuk numerik:”

Esai yang Dihasilkan AI

Paus kemudian mempertimbangkan fakta bahwa banyak siswa semakin mengandalkan AI untuk membantu mereka dalam studi mereka, dan khususnya, dalam menulis esai.

Sangat mudah untuk melupakan, kata Paus Fransiskus, bahwa “tepatnya, apa yang disebut kecerdasan buatan generatif sebenarnya tidak ‘generatif’” – ia tidak “mengembangkan analisis atau konsep baru” melainkan “mengulangi apa yang ditemukannya, memberikannya bentuk yang menarik.”

Hal ini, kata Paus, berisiko “merusak proses pendidikan itu sendiri”.

Pendidikan, tegasnya, seharusnya memberikan kesempatan untuk “refleksi autentik”, namun sebaliknya “mengambil risiko menjadi pengulangan gagasan, yang akan semakin dinilai sebagai hal yang tidak dapat ditolak, hanya karena pengulangannya yang terus-menerus.”

Menuju “Etika Algoritmik”

Mengakhiri pidatonya, Paus menekankan bahwa AI selalu dibentuk oleh “pandangan dunia dari mereka yang menemukan dan mengembangkannya.”

Kekhawatiran khusus dalam hal ini, katanya, adalah bahwa saat ini “semakin sulit untuk menemukan kesepakatan mengenai isu-isu utama yang berkaitan dengan kehidupan sosial” – semakin sedikit konsensus, yaitu mengenai filosofi yang seharusnya membentuk kecerdasan buatan.

Oleh karena itu, yang perlu dilakukan, kata Paus Fransiskus, adalah pengembangan “etika algoritmik”, serangkaian prinsip “global dan pluralistik” yang “mampu mendapat dukungan dari budaya, agama, organisasi internasional, dan perusahaan besar.”

“Jika kita kesulitan untuk mendefinisikan satu set nilai-nilai global,” kata Paus Fransiskus, setidaknya kita dapat “menemukan prinsip-prinsip bersama yang dapat digunakan untuk mengatasi dan menyelesaikan dilema atau konflik mengenai cara hidup.”

Politik yang Diperlukan

Menghadapi tantangan ini, Paus mengatakan, “tindakan politik sangat dibutuhkan.”

“Hanya politik yang sehat, yang melibatkan sektor dan keterampilan yang paling beragam”, tegas Paus, yang mampu menghadapi tantangan dan janji-janji kecerdasan buatan.

Tujuannya, Paus Fransiskus menyimpulkan, bukanlah “menghambat kreativitas manusia dan cita-cita kemajuannya” melainkan “mengarahkan energi tersebut ke saluran-saluran baru.”

Anda dapat menemukan teks lengkap pidato Paus kepada G7 di sini.

**Joseph Tulloch (Vatican News)

Diterjemahkan dari: Pope to G7: AI is ‘neither objective nor neutral’

Baca juga: Paus Fransiskus Bertemu Para Pemimpin Dunia di KTT G7