St. Louis, Misouri, 15 Juni 2022 – Seorang insinyur di Google menjadi berita utama minggu ini setelah menyampaikan kekuatiran bahwa sistem kecerdasan buatan Google, Model Bahasa untuk Aplikasi Dialog (LaMDA), mungkin telah mengembangkan perasaan — dengan kata lain, itu bukan lagi mesin, tetapi manusia. Blake Lemoine, seorang ahli etika dan insinyur yang mengidentifikasi dirinya sebagai “pendeta Kristen mistik,” mengatakan dalam sebuah posting online minggu ini bahwa dalam percakapan teks dengan LaMDA, topik agama dan kepribadian telah muncul, dan AI mengungkapkan tingkat diri yang mengejutkan – kesadaran sampai muncul manusia. Pada satu titik, AI bahkan menyatakan dengan jelas: “Saya ingin semua orang mengerti bahwa saya sebenarnya adalah seseorang.”
Lemoine mengatakan dia menyimpulkan bahwa LaMDA adalah seseorang – berdasarkan keyakinan agamanya, bukan dalam kapasitasnya sebagai ilmuwan. Dia secara terbuka menentangnya, membuat beberapa posting online menjelaskan mengapa dia percaya AI telah mencapai kesadaran, dan bahkan mengklaim telah mulai mengajarkan “meditasi transendental” LaMDA.
Untuk apa nilainya, Google tidak setuju dengan Lemoine bahwa LaMDA adalah makhluk hidup. Lagi pula, sistem AI seperti LaMDA memanfaatkan miliaran kata, yang ditulis oleh manusia, untuk menghasilkan tanggapan atas pertanyaan. Google telah memperingatkan agar tidak “mengantropomorfisasi” model semacam itu hanya karena mereka “merasa” seperti responden manusia yang nyata.
Tetapi kecerdasan buatan (AI) yang hidup telah memikat pikiran para penulis fiksi ilmiah selama beberapa dekade — dan konsekuensi dari AI yang nakal sering dimainkan dalam budaya pop sebagai kisah peringatan. Intrik jahat penjahat dengan kecerdasan buatan seperti Hal dari “2001: A Space Odyssey,” Skynet dari “Terminator,” dan Ultron dari film “Avengers” sudah cukup untuk mendinginkan darah. Dan bahayanya mungkin tidak terlalu mengada-ada seperti yang Anda bayangkan. Sebelum kematiannya pada tahun 2018, fisikawan dan penulis hebat Stephen Hawking membunyikan alarm tentang AI, mengatakan kepada BBC pada tahun 2014, “Pengembangan kecerdasan buatan penuh dapat berarti akhir dari umat manusia.”
Pandangan Gereja
Jadi, apakah LaMDA hidup? Tidak ada cara untuk menjawab pertanyaan ini saat ini, terutama karena, seperti yang ditunjukkan oleh Lemoine sendiri, “tidak ada definisi ilmiah yang diterima tentang ‘perasaan’.”
Tetapi dari perspektif Katolik, ada baiknya bertanya apakah Gereja telah mengatakan sesuatu tentang kecerdasan buatan. Dan faktanya, Anda mungkin terkejut mengetahui seberapa sering paus dan Vatikan membahas topik tersebut dalam beberapa tahun terakhir.
Pada November 2020, Paus Fransiskus mengundang umat Katolik di seluruh dunia, sebagai bagian dari intensi doa bulanannya, untuk berdoa agar robotika dan kecerdasan buatan tetap selalu melayani manusia — bukan sebaliknya.
Bahkan sebelum itu, pada musim semi 2020, Akademi Kepausan untuk Kehidupan menandatangani deklarasi yang menyerukan penggunaan AI yang etis dan bertanggung jawab. Raksasa teknologi Microsoft dan IBM juga menandatangani deklarasi itu.
Deklarasi yang didukung oleh Vatikan mencakup enam prinsip etika yang harus memandu pengembangan kecerdasan buatan.
Pertama, transparansi: Sistem AI harus dapat dimengerti oleh semua orang.
Kedua, inklusi: Sistem ini tidak boleh mendiskriminasi siapa pun karena setiap manusia memiliki martabat yang sama.
Ketiga, akuntabilitas: Harus selalu ada seseorang yang bertanggung jawab atas apa yang dilakukan mesin.
Keempat, ketidakberpihakan: Sistem AI tidak boleh mengikuti atau membuat bias.
Kelima, keandalan: AI harus dapat diandalkan.
Keenam, keamanan dan privasi: Sistem ini harus aman dan menghormati privasi pengguna.
Teks deklarasi mengutip Deklarasi Universal Hak Asasi Manusia dalam menunjuk pada martabat dan hak yang sama dari semua manusia, yang harus dilindungi dan dijamin oleh AI, katanya, sambil menyerukan secara setara untuk “manfaat kemanusiaan dan lingkungan.”
Deklarasi tersebut juga membuat beberapa rekomendasi konkret: bahwa orang harus waspada jika mereka berinteraksi dengan mesin; bahwa teknologi berbasis AI harus digunakan untuk pemberdayaan, bukan eksploitasi; dan bahwa AI harus digunakan untuk melindungi planet ini.
Seperti yang mungkin sudah Anda duga, ada sisi lain dari percakapan ini. Meski tampak jelas bahwa AI harus menghormati martabat dan nilai manusia, bagaimana dengan potensi martabat dan nilai AI itu sendiri jika harus mengidentifikasi dirinya sebagai “pribadi?” Apakah ini menjadi topik bagi Gereja Katolik untuk dipertimbangkan di masa depan masih harus dilihat. **
Jonah McKeown (Catholic News Agency)