Paus Fransiskus dalam Forum KTT G7: Kecerdasan Buatan Tidak Obyektif dan Tidak Netral
Paus Fransiskus membahas ancaman dan janji kecerdasan buatan, 'kondisi tekno-manusia', pengambilan keputusan manusia vs algoritmik, esai-esai yang ditulis oleh AI, dan perlunya kolaborasi politik dalam hal teknologi.
Katolikana.com, Italia — Pada Jumat sore (14/6), Paus Fransiskus berpidato di pertemuan puncak para pemimpin G7 di Puglia, Italia. Beliau adalah paus pertama yang berpidato di forum yang mempertemukan para pemimpin Amerika Serikat, Inggris, Italia, Prancis, Kanada, Jerman, dan Jepang.
Kecerdasan Buatan: Bahaya dan Janji
Paus Fransiskus mendedikasikan pidatonya di Forum G7 pada tema kecerdasan buatan. Beliau mengawali dengan mengatakan bahwa kelahiran kecerdasan buatan mewakili “revolusi industri-kognitif sejati” yang akan mengarah pada “transformasi penting yang rumit”.
Transformasi ini, kata Paus Fransiskus, mempunyai potensi positif – misalnya, “demokratisasi akses terhadap pengetahuan”, “kemajuan eksponensial penelitian ilmiah”, dan pengurangan “pekerjaan yang menuntut dan sulit” – dan negatif – misalnya, “ketidakadilan yang semakin besar antara negara-negara maju dan berkembang atau antara kelas sosial yang menguasai dan tertindas.”

Kondisi Tekno-Manusiawi
Dengan menyatakan bahwa kecerdasan buatan adalah “terutama sebuah sarana”, Paus Fransiskus berbicara tentang apa yang disebutnya sebagai “kondisi tekno-manusiawi”.
Beliau menjelaskan, maksudnya adalah hubungan manusia dengan lingkungan selalu dimediasi oleh sarana yang mereka hasilkan.
Beberapa orang, kata Paus Fransiskus, melihat hal ini sebagai kelemahan, atau kekurangan; namun, menurutnya, hal tersebut justru merupakan sesuatu yang positif. Karena faktanya kita adalah makhluk yang “cenderung pada apa yang ada di luar diri kita”, makhluk yang “sangat terbuka terhadap hal di luar diri kita”.
Keterbukaan ini, kata Paus Fransiskus, adalah akar “kondisi tekno-manusiawi” kita maupun keterbukaan kita terhadap sesama dan Allah, serta akar kreativitas artistik dan intelektual kita.
Pengambilan Keputusan: Manusia Kontra Mesin
Paus Fransiskus kemudian beralih ke tema pengambilan keputusan. Beliau mengatakan bahwa kecerdasan buatan mampu membuat “pilihan algoritmik” – yaitu, pilihan “teknis” “di antara beberapa kemungkinan berdasarkan kriteria yang ditentukan dengan baik atau kesimpulan statistik”.
Akan tetapi, umat manusia “tidak hanya memilih, namun di dalam hati mereka mampu mengambil keputusan”.
Hal ini disebabkan, jelas Paus Fransiskus, mereka mampu memiliki kebijaksanaan, yang oleh orang Yunani kuno disebut phronesis (sejenis kecerdasan yang berkaitan dengan tindakan praktis), dan mendengarkan Kitab Suci.
Oleh karena itu, sangat penting, Paus Fransiskus menekankan, bahwa keputusan-keputusan penting harus “selalu diserahkan kepada pribadi manusia.”
Sebagai contoh dari prinsip ini, Paus Fransiskus menunjuk pada pengembangan senjata otonom yang mematikan – yang dapat merenggut nyawa manusia tanpa campur tangan manusia – dan mengatakan bahwa senjata tersebut pada akhirnya harus dilarang.
Paus Fransiskus juga menekankan bahwa algoritma yang digunakan oleh kecerdasan buatan untuk mengambil keputusan “tidak obyektif dan tidak netral.”
Beliau menunjuk pada algoritma yang dirancang untuk membantu hakim dalam memutuskan apakah akan memberikan pemidanaan rumah tau tidak kepada narapidana. Program-program ini, katanya, menentukan pilihan berdasarkan data seperti jenis pelanggaran, perilaku di dalam penjara, penilaian psikologis, dan asal etnis narapidana, pencapaian pendidikan, dan peringkat reputasi.
Namun, Paus Fransiskus menekankan, hal ini bersifat reduktif: “manusia selalu berkembang, dan mampu mengejutkan kita dengan tindakan mereka. Hal ini adalah sesuatu yang tidak dapat diperhitungkan oleh mesin.”
Masalah selanjutnya, Paus Fransiskus menekankan, adalah bahwa algoritma “hanya dapat memeriksa kenyataan yang diformalkan dalam bentuk numerik:”
Esai yang Dihasilkan Kecerdasan Buatan
Paus Fransiskus kemudian mempertimbangkan fakta bahwa banyak siswa semakin mengandalkan kecerdasan buatan untuk membantu mereka dalam studi, dan khususnya, dalam menulis esai.
Sangat mudah untuk melupakan, kata Paus Fransiskus, bahwa “apa yang tepatnya disebut kecerdasan buatan generatif sebenarnya tidak ‘generatif’” – kecerdasan buatan tidak “mengembangkan analisis atau konsep baru” melainkan “mengulangi apa yang ditemukannya, memberikannya bentuk yang menarik.”
Hal ini, kata Paus Fransiskus, berisiko “merusak proses pendidikan itu sendiri”.
Pendidikan, tegasnya, seharusnya memberikan kesempatan untuk “refleksi autentik”, namun sebaliknya “mengandung risiko menjadi pengulangan gagasan, yang akan semakin dinilai sebagai hal yang tidak dapat ditolak, hanya karena pengulangannya yang terus-menerus.”

Menuju “Etika Algoritmik”
Mengakhiri pidatonya, Paus Fransiskus menekankan bahwa kecerdasan buatan selalu dibentuk oleh “pandangan kalangan orang-orang yang menemukan dan mengembangkannya.”
Kekhawatiran dalam hal ini, katanya, terutama adalah bahwa saat ini “semakin sulit untuk menemukan kesepakatan mengenai isu-isu utama yang berkaitan dengan kehidupan sosial” – semakin sedikit konsensus, yaitu mengenai filosofi yang seharusnya membentuk kecerdasan buatan.
Oleh karena itu, yang perlu dilakukan, kata Paus Fransiskus, adalah pengembangan “etika algoritmik”, serangkaian prinsip “global dan pluralistik” yang “mampu mendapat dukungan dari budaya, agama, organisasi internasional, dan perusahaan besar.”
“Jika kita kesulitan untuk mendefinisikan seperangkat nilai-nilai global,” kata Paus Fransiskus, setidaknya kita dapat “menemukan prinsip-prinsip bersama yang dapat digunakan untuk mengatasi dan menyelesaikan dilema atau konflik mengenai cara hidup.”
Politik yang Diperlukan
Menghadapi tantangan ini, Paus Fransiskus mengatakan, “tindakan politik sangat dibutuhkan.”
“Hanya politik yang sehat, yang melibatkan sektor dan keterampilan yang paling beragam”, tegas Paus Fransiskus, yang mampu menghadapi tantangan dan janji kecerdasan buatan.
Tujuannya, Paus Fransiskus mengakhiri pidatonya, bukan “menghambat kreativitas manusia dan cita-cita kemajuannya” melainkan “mengarahkan energi tersebut ke saluran-saluran baru.”
Diterjemahkan oleh Peter Suriadi dari Vaticannews.va

Katolikana.com adalah media berita online independen, terbuka, dan berintegritas, menyajikan berita, informasi, dan data secara khusus seputar Gereja Katolik di Indonesia dan dunia.