Vatikan telah bekerja sama dengan Microsoft dan IBM untuk mempromosikan pengembangan etika kecerdasan buatan (AI) sambil menyerukan regulasi pengenalan wajah dan teknologi mengganggu lainnya.
Raksasa teknologi itu menandatangani “Seruan Roma untuk Etika AI (terbuka di tab baru)” janji yang menegaskan bahwa teknologi harus menghormati privasi, bekerja dengan andal, dan melakukannya tanpa bias. Dikatakan juga bahwa teknologi AI harus mempertimbangkan “kebutuhan semua manusia” dan beroperasi secara transparan.
Dokumen tersebut mencerminkan kekhawatiran yang berkembang di antara bisnis dan institusi bahwa pembatasan perlu diberlakukan karena kasus penggunaan AI terus berkembang. Misalnya, lembaga penegak hukum telah menggunakan sistem pengenalan wajah untuk menyelidiki kejahatan sementara perusahaan Fortune 500 telah beralih ke AI untuk memeriksa pelamar kerja.
Kedua kasus ini mengilustrasikan tugas berisiko tinggi di mana menerapkan sistem AI dengan perangkat lunak yang tidak akurat atau bias dapat membahayakan orang alih-alih membantu mereka.
etika AI
Paus Fransiskus juga memperingatkan tentang bahaya penggunaan AI untuk mengekstraksi data, seringkali tanpa sepengetahuan individu, untuk tujuan komersial dan politik, dengan mengatakan:
“Asimetri ini, di mana beberapa orang terpilih mengetahui segalanya tentang kita sementara kita tidak tahu apa-apa tentang mereka, menumpulkan pemikiran kritis dan pelaksanaan kebebasan secara sadar. Ketidaksetaraan berkembang pesat; pengetahuan dan kekayaan menumpuk di beberapa tangan dengan risiko besar bagi masyarakat demokratis.
Sementara IBM dan Microsoft sama-sama telah menandatangani dokumen Vatikan, masih belum jelas apakah perusahaan teknologi lain akan bergabung. Pada saat yang sama, kami juga tidak tahu bagaimana para penandatangan akan menerapkan prinsip-prinsip yang tercantum dalam ikrar Vatikan.
Selain dokumen baru tersebut, pejabat Vatikan juga mengatakan bahwa mereka berpotensi memberikan materi untuk kemungkinan dokumen kepausan tentang AI.
Melalui Reuters (terbuka di tab baru)