Antonio Guterres Pertimbangkan Pembentukan Badan Pengawas AI

WASHINGTON, LELEMUKU.COM - Sekretaris Jenderal PBB Antonio Guterres pada hari Senin (12/6) mengatakan, ia akan menunjuk badan penasihat ilmiah dalam beberapa hari ke depan, yang akan melibatkan pakar dari luar di bidang kecerdasan buatan (AI). Ia juga mengatakan dirinya terbuka pada gagasan untuk membentuk badan PBB baru yang akan fokus pada AI.

“Saya akan mendukung gagasan bahwa kita dapat memiliki sebuah badan kecerdasan buatan, menurut saya, yang terinspirasi dari Badan Energi Atom Internasional saat ini,” kata Guterres, merujuk pada badan pengawas nuklir PBB.

Ia mengatakan, ia tidak memiliki wewenang untuk membentuk lembaga seperti IAEA – itu bergantung pada keputusan ke-193 negara anggota PBB. Tapi ia mengatakan bahwa gagasan itu telah dibahas dan ia melihatnya sebagai perkembangan positif.

“Apa keuntungan IAEA? ini adalah lembaga berbasis ilmu pengetahuan yang sangat solid,” kata Guterres kepada wartawan. “Pada saat yang sama, meskipun terbatas, lembaga ini memiliki beberapa fungsi regulasi. Untuk itu, saya percaya ini adalah sebuah contoh yang bisa sangat menarik.”

IAEA, yang bermarkas di Wina, adalah pusat kerja sama nuklir internasional. Lembaga itu telah mengembangkan standar keamanan nuklir internasional serta menjadi pengawas sekaligus penasihat penggunaan energi nuklir secara damai.

Ada kekhawatiran yang semakin besar tentang kekuatan kecerdasan buatan dan bagaimana teknologi itu dapat disalahgunakan untuk tujuan negatif dan bahkan mematikan. Keresahan itu bahkan juga disampaikan oleh Geoffrey Hinton, yang dijuluki ilmuwan sebagai “Bapak AI.”

Perdana Menteri Inggris Rishi Sunak pekan lalu mengumumkan rencana negaranya untuk menyelenggarakan konferensi tingkat tinggi dunia tentang keamanan AI pada musim gugur mendatang.

Terkait pengaturan AI, Guterres mengatakan, di tengah industri di mana segalanya bergerak dengan sangat cepat, suatu peraturan bisa dengan cepat tidak relevan lagi. Untuk itu, penting untuk menciptakan sesuatu yang lebih fleksibel untuk mengelolanya.

“Kita membutuhkan proses – proses intervensi secara terus menerus dari berbagai kepentingan, bekerja sama untuk secara permanen menetapkan sejumlah mekanisme hukum yang lunak, seperti sejumlah norma, kode etik dan lain-lain,” ungkapnya.

Guterres mengatakan, badan penasihat ilmiah yang akan segera dibentuknya juga akan melibatkan ilmuwan kepala dari Organisasi Pendidikan, Ilmu Pengetahuan dan Kebudayaan PBB (UNESCO) dan Persatuan Telekomunikasi Internasional (ITU), yang merupakan badan khusus PBB terkait teknologi informasi dan telekomunikasi.

Ia mengatakan, pakar dari luar, termasuk dua orang dari industri AI, akan dilibatkan dalam badan itu.

Ia juga mengumumkan rencana pembuatan perjanjian digital, yang disebutnya akan menjadi “kode etik” sukarela, yang ia harap dapat dipatuhi perusahaan teknologi dan pemerintahan di dunia, dengan tujuan untuk menurunkan penyebaran misinformasi, disinformasi dan ujaran kebencian kepada miliaran orang dan membuat internet lebih aman.

“Usulan itu dimaksudkan untuk menciptakan pagar pembatas yang dapat membantu berbagai pemerintahan menyatukan pedoman yang mendukung fakta, sambil mengungkap konspirasi dan kebohongan, serta menjaga kebebasan berekspresi dan informasi,” ungkapnya. “Dan untuk membantu perusahaan teknologi menavigasi masalah etika dan hukum yang sulit, serta membangun model bisnis berdasarkan ekosistem informasi yang sehat.”

Ia mengatakan, perusahaan teknologi tidak berbuat banyak untuk mencegah platform mereka dijadikan wadah kebencian dan kekerasan. Ia juga mengkritik pemerintah karena mengabaikan hak asasi manusia dan terkadang mengambil tindakan drastis, seperti pemutusan akses internet.

Guterres berharap dapat menerbitkan kode etik itu setelah membahasnya bersama negara-negara anggota, sebelum KTT Masa Depan PBB yang dijadwalkan pada September 2024.(VOA)