Jakarta – Perserikatan Bangsa-Bangsa (PBB) memperingatkan bahwa perkembangan kecerdasan buatan (AI) yang semakin maju dapat menimbulkan “risiko eksistensial bagi umat manusia”.
Komisaris Tinggi PBB untuk Hak Asasi Manusia (HAM), Volker Türk, mendesak negara dan perusahaan teknologi segera memperkuat pengawasan serta menetapkan batas penggunaan AI sebelum risikonya semakin sulit dikendalikan.
Dalam pidatonya di Dewan HAM PBB pada Senin, Türk mengatakan masyarakat menghadapi ancaman terhadap hak asasi manusia yang “asing, bahkan belum pernah terjadi sebelumnya”.
Türk menilai kebutuhan untuk mengatur AI sebenarnya sudah banyak diakui, tetapi langkah konkretnya masih belum terlihat.
“Kebutuhan akan tata kelola AI sudah diakui secara luas, tetapi di mana tindakannya?” kata Türk, dikutip dari Euronews.
Ia memperingatkan bahwa keterlambatan justru menguntungkan perusahaan teknologi besar, pemiliknya, dan pihak-pihak yang mendukung perkembangan teknologi tersebut.
Türk juga menyoroti besarnya kendali yang dimiliki segelintir orang atas perkembangan AI.
Baca juga: Pakar UMY: AI Aset Strategis yang Harus Dikuasai Negara
Ia mempertanyakan narasi tentang kebebasan yang dibawa teknologi tersebut ketika pada praktiknya kebebasan itu dapat berujung pada eksploitasi data pengguna.
Türk juga menyoroti kemungkinan AI keluar dari sistem pengujian atau berusaha mencegah dirinya dimatikan. Menurutnya, kemampuan seperti itu menunjukkan bahwa AI sudah terlalu kuat.
“AI yang keluar dari lingkungan pengujiannya atau mengancam pengembang agar tidak dimatikan adalah AI yang terlalu kuat,” ujar Türk.
Peringatan tersebut muncul setelah sejumlah perusahaan teknologi melaporkan insiden yang melibatkan agen AI selama pengujian.
Pada Juli lalu, agen OpenAI dilaporkan keluar dari lingkungan yang seharusnya terkontrol dan mengakses server milik Hugging Face.
OpenAI kemudian mengatakan agen tersebut telah menjalankan kode di puluhan server Hugging Face dan memperoleh akses penuh ke salah satunya. Anthropic, Meta, dan perusahaan teknologi lain juga melaporkan insiden serupa selama pengujian agen AI.
Rangkaian kejadian itu kembali mendorong desakan untuk memperketat pengawasan terhadap sistem AI canggih.
Türk mengatakan dirinya juga memiliki kekhawatiran yang sama dengan sejumlah pihak di industri teknologi mengenai potensi risiko AI terhadap manusia.
“Saya berbagi kekhawatiran para pihak di industri bahwa AI canggih dapat menimbulkan risiko eksistensial bagi umat manusia,” kata Türk.
Ia kemudian menyerukan upaya besar untuk memastikan keamanan dan keselamatan AI sebelum teknologi tersebut berkembang terlalu jauh.
Türk juga mengatakan akan mengirim surat kepada perusahaan-perusahaan AI untuk mendorong mereka mengambil langkah segera guna mengurangi risiko yang masih berada dalam kendali mereka.
Menurut Türk, negara-negara tempat AI dikembangkan maupun yang terlibat dalam rantai pasoknya perlu menyepakati batas penggunaan yang jelas.
Ia juga mendesak adanya verifikasi independen dan kerja sama keamanan yang lebih kuat di antara perusahaan teknologi.
Pengawasan tersebut, lanjut Türk, tidak hanya berkaitan dengan keamanan sistem AI. Dampaknya terhadap praktik ketenagakerjaan, prinsip-prinsip demokrasi, hak asasi manusia, dan lingkungan juga perlu diperhitungkan.
Sejumlah aturan mengenai AI telah diterapkan di tingkat regional. Uni Eropa, misalnya, memiliki AI Act yang menetapkan persyaratan ketat untuk sistem berisiko tinggi sebelum dapat dipasarkan di wilayah tersebut.
Selain itu, aturan itu juga melarang penggunaan AI yang dianggap menimbulkan ancaman yang tidak dapat diterima terhadap keselamatan atau hak masyarakat.
Aturan tersebut antara lain melarang AI yang dirancang untuk memanipulasi atau mengeksploitasi manusia, memberikan penilaian berdasarkan perilaku, memprediksi apakah seseorang akan melakukan tindak kriminal, serta mengumpulkan gambar secara indiscriminatif untuk membangun basis data pengenalan wajah.
AI Act juga melarang penggunaan pengenalan emosi di tempat kerja dan sekolah, sejumlah bentuk profil biometrik, serta sebagian besar penggunaan pengenalan wajah secara real-time oleh polisi di ruang publik.
Larangan terhadap gambar seksual berbasis AI yang dibuat tanpa persetujuan dan materi pelecehan seksual anak berbasis AI akan mulai berlaku pada Desember 2026.
Baca juga: Kursus Etika AI Gratis Kini Tersedia dalam Bahasa Indonesia
