Oleh: Dr. Erna Ratnaningsih, S.H., LL.M

Perkembangan Artificial Intelligence (AI) telah mengubah tata kelola pemerintahan, pelayanan publik, sektor. Ekonomi, hingga sistem keamanan nasional. Penggunaan AI oleh negara dapat meningkatkan efisiensi, akurasi pengambilan keputusan serta optimanilisasi pelayanan publik. Namun disisi lain, penggunaan AI juga berpotensi menimbulkan pelanggaran Hak Asasi Manusia, diskriminasi algoritmik, pelanggaran privasi hingga penggawasan massal (mass surveillance).

Sebagai respon terhadap perkembangan tersebut, komunitas internasional melalui UNESCO mengadopsi UNESCO Recommendation on the Ethnics of Artificial Intellligence pada tahun 2021. Rekomendasi ini menjadi instrument global pertama yang menetapkan standar etika penggunaan AI yang berlandaskan hak asasi manusia, martabat manusia dan berkelanjutan. Rekomendasi ini merupakan instrumen soft law, artinya tidak mengikat secara langsung seperti traktat internasional, namun memiliki kekuatan moral dan politik yang dignifican. Instrumen ini menjadi pedoman global dalam pembentukan regulasi nasional mengenai AI. Indonesia sebagai negara anggota UNESCO, memiliki tanggung jawab moral dan politik untuk menyesuaikan kebijakan nasionalnya dengan prinsip-prinsip yang disepakati.

Dalam hukum HAM Internasional, kewajiban negara terdiri dari:

  1. To Respect yaitu tidak melanggar HAM
  2. To Protect yaitu melindungi dari pelanggaran pihak lain
  3. To Fulfill yaitu memenuhi hak warga negara

Konsep HAM Internasional tersebut sudah diadopsi di dalam Pasal 28I ayat (4) Perubahan UUD 1945 yang berbunyi: “Perlindungan, penegakan dan pemenuhan hak asasi manusia adalah tanggung jawab negara, terutama pemerintah.”

Berdasarkan UNESCO Recommendation on the Ethics of Artificial Intelligence, kewajiban negara dan pemerintah dapat diklasifikasikan sebagai berikut:

  1. Kewajiban Menghormati Hak Asasi Manusia (Obligation to Respect)

Negara wajib memastikan bahwa penggunaan AI oleh lembaga negara:

  • Tidak melanggar hak atas privasi
  • Tidak membatasi kebebasan berekspresi secara sewenang-wenang
  • Tidak melakukan diskriminasi algoritmik

Negara tidak boleh menggunakan AI untuk tujuan pengawasan massal yang melanggar hak asasi manusia atau menerapkan sistem social scoring terhadap warga negara.

  1. Kewajiban Melindungi (Obligation to Protect)

Negara wajib melindungi masyarakat dari penyalahgunaan AI oleh sektor swasta.

Kewajiban ini mencakup:

  1. Membentuk regulasi perlindungan data pribadi
  2. Mengatur tanggung jawab perusahaan teknologi
  3. Mengawasi praktik AI yang berisiko tinggi
  4. Mencegah diskriminasi berbasis algoritma

Negara harus memastikan perusahaan AI melakukan due diligence hak asasi manusia.

  1. Kewajiban Memenuhi (Obligation to Fulfill)

Negara wajib menciptakan sistem tata kelola AI yang beretika dan berkelanjutan.

Kewajiban ini meliputi:

  1. Membentuk Regulasi Nasional AI

Negara harus menyusun undang-undang dan kebijakan yang mengatur:

  • Penggunaan AI oleh pemerintah
  • Standar keamanan dan keselamatan
  • Mekanisme pengawasan
  1. Melakukan Ethical Impact Assessment

Negara diwajibkan melakukan penilaian dampak etis sebelum menerapkan

Penilaian sistem AI, terutama dalam sektor:

  • Peradilan
  • Kepolisian
  • Pelayanan publik
  • Kesehatan

Hal ini bertujuan untuk mengidentifikasi risiko terhadap hak asasi manusia.

  1. Menjamin Transparansi dan Akuntabilitas

Negara harus memastikan bahwa sistem AI:

  • Dapat diaudit
  • Dapat dijelaskan (explainable AI)
  • Memiliki mekanisme pengaduan bagi masyarakat
  1. Menjamin Pengawasan Manusia (Human Oversight)

Keputusan yang berdampak besar terhadap individu tidak boleh sepenuhnya diserahkan kepada AI tanpa intervensi manusia.

Manusia tetap menjadi pengambil keputusan akhir dan pihak yang bertanggung jawab.

  1. Menjamin Keamanan dan Keselamatan

Negara harus memastikan bahwa sistem AI:

  • Aman digunakan
  • Tidak membahayakan keselamatan publik
  • Melalui pengujian dan evaluasi sebelum diterapkan
  1. Menjamin Keberlanjutan Lingkungan

Negara harus mempertimbangkan dampak lingkungan dari penggunaan AI, termasuk:

  • Konsumsi energi pusat data
  • Jejak karbon teknologi digital

Berdasarkan UNESCO Recommendation on the Ethics of Artificial Intelligence di atas, maka negara dan pemerintah memiliki kewajiban untuk:

  1. Menghormati hak asasi manusia dalam penggunaan AI
  2. Melindungi masyarakat dari penyalahgunaan AI oleh sektor swasta
  3. Membentuk regulasi nasional yang mengatur tata kelola AI
  4. Menjamin transparansi, akuntabilitas, dan pengawasan manusia
  5. Memastikan keamanan serta keberlanjutan lingkungan

Meskipun bersifat soft law, rekomendasi ini menjadi standar global penting dalam membangun sistem AI yang etis dan bertanggung jawab. Di Indonesia sendiri belum ada pengaturan khusus terkait dengan AI, Stranas KA 2020-2045 adalah dkoumen strategis yang memposisikan AI sebagai pengungkit menuju Indonesia Emas dengan lima klaster prioritas yaitu kesehatan, reformasi birokrasi, Pendidikan/riset, ketahanan pangan serta mobilitas dan smart cities. Saat ini Pemerintah menempatkan dua Peraturan Presiden Peta Jalan Kecerdasan Artificial Nasional 2026-2030 dan Etika/Kemanan AI sebagai prioritas tahun 2026. Semoga tata kelola AI yang sedang dikembangkan oleh Pemerintah berdasarkan pada penghormatan hak asasi manusia dan dapat memberikan kepastian hukum bagi pelaku usaha serta perlindungan bagi masyarakat.