SEPULUH PRINSIP UNESCO UNTUK TATA KELOLA DAN ETIKA KECERDASAN BUATAN
Oleh SHIDARTA (Desember 2024)
Organisasi Perserikatan Bangsa-Bangsa di bidang pendidikan, ilmu pengetahuan, dan kebudayaan, UNESCO, pada tahun 2022 mempublikasikan “Recommendation on the Ethics of Artificial Intelligence” hasil adopsi pertemuan Paris, tanggal 23 November 2021 (selanjutnya disebut “Rekomendasi”). UNESCO meminta semua negara anggota PBB dapat secara sukarela menerapkan semua ketentuan Rekomendasi tersebut dengan cara: (1) mengambil langkah-langkah yang tepat, termasuk tindakan legislatif atau tindakan lain apapun yang mungkin diperlukan, sesuai dengan praktik konstitusional dan struktur pemerintahan masing-masing negara; (2) memberlakukan prinsip dan norma Rekomendasi dalam yurisdiksi mereka sesuai dengan hukum internasional, termasuk hukum hak asasi manusia internasional; (3) melibatkan semua pemangku kepentingan, termasuk perusahaan bisnis, untuk memastikan bahwa mereka memainkan peran masing-masing dalam pelaksanaan Rekomendasi ini; dan (4) menyampaikan Rekomendasi ini kepada otoritas, badan, organisasi penelitian dan akademis, lembaga dan organisasi di sektor publik, swasta, dan masyarakat sipil yang terlibat dalam teknologi AI, sehingga pengembangan dan penggunaan teknologi AI dipandu oleh penelitian ilmiah yang baik serta analisis dan evaluasi yang etis. Cara-cara ini dapat dipandang sebagai tata kelola dan etika sistem kecerdasan buatan (selanjutnya disebut “sistem AI”) yang wajib diperhatikan, khususnya bagi organisasi pendidikan tinggi yang memang bergerak dalam ranah pendidikan, ilmu pengetahuan, dan kebudayaan.
Tulisan ini hanya akan menyoroti aspek nilai dan prinsip tentang sistem AI dalam Rekomendasi tersebut, mengingat hal-hal inilah yang sesungguhnya menjadi roh dari publikasi UNESCO itu. Dalam situs resmi UNESCO yang ditampilkan di bagian teras, urutan dari empat nilai ini sedikit berbeda dengan yang tertulis dalam Rekomendasi, yakni sebagai berikut: (1) human rights and human dignity, (2) living in peaceful, just, and interconnected societies, (3) ensuring diversity and inclusiveness, dan (4) environment and ecosystem flourishing. Menurut buku Rekomendasi, empat nilai yang dimaksud adalah: (1) penghormatan, perlindungan, dan pemajuan hak asasi manusia dan kebebasan fundamental serta martabat manusia; (2) pengembangan lingkungan hidup dan ekosistem, (3) penjaminan keberagaman dan inklusivitas, dan (4) penghidupan dalam masyarakat yang damai, adil dan saling terhubung.
Nilai pertama ini berangkat dari kekhawatiran bahwa sistem AI akan berdampak pada marginalisasi individu atau kelompok yang memang rentan, terutama karena alasan-alasan perbedaan ras, warna kulit, asal-usul, jenis kelamin, usia, bahasa, agama, pandangan politik, kebangsaan, etnisitas, status sosial, kondisi ekonomi atau sosial, atau disabilitas serta alasan lainnya. Tidak ada individu atau kelompok yang boleh diperlakukan secara merugikan atau ditekan, baik secara fisik, ekonomi, sosial, politik, budaya, maupun mental, pada tahap apa pun dalam siklus hidup sistem AI. Sepanjang siklus hidup sistem AI, kualitas hidup manusia harus selalu ditingkatkan, dengan pengertian “kualitas hidup” itu harus dibiarkan terbuka untuk interpretasi masing-masing individu atau kelompok, asalkan tidak ada pelanggaran terhadap hak asasi manusia, kebebasan dasar, atau martabat manusia. Individu dapat berinteraksi dengan sistem AI dan menerima bantuan, misalnya dalam perawatan bagi orang yang rentan. Dalam setiap interaksi ini, martabat mereka tidak boleh direndahkan, mereka tidak boleh diobjektifikasi, dan hak asasi manusia serta kebebasan dasar tidak boleh dilanggar atau disalahgunakan. Setiap teknologi seharusnya memberikan cara-cara baru untuk mengadvokasi, melindungi, dan menegakkan hak asasi manusia, bukan sebaliknya, melanggar hak-hak tersebut.
Nilai kedua menekankan pada keberlanjutan lingkungan dan ekosistem di sepanjang siklus hidup sistem AI. Lingkungan dan ekosistem merupakan kebutuhan eksistensial bagi umat manusia dan makhluk hidup lainnya untuk dapat menikmati manfaat dari kemajuan teknologi AI. Semua pihak yang terlibat dalam siklus hidup sistem AI wajib mematuhi hukum internasional yang berlaku serta undang-undang, standar, dan praktik domestik, seperti prinsip kehati-hatian, yang dirancang untuk perlindungan dan pemulihan lingkungan dan ekosistem, serta pembangunan berkelanjutan. Mereka harus berupaya mengurangi dampak lingkungan dari sistem AI, termasuk, namun tidak terbatas pada, jejak karbonnya, untuk memastikan minimisasi perubahan iklim dan faktor risiko lingkungan, serta mencegah eksploitasi, penggunaan, dan transformasi sumber daya alam yang tidak berkelanjutan yang dapat menyebabkan kerusakan lingkungan dan degradasi ekosistem.
Nilai ketiga berkenaan dengan jaminan atas penghormatan, perlindungan, dan promosi terhadap keberagaman dan inklusivitas sepanjang siklus hidup sistem AI, sesuai dengan hukum internasional, termasuk hukum hak asasi manusia. Hal ini dapat dilakukan dengan mendorong partisipasi aktif dari semua individu atau kelompok tanpa memandang ras, warna kulit, keturunan, jenis kelamin, usia, bahasa, agama, pandangan politik, asal kebangsaan, asal etnis, status sosial, kondisi ekonomi atau sosial saat lahir, disabilitas, atau alasan lainnya. Pilihan gaya hidup, keyakinan, opini, ekspresi, atau pengalaman pribadi, termasuk penggunaan sistem AI secara sukarela dan perancangan bersama arsitektur-arsitektur tersebut, tidak boleh dibatasi pada tahap apa pun dalam siklus hidup sistem AI. Selain itu, upaya-upaya, termasuk kerja sama internasional, harus dilakukan untuk mengatasi, dan tidak memanfaatkan, kekurangan infrastruktur teknologi yang diperlukan, pendidikan dan keterampilan, serta kerangka hukum, terutama di negara-negara berpenghasilan rendah dan menengah (LMICs), negara-negara paling kurang berkembang (LDCs), negara-negara tanpa akses laut (LLDCs), dan negara kepulauan kecil yang berkembang (SIDS), yang mem[p]engaruhi komunitas-komunitas tersebut.
Nilai keempat menyatakan bahwa aktor-aktor AI harus memainkan peran yang partisipatif dan memberdayakan untuk memastikan terciptanya masyarakat yang damai dan adil, yang didasarkan pada masa depan yang saling terhubung demi kebaikan bersama, sesuai dengan hak asasi manusia dan kebebasan fundamental. Nilai hidup dalam masyarakat yang damai dan adil menunjukkan potensi sistem AI untuk berkontribusi sepanjang siklus hidupnya terhadap keterhubungan semua makhluk hidup satu sama lain dan dengan lingkungan alam. Konsep keterhubungan manusia didasarkan pada pemahaman bahwa setiap individu merupakan bagian dari keseluruhan yang lebih besar, yang hanya dapat berkembang ketika semua bagiannya diberdayakan untuk berkembang. Hidup dalam masyarakat yang damai, adil, dan saling terhubung membutuhkan ikatan solidaritas yang organik, langsung, dan tanpa perhitungan, yang ditandai dengan pencarian hubungan damai yang terus-menerus, dengan kecenderungan untuk peduli terhadap sesama dan lingkungan alam dalam pengertian yang seluas-luasnya. Nilai ini menuntut agar perdamaian, inklusivitas, keadilan, kesetaraan, dan keterhubungan dipromosikan sepanjang siklus hidup sistem AI, dengan syarat bahwa proses-proses dalam siklus hidup sistem AI tidak boleh memisahkan, mengobjektifikasi, atau merusak kebebasan dan pengambilan keputusan otonom, serta keselamatan manusia dan komunitas, tidak boleh memecah belah dan membuat individu serta kelompok saling bermusuhan, atau mengancam keberlangsungan hidup bersama antara manusia, makhluk hidup lainnya, dan lingkungan alam.
Empat nilai di atas kemudian dikembangkan menjadi sepuluh prinsip tata kelola dan etika sistem AI. Jika diilustrasikan penjabarannya adalah sebagai berikut:
Dalam buku yang memuat Rekomendasi UNESCO tersebut, urutan dari sepuluh prinsip itu ternyata juga berbeda dengan urutan yang ditampilkan di teras situs resminya. Urutan yang diuraikan di bawah ini mengikuti paparan dalam buku Rekomendasi.
PRINSIP 1: Proporsionalitas dan tidak merugikan (proportionality and do no harm). Pada intinya prinsip ini menggarisbawahi bahwa AI harus digunakan secara proporsional, sesuai konteks, dan tidak boleh melanggar hak asasi manusia atau merugikan lingkungan. Risiko kerugian harus diminimalkan melalui penilaian dan mitigasi. Pengambilan keputusan penting atau kritis tetap harus berada di tangan manusia, dan AI tidak boleh digunakan untuk pengawasan massal atau penilaian sosial.
PRINSIP 2: Keamanan dan keselamatan (security and safety). Dalam hal ini harus dipastikan bahwa sistem AI wajib dirancang untuk menghindari risiko keselamatan dan keamanan sepanjang siklus hidupnya. Hal ini mencakup kerangka kerja data berkelanjutan yang melindungi privasi dan mendukung pelatihan model AI dengan data berkualitas.
PRINSIP 3: Keadilan dan non-diskriminasi (fairness and non-discrimination). AI harus dirancang untuk mendukung keadilan sosial dan melarang diskriminasi, dengan pendekatan inklusif yang mempertimbangkan kebutuhan kelompok rentan. Negara maju memiliki tanggung jawab untuk membantu negara berkembang mengakses manfaat AI. Sistem AI juga harus mengurangi bias algoritma, menyediakan solusi terhadap diskriminasi, dan memastikan kesetaraan dalam akses dan partisipasi.
PRINSIP 4: Keberlanjutan (sustainability). Keberlanjutan masyarakat memerlukan pencapaian tujuan kompleks di berbagai dimensi, yang dapat didukung atau dihambat oleh teknologi AI. Penilaian dampak AI harus dilakukan terus-menerus, sejalan dengan SDGs PBB, untuk memastikan kontribusinya terhadap keberlanjutan.
PRINSIP 5: Hak privasi dan perlindungan data (right to privacy and data protection). Prinsip ini mewajibkan hak privasi untuk dijaga dalam seluruh siklus hidup AI sesuai hukum internasional. Perlindungan data memerlukan kerangka tata kelola berbasis standar internasional dengan persetujuan yang transparan. Sistem algoritmik wajib menjalani penilaian dampak privasi yang mencakup aspek sosial dan etis, dengan pendekatan privacy by design (PbD). Apa yang dimaksud dengan PbD di sini adalah keharusan privasi dan nilai-nilai kemanusiaan untuk secara peka diperhitungkan dan didefinisikan dengan baik di seluruh proses rekayasa.
PRINSIP 6: Pengawasan dan penentuan oleh manusia. Di sini ingin ditekankan bahwa negara wajib memastikan tanggung jawab etis dan hukum terkait sistem AI dapat dialamatkan kepada individu atau entitas hukum. Meskipun AI dapat membantu efisiensi, keputusan akhir, khususnya terkait hidup dan mati, harus tetap menjadi tanggung jawab manusia.
PRINSIP 7: Transparansi dan keterjelasan (transparency and explainability). Prinsip ini adalah komponen utama untuk memastikan akuntabilitas, keadilan, dan kepercayaan pada sistem AI. Transparansi memungkinkan pengawasan publik, sementara kejelasan memastikan proses dan hasil AI dapat dipahami. Sistem AI dengan dampak besar harus memberikan penjelasan mendalam untuk mempertahankan etika dan akuntabilitas.
PRINSIP 8: Tanggung jawab dan akuntabilitas (responsibility and accountability). Negara dan aktor AI harus bertanggung jawab atas dampak sistem AI terhadap hak asasi manusia dan lingkungan. Mekanisme akuntabilitas, seperti audit dan penilaian dampak, wajib memastikan kepatuhan terhadap standar etika dan hukum sepanjang siklus hidup AI.
PRINSIP 9: Kesadaran dan literasi (awareness and literacy). Prinsip ini mewajibkan adanya peningkatan kesadaran masyarakat tentang AI melalui pendidikan lintas sektor yang inklusif dan menghormati keanekaragaman. Pemahaman tentang AI harus didasarkan pada dampaknya terhadap hak asasi manusia, kebebasan fundamental, dan keberlanjutan lingkungan.
PRINSIP 10: Tata kelola dan kolaborasi multi-pemangku kepentingan yang adaptif (multi-stakeholder and adaptive governance and collaboration). Tata kelola AI yang inklusif memerlukan partisipasi berbagai pemangku kepentingan dari sektor pemerintah hingga masyarakat sipil. Pengaturan data harus menghormati hukum internasional dan kedaulatan negara, serta memastikan perlindungan privasi dan hak asasi manusia.
Demikianlah rangkuman dari sepuluh prinsip yang direkomendasikan oleh UNESCO. Seperti telah disinggung di muka, di dalam situs resmi UNESCO, urutan dari sepuluh prinsip itu diubah menjadi sebagai berikut: (1) proprotionality and do no harm, (2) safety and security, (3) pright to privacy and data protection, (4) multi-stakeholder and adaptive governance and collaboration, (5) responsibility and accountability, (6) transparency and expalinability, (7) human oversight and determination, (8) sustainability, (9) awarness and literacy, dan (10) fairness and non-discrimination. Tidak ada penjelasan mengapa UNESCO mengubah urutan tersebut, selain penegasan bahwa sepuluh prinsip utama ini bertolak dari pendekatan hak asasi manusia. (***)
Note: Khusus untuk perangkuman sepuluh prinsip tersebut, penulis dibantu dengan teknologi ChatGPT.
