TUJUH PRINSIP ASEAN UNTUK TATA KELOLA DAN ETIKA KECERDASAN BUATAN

Oleh SHIDARTA (Desember 2024)

Kecerdasan buatan (suatu terminologi yang sementara ini banyak digunakan sebagai translasi dari “artificial inteligence,” yang selanjutnya dalam tulisan ini disingkat dengan “AI”) telah menggelisahkan banyak orang. Kegelisahan ini dipicu oleh kemajuan sistem AI yang eksponensial, jauh lebih cepat daripada alat pemantau dan validatornya. Dalam kondisi seperti ini, akhirnya kita perlu mengembalikan ke “the man behind the gun,” yakni manusia yang menjadi pengguna sistem itu. Sistem AI pada hakikatnya adalah karya manusia, yang dikreasikan untuk membantu tugas-tugas manusia. Oleh sebab itu, sistem AI tidak boleh sampai mereduksi nilai-nilai kemanusiaan dari sang kreatornya. Perancangan, pengembangan, dan penerapan sistem AI ini, dengan demikian, memerlukan panduan agar dapat disikapi secara bijak.

Untuk itulah organisasi regional di kawasan Asia Tenggara, yaitu ASEAN, memandang penting untuk mengeluarkan panduan praktis bagi setiap organisasi di kawasan ini dalam merancang, mengembangkan, dan menerapkan sistem AI tradisional dalam aplikasi komersial dan nonmiliter atau penggunaan ganda (dual-use application). Panduan tersebut berfokus pada upaya mendorong penyelarasan dalam ASEAN dan membina interoperabilitas kerangka kerja AI di seluruh yurisdiksi. Panduan ini juga mencakup rekomendasi tentang inisiatif tingkat nasional dan regional yang dapat dipertimbangkan oleh pemerintah di kawasan tersebut untuk merancang, mengembangkan, dan menerapkan sistem AI secara bertanggung jawab.

Hal yang menarik dalam panduan tersebut adalah tampilnya tujuh prinsip tata kelola dan etika dalam rangka perancangan, pengembangan, dan penerapan sistem AI tersebut. Tujuh prinsip tersebut dapat dipandang sebagai pilihan atas derivasi nilai-nilai fundamental tentang sistem AI di regional ASEAN, yang sesungguhnya juga berkarakter universal. Tujuh prinsip pilihan tersebut adalah:

PRINSIP 1: Transparansi dan keterjelasan (transparency and explainability). Prinsip ini menuntut agar perancangan, pengembangan, dan penerapan sistem AI wajib mengungkapkan tentang kapan sistem AI itu digunakan, keterlibatannya dalam pengambilan keputusan, jenis data yang digunakan, dan apa tujuannya. Dengan memberitahukan kepada individu bahwa AI digunakan, mereka dapat menyadari hal ini dan membuat keputusan yang bijaksana untuk menggunakan sistem berbasis AI. Selain itu, prinsip ini juga meminta agar setiap perancangan, pengembangan, dan penerapan sistem AI juga memiliki kemampuan untuk mengkomunikasikan alasan di balik keputusan sistem AI dengan cara yang dapat dimengerti oleh berbagai pihak. Penjelasan ini membantu individu memahami faktor-faktor yang berkontribusi pada rekomendasi sistem AI. Misalnya, dalam platform e-commerce, transparansi dapat diwujudkan dengan memberi tahu pengguna bahwa algoritma rekomendasi memanfaatkan riwayat pembelian mereka. Transparansi dan keterjelasan sangat penting untuk membangun kepercayaan publik terhadap sistem AI, memastikan pengguna memahami penggunaannya, dan membuat keputusan yang lebih baik tentang interaksi dengan sistem tersebut.

PRINSIP 2: Keadilan dan kesetaraan (fairness and equity). Prinsip ini menekankan pentingnya memberikan perlindungan maksimal oleh para pelaksana sistem AI untuk memastikan bahwa keputusan yang dihasilkan algoritma tidak memperburuk atau memperkuat diskriminasi yang sudah ada. Proses desain, pengembangan, dan penerapan sistem AI harus dijaga agar bebas dari bias atau diskriminasi yang tidak adil. Salah satu langkah penting dalam perlindungan ini melibatkan intervensi manusia dan penilaian terhadap algoritme beserta hasil keluarannya. Selain itu, pengujian secara rutin sangat diperlukan untuk mendeteksi adanya bias dalam sistem AI, serta jika bias ditemukan, tindakan perbaikan harus segera dilakukan guna menjaga keseimbangan dan keadilan. Seiring dengan perkembangan teknologi, sistem AI kini makin sering digunakan dalam pengambilan keputusan penting, seperti seleksi lamaran kerja, evaluasi kelayakan kredit, hingga pemberian saran agronomi bagi petani. Namun, tanpa pengelolaan yang tepat, hasil dari sistem ini dapat memperkuat ketidakadilan yang berdampak pada kelompok demografi tertentu. Oleh karena itu, sangat penting untuk memastikan bahwa setiap tahap desain, pengembangan, dan implementasi sistem AI selaras dengan prinsip keadilan dan kesetaraan. Selain itu, data yang digunakan untuk melatih sistem AI harus mencakup keragaman yang memadai dan mewakili populasi secara representatif. Langkah-langkah strategis harus dilakukan untuk mengurangi potensi bias dalam pengumpulan data, pra-pemrosesan, pelatihan, dan proses inferensi. Misalnya, dalam konteks pendidikan, data pelatihan dan pengujian sistem AI harus melibatkan siswa dari berbagai latar belakang gender dan etnis guna memastikan adanya representasi yang adil.

PRINSIP 3: Keamanan dan keselamatan (security and safety). Prinsip ini meminta agar sistem AI dirancang dengan tingkat keamanan tinggi untuk melindungi dari serangan jahat. Keamanan ini mencakup langkah-langkah penilaian risiko, mitigasi bahaya, dan pencegahan yang memungkinkan intervensi manusia jika sistem membuat keputusan berbahaya, seperti pada kendaraan otonom. Langkah-langkah tersebut penting untuk menjaga keselamatan pengguna dan publik sekaligus membangun kepercayaan terhadap AI. Sebelum diterapkan, sistem AI harus menjalani penilaian risiko, pengujian, atau sertifikasi, serta memastikan pengguna memahami risiko dan batasan AI. Misalnya, kendaraan otonom harus memiliki fitur yang memungkinkan pengemudi kembali ke mode manual dengan mudah. Selain itu, keamanan siber harus diprioritaskan, melibatkan perlindungan dari ancaman seperti keracunan data, manipulasi model, dan serangan lainnya. Upaya ini mencakup mekanisme autentikasi, enkripsi, pembaruan perangkat lunak rutin, serta manajemen akses yang ketat. Pelaksana sistem AI perlu menyusun rencana respons insiden untuk mengatasi serangan siber dan menerapkan pengujian keamanan seperti penilaian kerentanan dan uji penetrasi. Pertimbangan tambahan meliputi rencana kesinambungan bisnis, pemulihan bencana, perlindungan dari serangan zero-day, dan keamanan perangkat IoT.

PRINSIP 4: Berpusat pada manusia (human centricity). Prinsip ini berpesan agar sistem AI selalu menjunjung tinggi nilai-nilai kemanusiaan, memastikan bahwa pengembangannya membawa manfaat nyata bagi masyarakat, seperti meningkatkan kesejahteraan, kebahagiaan, dan keamanan. Seluruh siklus hidup AI—mulai dari perancangan hingga implementasi—harus mencerminkan prinsip berpusat pada manusia, termasuk melibatkan pengguna dari beragam latar belakang untuk memahami interaksi mereka dengan teknologi ini serta mengatasi potensi dampak negatifnya. Sistem AI harus dirancang secara etis untuk mencegah manipulasi pengguna atau mendorong mereka mengambil keputusan yang merugikan, seperti melalui pola gelap yang menyesatkan. Contohnya, AI tidak boleh mengadopsi opsi default yang memprioritaskan kepentingan pihak tertentu tanpa mempertimbangkan pengguna akhir, seperti membagikan data pribadi tanpa izin yang jelas. Selain itu, adopsi AI tidak seharusnya mengganggu lapangan kerja secara signifikan tanpa evaluasi dampak yang matang. Setiap organisasi disarankan untuk menggunakan pendekatan berbasis pemangku kepentingan dalam mengevaluasi dampak AI terhadap pekerjaan dan memikirkan cara mendesain ulang tugas sehingga karyawan dapat beradaptasi dengan AI dan berfokus pada pekerjaan bernilai lebih tinggi.

PRINSIP 5: Privasi dan tata kelola data (privacy and data governance). Prinsip ini menekankan pentingnya desain sistem AI yang menjaga privasi dan melindungi data sepanjang siklus hidupnya. Hal ini mencakup akses data yang terbatas pada pihak berwenang, transparansi dalam pengelolaan data, serta persetujuan eksplisit pengguna sebelum pemrosesan data pribadi, kecuali jika diizinkan oleh hukum. Pengumpulan data harus relevan dan dilengkapi dengan kerangka tata kelola data yang diperbarui sesuai regulasi. Pendekatan privasi berdasarkan desain wajib diterapkan sejak awal pengembangan, dengan investasi pada teknologi seperti privasi diferensial dan bukti tanpa pengetahuan untuk meningkatkan perlindungan data. Selain itu, penilaian dampak perlindungan data (DPIA) harus digunakan untuk mengidentifikasi dan mengurangi risiko privasi. Hal ini juga harus melibatkan penilaian risiko yang lebih luas terkait penggunaan AI secara keseluruhan. Perlindungan privasi yang efektif dapat memperkuat kepatuhan terhadap standar hukum dan membangun kepercayaan publik, yang pada gilirannya mendukung penerimaan sistem AI. Pendekatan ini memastikan keseimbangan yang adil antara inovasi teknologi dan tanggung jawab etika, serta memberikan perlindungan yang kuat terhadap hak-hak pribadi individu.

PRINSIP 6: Akuntabilitas dan integritas (accountability and integrity). Prinsip ini menekankan pentingnya akuntabilitas dan kontrol manusia dalam setiap tahap perancangan, pengembangan, dan penerapan sistem AI. Pengembang dan pelaksana sistem AI harus bertanggung jawab atas keputusan yang diambil oleh sistem AI, serta memastikan bahwa sistem tersebut mematuhi hukum yang berlaku dan menghormati nilai-nilai etika dan prinsip AI. Integritas harus dijaga sepanjang siklus hidup sistem AI. Pengelola sistem AI harus memastikan bahwa sistem berfungsi secara efektif, mematuhi regulasi, kebijakan internal, dan prinsip etika. Apabila terjadi kesalahan atau penyalahgunaan yang menghasilkan dampak negatif, pihak yang bertanggung jawab harus mengambil tindakan yang tepat dan melakukan langkah mitigasi untuk mencegah terulangnya insiden serupa. Untuk mempermudah pembagian tanggung jawab, organisasi perlu menerapkan struktur pelaporan yang jelas dalam tata kelola internal, yang menetapkan peran dan tanggung jawab bagi setiap pihak yang terlibat dalam siklus hidup sistem AI. Selain itu, sistem AI harus dirancang, dikembangkan, dan diterapkan dengan integritas, di mana setiap kesalahan atau hasil yang tidak sesuai dengan etika harus dicatat dan diperbaiki untuk menghindari dampak negatif pada pengguna.

PRINSIP 7: Ketangguhan dan keandalan (robustness and realibility). Prinsip ini meminta sistem AI agar dirancang dengan ketangguhan yang memadai untuk menghadapi berbagai tantangan, termasuk kesalahan selama proses eksekusi, input yang tidak terduga atau keliru, serta kondisi lingkungan yang penuh tekanan. Ketangguhan ini mencakup kemampuan untuk mempertahankan kinerja yang konsisten, andal, dan sesuai tujuan dalam berbagai situasi dan input yang bervariasi. Secara khusus, sistem AI harus mampu beradaptasi dengan kondisi dunia nyata yang dinamis, di mana sinyal dan input dapat berubah dengan cepat, tanpa menunjukkan perilaku berbahaya atau menyimpang dari tujuan utamanya. Mengingat sifat sistem AI yang tidak sempurna, diperlukan upaya serius dari pihak pelaksana untuk memastikan adanya kontrol akses yang ketat dan perlindungan menyeluruh terhadap sistem yang bersifat kritis atau sensitif. Pelaksana juga wajib mengambil langkah preventif untuk mengurangi risiko atau dampak negatif yang mungkin timbul akibat kinerja sistem yang tidak dapat diandalkan. Pengujian yang menyeluruh dan ketat sebelum sistem diterapkan di lingkungan operasional adalah langkah esensial untuk menjamin ketahanan dan konsistensi hasil dalam berbagai kondisi. Selain itu, implementasi langkah-langkah pendukung seperti dokumentasi yang akurat terhadap sumber data, pelacakan seluruh tahapan pemrosesan data, dan pencatatan silsilah data dapat menjadi alat yang sangat berguna untuk mengidentifikasi dan menyelesaikan masalah yang muncul. Dengan pendekatan komprehensif ini, sistem AI dapat lebih siap menghadapi kompleksitas dan dinamika lingkungan nyata, sehingga mampu berkontribusi secara optimal dan aman sesuai dengan tujuan yang diharapkan.

Demikianlah prinsip-prinsip ini diajukan untuk dapat menjadi perhatian organisasi-organisasi di kawasan ASEAN yang menjadi perancang, pengembang, dan penerap sistem AI.  Tujuh prinsip ini sangat relevan jika dibawa ke ranah pengkajian filsafat hukum di era sekarang dan masa depan. Tidak saja karena filsafat hukum sangat bersentuhan dengan etika, melainkan juga karena konteks sistem AI ini menawarkan model pendekatan baru dalam berfilsafat hukum. Oleh karena itu, saya mengatakan bahwa manusia sekarang dan di masa depan (dalam waktu yang sangat dekat), adalah sosok-sosok yang perlu berkarakter humanis yang digitalis, tetapi sekaligus digitalis yang humanis. (***)

Note: Khusus untuk perangkuman tujuh prinsip tersebut, penulis dibantu dengan teknologi ChatGPT.