
Oleh: Achmad Lugas (Law Study Club/LSC)
Perkembangan teknologi digital telah mengubah cara kekuasaan bekerja dalam kehidupan manusia. Kekuasaan tidak lagi hanya hadir melalui peraturan perundang-undangan, keputusan pejabat negara, atau tindakan institusi formal. Ia juga bekerja melalui sistem algoritma, desain platform, arsitektur jaringan, pengolahan data, dan kode pemrograman yang secara perlahan menentukan apa yang dapat dilakukan, dilihat, diakses, bahkan dipikirkan oleh manusia.
Dalam kehidupan sehari-hari, seseorang mungkin merasa bebas menggunakan teknologi digital. Namun, kebebasan tersebut sesungguhnya berlangsung di dalam ruang yang batas-batasnya telah dirancang oleh pihak lain. Platform menentukan konten yang muncul di layar, algoritma mengatur urutan informasi, sistem rekomendasi membentuk preferensi, dan mekanisme moderasi menentukan informasi yang dapat dipertahankan atau dihapus. Bahkan, keputusan yang memengaruhi akses seseorang terhadap layanan, kesempatan ekonomi, dan ruang partisipasi sosial dapat dihasilkan melalui proses otomatis yang tidak sepenuhnya dipahami oleh orang yang terkena dampaknya.
Situasi ini menghadirkan pertanyaan mendasar bagi filsafat hukum, apakah kekuasaan yang mampu mengatur perilaku manusia selalu dapat dibenarkan sebagai kekuasaan yang sah? Apakah kemampuan teknologi untuk membatasi, mengarahkan, dan mengendalikan tindakan manusia dengan sendirinya memberikan legitimasi kepada pihak yang mengendalikan teknologi tersebut?
Pertanyaan tersebut menemukan relevansinya dalam pemikiran Lawrence Lessig melalui gagasan terkenalnya, Code is Law. Lessig menunjukkan bahwa dalam ruang digital, kode atau arsitektur teknologi tidak sekadar menjadi instrumen teknis, melainkan dapat berfungsi sebagai mekanisme regulasi yang membentuk dan membatasi perilaku manusia. Akan tetapi, justru pada titik inilah pemikirannya perlu dibaca secara kritis. Kemampuan kode untuk mengatur tidak serta-merta menjawab persoalan mengenai siapa yang berhak mengatur, atas dasar apa kekuasaan itu dijalankan, dan bagaimana kekuasaan tersebut dapat dipertanggungjawabkan.
Dengan demikian, persoalan utama bukan lagi sekadar bagaimana hukum mengatur teknologi, melainkan bagaimana hukum menghadapi kenyataan bahwa teknologi telah menjadi salah satu sumber kekuasaan yang mengatur kehidupan manusia.
Lawrence Lessig dan Pergeseran Cara Memahami Kekuasaan Hukum
Dalam pemikirannya, Lessig mengembangkan gagasan bahwa perilaku manusia dalam suatu ruang sosial dibentuk oleh empat modalitas regulasi, yaitu hukum (law), norma sosial (social norms), pasar (market), dan arsitektur (architecture). Keempatnya bekerja secara bersamaan dalam membatasi, mengarahkan, dan membentuk tindakan manusia.
Hukum mengatur melalui ketentuan formal dan ancaman sanksi. Norma sosial bekerja melalui penerimaan, penolakan, dan tekanan masyarakat. Pasar mengendalikan perilaku melalui mekanisme harga, insentif, dan distribusi sumber daya. Sementara itu, arsitektur mengatur melalui desain lingkungan yang memungkinkan atau justru menghalangi tindakan tertentu.
Dalam ruang digital, arsitektur tersebut diwujudkan melalui kode pemrograman. Kode menentukan fitur yang tersedia, akses yang diperbolehkan, aktivitas yang dapat dilakukan, serta tindakan yang secara teknis mustahil dijalankan. Seseorang tidak dapat mengakses fitur yang tidak disediakan oleh sistem. Pengguna tidak dapat melewati mekanisme verifikasi yang telah dirancang oleh platform. Informasi yang tidak ditampilkan oleh algoritma mungkin tidak pernah ditemukan oleh penggunanya.
Di sinilah kekuatan pemikiran Lessig terlihat. Ia mengingatkan bahwa regulasi tidak selalu bekerja melalui perintah dan larangan yang dinyatakan secara terbuka. Regulasi juga dapat bekerja melalui desain sistem yang secara langsung membentuk kemungkinan tindakan manusia.
Namun, gagasan Code is Law perlu ditempatkan secara tepat. Lessig tidak sedang menyatakan bahwa kode pemrograman memiliki kedudukan formal yang sama dengan undang-undang dalam sistem hukum. Pokok pemikirannya adalah bahwa kode dapat menjalankan fungsi regulatif sebagaimana hukum, yakni mengendalikan perilaku melalui pembentukan struktur kemungkinan dan batas tindakan.
Perbedaan ini penting karena kemampuan mengatur tidak identik dengan keabsahan hukum. Kode dapat efektif mengendalikan manusia, tetapi efektivitas tersebut tidak otomatis menjadikannya sah secara hukum ataupun benar secara moral. Sebuah sistem dapat bekerja dengan sangat presisi, tetapi tetap menghasilkan diskriminasi. Sebuah algoritma dapat meningkatkan efisiensi, tetapi sekaligus meniadakan kesempatan seseorang untuk memperoleh penjelasan atau mengajukan keberatan.
Dengan demikian, Lessig berhasil memperluas pemahaman mengenai cara kekuasaan regulatif bekerja, tetapi gagasannya masih menyisakan persoalan mengenai legitimasi kekuasaan tersebut.
Kekuasaan Algoritma dan Lahirnya Dominasi Infrastruktur Digital
Perkembangan teknologi digital memperlihatkan bahwa kekuasaan semakin banyak dijalankan melalui penguasaan terhadap infrastruktur. Pihak yang menguasai platform, pusat data, sistem identifikasi digital, jaringan komunikasi, dan teknologi pemrosesan informasi memiliki kemampuan untuk memengaruhi kehidupan masyarakat secara luas.
Kekuasaan semacam ini berbeda dari kekuasaan negara dalam bentuk klasik. Ia tidak selalu membutuhkan kewenangan publik, legitimasi elektoral, atau prosedur pembentukan peraturan perundang-undangan. Akan tetapi, pengaruhnya dapat menyentuh wilayah yang selama ini menjadi perhatian utama hukum publik, seperti kebebasan berekspresi, privasi, akses terhadap informasi, kesempatan ekonomi, dan partisipasi masyarakat.
Perusahaan teknologi dapat menentukan aturan penggunaan platform, mengubah mekanisme distribusi informasi, menangguhkan akun, membatasi akses layanan, atau mengembangkan sistem penilaian otomatis. Keputusan tersebut mungkin secara formal ditempatkan sebagai kebijakan internal perusahaan. Namun, ketika platform telah menjadi infrastruktur penting bagi kehidupan sosial dan ekonomi, kebijakan privat dapat menimbulkan konsekuensi yang bersifat publik.
Di sinilah muncul persoalan dominasi infrastruktur. Kekuasaan tidak hanya terletak pada kemampuan memerintah, tetapi juga pada kemampuan menentukan syarat-syarat seseorang untuk berpartisipasi dalam kehidupan digital. Pihak yang menguasai infrastruktur dapat menentukan siapa yang memperoleh akses, bagaimana informasi disebarkan, dan perilaku apa yang dianggap sesuai dengan sistem.
Persoalannya semakin serius ketika masyarakat tidak memiliki alternatif yang realistis. Persetujuan terhadap syarat dan ketentuan penggunaan platform sering kali dipandang sebagai dasar legitimasi tindakan perusahaan. Padahal, persetujuan tersebut dapat berlangsung dalam situasi ketimpangan informasi, ketergantungan ekonomi, dan keterbatasan pilihan. Pengguna mungkin menyetujui ketentuan bukan karena benar-benar memahami atau menyetujuinya secara substantif, melainkan karena tidak tersedia pilihan lain yang memungkinkan mereka tetap berpartisipasi dalam kehidupan digital.
Karena itu, persetujuan formal tidak selalu mencerminkan kebebasan yang sesungguhnya. Dalam kondisi ketergantungan yang tinggi, persetujuan dapat berubah menjadi mekanisme yang melegitimasi dominasi.
Persoalan tersebut dapat diperdalam melalui dialog dengan positivisme hukum, khususnya pemikiran Hans Kelsen dan H.L.A. Hart. Keduanya membantu menjelaskan mengapa kemampuan suatu sistem untuk mengendalikan perilaku tidak boleh langsung disamakan dengan keabsahan hukum.
Dalam teori Kelsen, validitas norma berkaitan dengan kedudukannya dalam tata norma yang memperoleh dasar keberlakuan dari norma yang lebih tinggi. Keberlakuan hukum tidak semata-mata ditentukan oleh kenyataan bahwa suatu perintah ditaati atau memiliki daya paksa. Sementara itu, Hart menjelaskan sistem hukum melalui hubungan antara aturan primer dan aturan sekunder, termasuk aturan yang menentukan bagaimana norma diakui, diubah, dan diterapkan.
Melalui perspektif tersebut, kode pemrograman yang mampu mengendalikan perilaku manusia tidak otomatis menjadi hukum dalam pengertian formal. Kode tidak dengan sendirinya memperoleh validitas hanya karena dijalankan oleh sistem yang digunakan jutaan orang. Ia mungkin memiliki daya regulatif yang kuat, tetapi dasar kewenangannya tetap perlu diperiksa.
Di sini terdapat perbedaan antara efektivitas, validitas, dan legitimasi. Efektivitas berkaitan dengan kemampuan suatu aturan atau sistem menghasilkan kepatuhan. Validitas berkaitan dengan dasar keberlakuannya dalam tata hukum. Sementara itu, legitimasi menyangkut alasan normatif mengapa kekuasaan tersebut patut diterima dan dibenarkan.
Ketiganya tidak boleh dicampuradukkan. Algoritma yang berhasil mengarahkan perilaku belum tentu memiliki dasar kewenangan yang sah. Sistem yang secara formal dibentuk berdasarkan kontrak belum tentu adil dalam pelaksanaannya. Bahkan, kebijakan yang memenuhi ketentuan hukum positif tetap dapat dipersoalkan dari sudut pandang keadilan substantif.
Akan tetapi, kritik ini juga tidak berarti bahwa positivisme hukum telah menyediakan seluruh jawaban. Validitas formal saja tidak cukup untuk menguji ketimpangan kekuasaan digital. Hukum perlu bergerak lebih jauh dengan menilai siapa yang menguasai sistem, siapa yang memperoleh manfaat, siapa yang menanggung risiko, serta apakah pihak yang terkena dampak mempunyai kemampuan untuk menolak dan menggugat keputusan tersebut.
Dengan demikian, persoalan kekuasaan algoritma tidak dapat diselesaikan hanya dengan menguji apakah suatu tindakan mempunyai dasar formal. Yang juga harus diperiksa adalah apakah kekuasaan tersebut dapat dibenarkan secara substantif.
Jika Lessig menjelaskan bagaimana kode mengatur perilaku, pemikiran Michel Foucault membantu melihat dimensi kekuasaan yang lebih dalam. Kekuasaan tidak hanya melarang atau membatasi tindakan, tetapi juga membentuk cara manusia memahami dirinya sendiri, menilai orang lain, dan menjalani kehidupan sosial.
Dalam Discipline and Punish, Foucault menjelaskan bagaimana pengawasan, klasifikasi, dan normalisasi menjadi mekanisme penting dalam pembentukan subjek. Kekuasaan modern tidak selalu bekerja melalui kekerasan yang terlihat. Ia dapat bekerja melalui sistem pengawasan yang membuat individu menyesuaikan perilakunya karena merasa selalu mungkin diamati.
Dalam ruang digital, mekanisme tersebut memperoleh bentuk baru melalui pengumpulan data, pelacakan aktivitas, pemeringkatan, dan pemodelan perilaku. Individu tidak hanya menjadi pengguna teknologi, tetapi juga menjadi sumber data yang terus-menerus dianalisis. Preferensi, kebiasaan, hubungan sosial, dan kecenderungan perilaku diterjemahkan menjadi informasi yang dapat digunakan untuk memprediksi sekaligus memengaruhi tindakan berikutnya.
Algoritma dengan demikian tidak sekadar membaca perilaku manusia. Ia juga dapat membentuk perilaku tersebut. Sistem rekomendasi menentukan informasi yang lebih mungkin dilihat seseorang. Pemeringkatan membentuk persepsi mengenai apa yang dianggap penting. Sistem penilaian dapat memengaruhi bagaimana seseorang dipandang oleh institusi atau penyedia layanan.
Kekuasaan algoritma menjadi semakin kompleks karena ia bekerja melalui mekanisme yang tidak selalu terlihat. Individu mungkin mengetahui bahwa datanya dikumpulkan, tetapi tidak memahami bagaimana data tersebut diklasifikasikan, dikorelasikan, dan digunakan untuk menghasilkan keputusan.
Dalam kondisi demikian, kebebasan menghadapi ancaman yang tidak selalu berbentuk larangan langsung. Seseorang dapat tetap memiliki pilihan secara formal, tetapi pilihan tersebut telah dibentuk oleh lingkungan informasi yang dirancang oleh sistem. Ia merasa memilih secara bebas, padahal ruang pilihannya telah disusun melalui mekanisme yang tidak sepenuhnya berada dalam kendalinya.
Foucault membantu menunjukkan bahwa persoalan algoritma bukan hanya mengenai pengendalian perilaku, melainkan juga mengenai pembentukan manusia sebagai subjek yang dapat dipantau, diklasifikasikan, diprediksi, dan dinormalisasi.
Martabat Manusia dan Kritik Etis terhadap Rasionalitas Algoritma
Dari sudut pandang etika, persoalan kekuasaan algoritma harus dikaitkan dengan kedudukan manusia sebagai subjek yang memiliki martabat dan otonomi. Pemikiran Immanuel Kant memberikan dasar penting untuk menguji batas penggunaan teknologi.
Dalam etika Kantian, manusia harus diperlakukan sebagai tujuan pada dirinya sendiri, bukan semata-mata sebagai sarana untuk mencapai tujuan pihak lain. Prinsip ini menjadi sangat relevan ketika manusia direduksi menjadi kumpulan data, objek prediksi, atau variabel optimasi.
Teknologi dapat mengolah data untuk meningkatkan efisiensi, mempercepat pelayanan, dan memperbaiki kualitas pengambilan keputusan. Namun, efisiensi tidak boleh menjadi alasan untuk menghilangkan kedudukan manusia sebagai subjek moral. Individu tidak boleh diperlakukan sekadar sebagai objek perhitungan yang hasil akhirnya ditentukan oleh sistem tanpa ruang untuk memahami, mempertanyakan, atau membela dirinya.
Misalnya, keputusan otomatis yang memengaruhi akses seseorang terhadap layanan penting tidak cukup dibenarkan hanya karena sistem dianggap lebih cepat atau lebih akurat daripada penilaian manusia. Tetap harus ada pertanyaan mengenai dasar keputusan, kemungkinan kesalahan, dampak terhadap individu, dan mekanisme pemulihan apabila terjadi kerugian.
Persoalan ini juga menyentuh konsep otonomi. Kebebasan manusia tidak hanya berarti kemampuan memilih dari sejumlah pilihan yang tersedia. Kebebasan juga mengandaikan kemampuan memahami alasan di balik pilihan, membentuk kehendak secara reflektif, dan tidak terus-menerus diarahkan oleh manipulasi yang tidak disadari.
Karena itu, penggunaan algoritma perlu dibatasi oleh prinsip penghormatan terhadap martabat manusia. Teknologi seharusnya memperluas kapasitas manusia untuk bertindak, bukan menjadikan manusia sekadar objek yang dikendalikan demi kepentingan efisiensi, keuntungan, atau kepentingan institusional.
Persoalan algoritma juga tidak dapat dilepaskan dari distribusi manfaat dan risiko. Dalam perspektif John Rawls, keadilan tidak dapat diukur hanya berdasarkan efisiensi atau keuntungan agregat. Suatu sistem harus dinilai berdasarkan bagaimana ia memperlakukan individu, terutama mereka yang berada dalam posisi paling tidak menguntungkan.
Algoritma sering kali dikembangkan dengan menggunakan data historis. Padahal, data historis tidak selalu mencerminkan keadaan yang adil. Data dapat membawa jejak diskriminasi, ketimpangan akses, dan prasangka yang telah lama terbentuk dalam masyarakat. Ketika data semacam itu digunakan untuk melatih sistem, ketidakadilan masa lalu berpotensi direproduksi dalam bentuk keputusan otomatis.
Sistem yang tampak objektif karena menggunakan angka dan perhitungan matematis belum tentu menghasilkan keputusan yang adil. Objektivitas teknis tidak identik dengan netralitas moral. Ketepatan prediksi juga tidak otomatis berarti keadilan hasil.
Sebuah algoritma dapat bekerja sesuai parameter yang ditentukan, tetapi parameter tersebut mungkin dibangun berdasarkan asumsi yang merugikan kelompok tertentu. Bahkan, sistem yang secara statistik memiliki tingkat akurasi tinggi dapat menghasilkan beban yang tidak proporsional bagi kelompok rentan.
Karena itu, penilaian terhadap teknologi tidak cukup dilakukan dengan mengukur kecepatan, efisiensi, atau tingkat akurasi. Perlu diperiksa pula siapa yang menikmati manfaat, siapa yang menanggung risiko, dan apakah sistem tersebut mempersempit atau justru memperluas kesempatan yang setara.
Dalam kerangka Rawls, teknologi yang adil bukan hanya teknologi yang bekerja secara efisien, melainkan teknologi yang dapat dipertanggungjawabkan dari sudut pandang mereka yang paling rentan terhadap akibatnya.
Salah satu persoalan penting dalam memahami kekuasaan algoritma adalah anggapan bahwa teknologi merupakan instrumen yang netral. Anggapan ini perlu dikritik karena setiap sistem teknologi dibangun melalui serangkaian pilihan manusia.
Pengembang menentukan data yang digunakan, tujuan yang hendak dicapai, parameter yang dianggap relevan, kategori yang dipakai untuk mengklasifikasikan pengguna, serta batas-batas tindakan yang diperbolehkan. Pilihan tersebut tidak lahir dari ruang kosong. Ia dipengaruhi oleh kepentingan ekonomi, pertimbangan institusional, pandangan tertentu mengenai manusia, dan nilai yang dianggap penting oleh pembuat sistem.
Dengan demikian, kode tidak hanya memuat instruksi teknis, tetapi juga keputusan normatif. Ketika suatu platform memilih untuk memprioritaskan keterlibatan pengguna dibandingkan kualitas informasi, pilihan tersebut memiliki konsekuensi terhadap ruang publik. Ketika sistem pemeringkatan menentukan siapa yang lebih mudah ditemukan, desain tersebut dapat memengaruhi distribusi kesempatan ekonomi. Ketika mekanisme moderasi menentukan batas ekspresi, ia ikut membentuk praktik kebebasan berbicara.
Karena itu, desain teknologi tidak dapat selalu diperlakukan sebagai urusan internal perusahaan. Ketika keputusan desain berdampak besar terhadap hak dan kebebasan masyarakat, keputusan tersebut telah memasuki wilayah kepentingan publik.
Hal ini tidak berarti bahwa setiap keputusan teknis harus ditentukan oleh negara. Namun, keputusan teknis yang mempunyai konsekuensi sosial dan hukum yang signifikan harus terbuka terhadap pengujian, pengawasan, dan pertanggungjawaban. Teknologi tidak boleh menjadi ruang kekuasaan yang kebal dari kritik hanya karena mekanisme kerjanya bersifat teknis atau kompleks.
Dari Code is Law Menuju Gagasan Legitimacy of Code
Pada titik ini, pemikiran Lessig perlu dikembangkan lebih jauh. Jika Code is Law menunjukkan bahwa kode dapat menjalankan fungsi regulatif, maka pertanyaan berikutnya adalah bagaimana memastikan bahwa kekuasaan regulatif tersebut mempunyai dasar pembenaran yang dapat diterima.
Untuk menjawab persoalan itu, tulisan ini mengajukan gagasan Legitimacy of Code sebagai suatu rekonstruksi normatif atas keterbatasan pendekatan Lessig. Istilah ini bukan konsep yang dirumuskan oleh Lessig, melainkan usulan analitis penulis untuk menegaskan bahwa kemampuan teknologi mengatur perilaku manusia harus selalu diikuti oleh kewajiban untuk membenarkan kekuasaan tersebut.
Gagasan Legitimacy of Code berangkat dari prinsip bahwa kapasitas teknis tidak dengan sendirinya melahirkan kewenangan normatif. Kemampuan algoritma untuk menentukan, membatasi, dan mengarahkan perilaku tidak otomatis memberikan hak kepada pembuat atau pengendalinya untuk melakukan hal tersebut tanpa batas.
Pertama, kekuasaan kode harus memiliki dasar legitimasi. Sistem yang memengaruhi hak dan kepentingan manusia harus dapat dijelaskan dasar kewenangan, tujuan, dan batas penggunaannya. Semakin besar dampaknya terhadap kehidupan masyarakat, semakin tinggi pula tuntutan pembenarannya.
Kedua, kekuasaan kode harus tunduk pada prinsip non-dominasi. Pengguna tidak boleh berada dalam ketergantungan yang membuat mereka sepenuhnya tunduk pada kehendak sepihak pengelola platform. Kekuasaan yang tidak dapat digugat, meskipun tidak selalu digunakan secara sewenang-wenang, tetap mengandung potensi dominasi.
Ketiga, transparansi harus bersifat substantif. Transparansi tidak cukup diwujudkan melalui dokumen syarat dan ketentuan yang panjang dan sulit dipahami. Pihak yang terkena dampak harus memperoleh informasi yang relevan mengenai dasar, faktor utama, dan konsekuensi keputusan yang memengaruhi kepentingannya.
Keempat, harus terdapat mekanisme pertanggungjawaban. Pengembang, penyedia sistem, pengendali data, dan pihak yang menggunakan hasil algoritma harus dimintai tanggung jawab sesuai peran, tingkat kendali, dan kontribusinya terhadap keputusan maupun kerugian. Kehadiran kecerdasan buatan tidak boleh dijadikan alasan untuk menghilangkan tanggung jawab manusia dan institusi.
Kelima, kekuasaan algoritma harus diuji berdasarkan keadilan dan martabat manusia. Penilaian terhadap sistem tidak boleh berhenti pada efisiensi, akurasi, atau keuntungan ekonomi. Dampaknya terhadap kebebasan, kesetaraan, privasi, dan kelompok rentan harus menjadi bagian dari evaluasi.
Keenam, keputusan yang berdampak material terhadap hak seseorang harus dapat dipersoalkan. Individu harus mempunyai kesempatan untuk mengajukan keberatan, memperoleh peninjauan yang layak, dan mendapatkan pemulihan apabila keputusan tersebut terbukti keliru atau melanggar hukum.
Melalui prinsip-prinsip tersebut, Legitimacy of Code berusaha menggeser perhatian dari sekadar kemampuan teknologi untuk mengatur menuju kewajiban normatif untuk membenarkan cara teknologi mengatur manusia. Teknologi tidak cukup hanya dapat dijalankan; ia harus dapat dipertanggungjawabkan.
Negara Hukum Indonesia dan Tantangan Kekuasaan Algoritma
Dalam konteks Indonesia, persoalan ini memiliki relevansi konstitusional yang kuat. Pasal 1 ayat (3) UUD 1945 menegaskan bahwa Indonesia adalah negara hukum. Prinsip tersebut mengandung konsekuensi bahwa kekuasaan harus dijalankan berdasarkan hukum dan tidak boleh dibiarkan berlangsung secara sewenang-wenang.
Ketika kekuasaan semakin banyak dijalankan melalui infrastruktur digital dan sistem algoritma, prinsip negara hukum tidak boleh berhenti pada pengawasan terhadap tindakan pemerintah. Negara juga harus mampu merespons kekuasaan privat yang mempunyai dampak besar terhadap hak-hak masyarakat.
Pasal 28D ayat (1) UUD 1945 menjamin pengakuan, jaminan, perlindungan, dan kepastian hukum yang adil serta perlakuan yang sama di hadapan hukum. Ketentuan ini relevan ketika keputusan otomatis memengaruhi kedudukan atau kesempatan seseorang. Sementara itu, Pasal 28F memberikan jaminan hak untuk berkomunikasi dan memperoleh informasi. Pasal 28G ayat (1) juga memberikan perlindungan terhadap diri pribadi, keluarga, kehormatan, martabat, dan harta benda.
Jaminan konstitusional tersebut perlu dibaca secara kontekstual dalam menghadapi perkembangan teknologi. Hak atas informasi, privasi, dan kepastian hukum tidak hanya menghadapi ancaman dari tindakan fisik atau keputusan administratif, tetapi juga dari mekanisme digital yang mengolah data dan menentukan akses masyarakat terhadap berbagai layanan.
Indonesia telah memiliki Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. Salah satu ketentuan pentingnya adalah Pasal 10, yang memberikan hak kepada subjek data pribadi untuk mengajukan keberatan atas keputusan yang hanya didasarkan pada pemrosesan secara otomatis, termasuk pemrofilan, apabila keputusan tersebut menimbulkan akibat hukum atau berdampak signifikan terhadap subjek data pribadi.
Ketentuan ini merupakan langkah penting karena mengakui bahwa keputusan otomatis dapat menimbulkan konsekuensi serius terhadap individu. Namun, ketentuan tersebut tidak boleh ditafsirkan secara berlebihan seolah-olah setiap penggunaan algoritma secara otomatis melahirkan hak tanpa syarat untuk memperoleh peninjauan manusia. Ruang lingkupnya tetap harus dibaca sesuai rumusan undang-undang dan ketentuan terkait lainnya.
Selain itu, Undang-Undang Informasi dan Transaksi Elektronik sebagaimana terakhir diubah dengan Undang-Undang Nomor 1 Tahun 2024, Undang-Undang Nomor 28 Tahun 2014 tentang Hak Cipta, dan Undang-Undang Nomor 5 Tahun 1999 tentang Larangan Praktik Monopoli dan Persaingan Usaha Tidak Sehat dapat menjadi bagian dari kerangka hukum untuk menilai berbagai persoalan digital.
Dalam perkara kerugian akibat keputusan algoritmik, Pasal 1365 KUHPerdata dapat menjadi dasar untuk menilai kemungkinan tanggung jawab perdata. Namun, penerapannya tetap mensyaratkan pembuktian unsur-unsur perbuatan melawan hukum, kesalahan, kerugian, dan hubungan sebab akibat. Tidak setiap kerugian yang berkaitan dengan algoritma dengan sendirinya menimbulkan tanggung jawab perdata.
Demikian pula, pertanggungjawaban pidana tidak dapat dibebankan hanya karena suatu sistem menghasilkan keluaran yang merugikan. Harus terdapat dasar pemidanaan yang jelas serta pembuktian unsur tindak pidana dan kesalahan sesuai ketentuan hukum yang berlaku.
Persoalan hak cipta dalam penggunaan karya untuk pelatihan kecerdasan buatan juga memerlukan analisis yang cermat. Tidak tepat menyimpulkan bahwa seluruh penggunaan karya untuk pelatihan AI pasti merupakan pelanggaran hak cipta, sebagaimana tidak tepat pula menganggap seluruh penggunaan tersebut otomatis bebas dari tuntutan hukum. Penilaiannya harus memperhatikan jenis karya, bentuk penggunaan, hak yang melekat, dan ketentuan hukum yang relevan.
Dalam bidang persaingan usaha, penguasaan platform atau besarnya pangsa pasar juga tidak dengan sendirinya membuktikan pelanggaran. Penilaian harus dilakukan berdasarkan unsur dan standar yang ditetapkan dalam hukum persaingan usaha. Namun, konsentrasi penguasaan infrastruktur digital tetap penting diperhatikan karena dapat menciptakan ketergantungan dan mengurangi ruang pilihan masyarakat.
Tantangan Indonesia, dengan demikian, bukan semata-mata terletak pada kebutuhan membentuk peraturan baru. Tantangan yang lebih mendasar adalah kemampuan institusi untuk melaksanakan hukum yang telah ada. Pengawasan algoritma membutuhkan kapasitas teknis, keahlian lintas disiplin, akses terhadap informasi yang relevan, mekanisme audit, dan lembaga yang mampu melakukan pengujian secara independen.
Tanpa kapasitas tersebut, hukum berisiko hanya menjadi norma yang tertinggal di belakang perkembangan teknologi. Negara mungkin memiliki kewenangan formal, tetapi tidak mempunyai kemampuan praktis untuk memahami dan mengawasi sistem yang memengaruhi masyarakat.
Kedaulatan digital karena itu tidak cukup dimaknai sebagai penguasaan terhadap data atau pembangunan infrastruktur teknologi nasional. Kedaulatan digital juga berarti kemampuan negara dan masyarakat untuk menentukan batas normatif penggunaan teknologi, melindungi hak warga negara, serta memastikan bahwa kekuasaan digital tetap berada dalam kerangka hukum dan prinsip demokrasi.
Pemikiran Lawrence Lessig memberikan sumbangan penting bagi perkembangan filsafat hukum karena memperlihatkan bahwa kekuasaan regulatif tidak hanya bekerja melalui hukum formal. Dalam ruang digital, kode dan arsitektur teknologi dapat membentuk perilaku, membatasi pilihan, dan menentukan kemungkinan tindakan manusia. Kekuasaan semacam ini bahkan dapat bekerja secara lebih halus dan sistematis dibandingkan mekanisme hukum konvensional.
Namun, kemampuan menjelaskan bagaimana kode mengatur belum cukup untuk menjawab persoalan mengapa kekuasaan tersebut dapat dibenarkan. Di sinilah batas pemikiran Lessig perlu diperluas melalui dialog dengan positivisme hukum, teori kekuasaan Foucault, etika Kant, teori keadilan Rawls, dan gagasan kebebasan sebagai non-dominasi dari Philip Pettit.
Dari dialog tersebut dapat ditegaskan bahwa efektivitas bukanlah legitimasi, persetujuan formal belum tentu merupakan kebebasan substantif, objektivitas teknis tidak otomatis menghasilkan keadilan, dan efisiensi tidak boleh menghapus martabat manusia.
Gagasan Legitimacy of Code yang diajukan dalam tulisan ini berusaha menegaskan bahwa kekuasaan teknologi harus tunduk pada pembenaran hukum, etika, demokrasi, keadilan, transparansi, pertanggungjawaban, dan mekanisme keberatan. Prinsip tersebut bukan penolakan terhadap perkembangan teknologi, melainkan upaya memastikan bahwa kemajuan teknologi tidak berjalan dengan mengorbankan kebebasan dan martabat manusia.
Negara hukum tidak boleh hanya hadir ketika kekuasaan dijalankan melalui keputusan pejabat atau peraturan tertulis. Negara hukum juga harus mampu menjangkau kekuasaan yang bekerja melalui desain sistem, pemrosesan data, dan algoritma, terutama ketika kekuasaan tersebut memiliki dampak nyata terhadap hak masyarakat.
Pada akhirnya, pertanyaan terpenting dalam menghadapi kekuasaan algoritma bukan sekadar apakah teknologi mampu mengatur manusia, melainkan siapa yang memberikan kewenangan untuk mengaturnya, kepentingan siapa yang dilayani, siapa yang menanggung akibatnya, dan kepada siapa kekuasaan tersebut dapat dimintai pertanggungjawaban.
Sebab, dalam negara hukum, sesuatu tidak menjadi benar hanya karena dapat dijalankan, dan tidak menjadi sah hanya karena mampu memaksakan kepatuhan. Kekuasaan, termasuk kekuasaan yang tertanam dalam kode, harus selalu dapat dibenarkan. Teknologi boleh mengatur, tetapi ia tidak boleh menjadi penguasa yang tidak dapat digugat.*