Definisi
Aspek hukum algoritma merujuk pada persoalan hukum yang timbul dari penggunaan algoritma dan sistem kecerdasan buatan (artificial intelligence/AI) dalam pengambilan keputusan yang berdampak pada individu dan masyarakat. Algoritma digunakan secara luas dalam berbagai bidang seperti moderasi konten, penilaian kredit, penetapan harga, rekrutmen, penegakan hukum, dan layanan publik.
Di Indonesia, regulasi khusus tentang algoritma dan AI belum tersedia secara komprehensif. Namun, UU PDP memberikan kerangka hukum dasar dengan mengatur hak subjek data atas transparansi pemrosesan data pribadi yang mencakup penggunaan algoritma. Strategi Nasional Kecerdasan Artifisial Indonesia (Stranas KA) yang diterbitkan BRIN memberikan arah kebijakan pengembangan dan pemanfaatan AI yang bertanggung jawab.
Isu hukum utama terkait algoritma meliputi transparansi dan explainability (kemampuan menjelaskan keputusan algoritma), bias algoritmik yang dapat mendiskriminasi kelompok tertentu, akuntabilitas atas keputusan yang diambil algoritma, hak untuk menolak pengambilan keputusan otomatis, serta hak kekayaan intelektual atas karya yang dihasilkan AI.
Contoh Kasus
Sebuah platform fintech lending menggunakan algoritma penilaian kredit yang terbukti mendiskriminasi calon peminjam dari daerah tertentu. OJK memerintahkan platform untuk mengaudit algoritma dan memastikan tidak ada bias diskriminatif dalam proses penilaian kredit sesuai prinsip perlakuan yang adil.
Platform e-commerce menggunakan algoritma dynamic pricing yang menetapkan harga berbeda untuk pengguna yang berbeda berdasarkan profil data mereka. Konsumen mengajukan keberatan kepada BPKN (Badan Perlindungan Konsumen Nasional) karena merasa diperlakukan tidak adil dan tidak transparan.