Ketika algoritma menolak, tanpa pernah menjelaskan alasannya

Bayangkan seorang pedagang kecil mengajukan pinjaman lewat aplikasi keuangan digital. Formulir diisi lengkap, dokumen diunggah, dan dalam hitungan detik muncul satu kalimat: pengajuan tidak dapat diproses. Tidak ada nama petugas yang bisa dihubungi, tidak ada penjelasan variabel mana yang memberatkan. Keputusan itu diambil oleh model penilaian kredit yang membaca ratusan sinyal—mulai dari riwayat transaksi, jenis perangkat yang dipakai, sampai pola aktivitas digital—lalu mengubahnya menjadi satu skor.

Situasi semacam ini adalah wajah paling nyata dari persoalan etika kecerdasan buatan (AI). Isunya bukan robot yang memberontak, melainkan keputusan sehari-hari yang berdampak pada akses orang terhadap kredit, pekerjaan, layanan kesehatan, bahkan penegakan hukum—diambil oleh sistem yang sulit ditanyai.

Bias jarang lahir dari niat jahat, tapi dari data masa lalu

Salah satu kesalahpahaman umum adalah menganggap bias AI muncul karena programmer sengaja mendiskriminasi. Mekanismenya justru lebih halus. Model dilatih dengan data historis, dan data historis merekam ketimpangan yang sudah terjadi. Jika selama sepuluh tahun sebuah lembaga pembiayaan lebih banyak menyetujui pinjaman kepada nasabah di kota besar dengan rekening payroll, maka model akan menyimpulkan bahwa profil itulah yang "layak". Pelaku usaha mikro di daerah dengan arus kas tunai dan tanpa rekam jejak perbankan otomatis dinilai berisiko—bukan karena terbukti gagal bayar, melainkan karena jarang muncul dalam data pelatihan.

Yang membuat masalah ini sulit dideteksi adalah proxy. Pengembang bisa saja menghapus variabel jenis kelamin, agama, atau suku dari model. Namun variabel lain seperti kode pos, nama sekolah, atau jenis ponsel dapat berfungsi sebagai pengganti tidak langsung dari atribut tersebut. Model tetap menghasilkan pola diskriminatif meski kolom sensitifnya sudah dibuang. Karena itu, audit bias tidak cukup dilakukan di tahap desain; ia perlu diuji berulang pada hasil keluaran, dengan membandingkan tingkat persetujuan dan tingkat kesalahan antar kelompok pengguna.

Transparansi: hak tahu bahwa lawan bicara Anda bukan manusia

Isu kedua adalah keterbukaan. Dalam banyak kasus, pengguna tidak sadar sedang berinteraksi dengan mesin. Layanan pengaduan yang dijawab chatbot, rekomendasi produk investasi yang disusun algoritma, hingga ringkasan riwayat medis yang dibuat model bahasa—semuanya terasa seperti komunikasi manusia.

Dampak buruknya sudah terlihat pada sisi kejahatan digital. Modus penipuan kini tidak lagi mengandalkan pesan berbahasa kaku. Dengan teknologi kloning suara, potongan rekaman berdurasi beberapa detik dari media sosial cukup untuk membuat tiruan suara seseorang, lalu dipakai menelepon keluarga korban dan meminta transfer darurat. Video sintetis (deepfake) tokoh publik juga dipakai mempromosikan investasi bodong. Korban kehilangan uang bukan karena sistem keamanannya jebol, melainkan karena percaya pada wajah dan suara yang tampak asli. Masyarakat dapat memverifikasi rekening penampung melalui layanan cekrekening.id milik Komdigi, dan melaporkan konten manipulatif ke kanal aduan resmi—tetapi pencegahan di hulu tetap bergantung pada kewajiban pelabelan konten hasil AI.

Rantai tanggung jawab yang mudah putus

Ketika keputusan berbasis AI merugikan, pertanyaannya menjadi rumit: siapa yang bertanggung jawab? Pengembang model dapat berargumen bahwa sistem hanya memberi rekomendasi. Penyedia layanan menyebut dirinya sekadar memakai teknologi pihak ketiga. Operator di lapangan mengaku hanya mengikuti keluaran sistem. Tanggung jawab tersebar sampai tidak ada yang benar-benar memikulnya.

Karena itu, prinsip yang mulai diadopsi banyak lembaga adalah human in the loop: untuk keputusan berisiko tinggi, harus ada manusia yang meninjau, memiliki wewenang membatalkan keluaran mesin, dan namanya tercatat dalam jejak audit. Tanpa pencatatan versi model, data pelatihan, dan alasan keputusan, proses ganti rugi hampir mustahil dijalankan.

Instrumen yang sudah dimiliki Indonesia

Indonesia belum memiliki undang-undang khusus AI, tetapi kerangka hukum dan kebijakannya tidak kosong.

  • UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi (UU PDP). Undang-undang ini memberi subjek data hak untuk mengajukan keberatan atas keputusan yang semata-mata didasarkan pada pemrosesan otomatis, termasuk pemrofilan, yang menimbulkan akibat hukum atau berdampak signifikan. Ini menjadi dasar hukum paling relevan bagi orang yang ditolak algoritma. Masa transisi dua tahun telah berakhir pada Oktober 2024.
  • Surat Edaran Menteri Kominfo No. 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Dokumen ini memuat nilai-nilai seperti inklusivitas, kemanusiaan, keamanan, transparansi, akuntabilitas, dan pelindungan data pribadi. Sifatnya imbauan, bukan norma yang memaksa dengan sanksi—sebuah keterbatasan yang sering dikritik.
  • Strategi Nasional Kecerdasan Artifisial (Stranas KA) 2020-2045, yang menempatkan etika dan kebijakan sebagai salah satu fokus utama bersama pengembangan talenta, infrastruktur data, dan riset.
  • Regulasi sektoral. Otoritas Jasa Keuangan (OJK) mengatur penyelenggaraan inovasi teknologi sektor keuangan dan menuntut penilaian kredit yang dapat dipertanggungjawabkan, sementara Badan Siber dan Sandi Negara (BSSN) berperan pada aspek keamanan sistem dan mitigasi insiden.
  • UU ITE tetap menjadi rujukan untuk penyebaran informasi bohong dan manipulasi konten, termasuk yang dihasilkan mesin.

Etika sebagai praktik, bukan dokumen

Bagi institusi, penerapan etika AI berarti hal-hal yang bisa diperiksa: dokumentasi sumber data, uji bias sebelum dan sesudah peluncuran, kanal keberatan yang mudah diakses, serta batas tegas mengenai keputusan apa yang tidak boleh sepenuhnya diserahkan kepada mesin. Bagi pengguna, langkah paling praktis adalah menyadari bahwa keputusan otomatis bukan vonis final—UU PDP memberi ruang untuk bertanya dan mengajukan keberatan, sementara verifikasi ulang lewat kanal resmi tetap menjadi pertahanan terbaik menghadapi konten sintetis.

Perkembangan AI akan terus mendahului regulasi. Justru karena itu, etika tidak bisa diperlakukan sebagai lampiran dokumen kebijakan, melainkan sebagai kebiasaan kerja yang tertanam sejak baris kode pertama ditulis.

Rujukan Resmi Terkait