Aturan Penggunaan Kecerdasan Artifisial di Sektor Publik Mulai Disusun
Pemerintah menyusun kerangka aturan penggunaan kecerdasan artifisial di layanan publik, menekankan kewajiban penjelasan atas keputusan yang memengaruhi warga.
Pemerintah mulai menyusun kerangka aturan penggunaan kecerdasan artifisial di layanan publik. Rancangan awal menekankan satu prinsip: setiap keputusan yang memengaruhi hak warga harus dapat dijelaskan.
Kewajiban penjelasan#
Instansi yang memakai sistem otomatis untuk menentukan kelayakan bantuan sosial, misalnya, wajib menyediakan alasan penolakan dalam bahasa yang dapat dipahami penerima. Warga juga berhak meminta peninjauan oleh petugas manusia.
Otomatisasi boleh mempercepat proses, tetapi tidak boleh menghilangkan hak warga untuk bertanya dan menggugat hasilnya.
Klasifikasi berdasarkan risiko#
Rancangan membagi penggunaan ke dalam tiga tingkat risiko. Sistem berisiko tinggi, seperti yang menyangkut bantuan sosial, penegakan hukum, dan layanan kesehatan, wajib melalui uji dampak sebelum digunakan.
Penggunaan berisiko rendah, misalnya peringkas dokumen internal, cukup melalui pencatatan.
Masukan dari akademisi#
Peneliti dari beberapa universitas meminta agar aturan mencakup kewajiban pengujian bias, terutama untuk sistem yang dilatih dengan data historis yang mungkin sudah memuat ketimpangan. Tim penyusun menyatakan masukan itu akan dibahas pada putaran konsultasi berikutnya.
Penulis
Dimas Aryanto
Reporter Teknologi
Fokus pada infrastruktur digital, keamanan siber, dan tata kelola data. Menulis kolom teknologi mingguan.
