Topik: Bedah Buku “The Algorithm” oleh Hilke Schellmann
Pengenalan Diskusi
- Diskusi merupakan bagian dari seri “Breed Club” ke-216.
- Buku yang dibahas adalah “The Algorithm” yang menyoroti dampak penggunaan AI dalam sistem ketenagakerjaan.
- Pembicara utama: Hanif Fakhru Roja, peneliti di BRIN dan dosen di Telkom University.
Latar Belakang Buku
- Penulis: Hilke Schellmann, jurnalis investigatif yang fokus pada HAM dan ketenagakerjaan.
- Buku ini membahas penggunaan AI dalam proses HR seperti rekrutmen, promosi, hingga pemecatan.
Isu Utama dalam Buku
- Kekhawatiran terhadap AI: Penilaian berbasis AI yang dilakukan tanpa intervensi manusia berisiko besar menimbulkan bias dan ketidakadilan.
- Transparansi Rendah: Banyak AI HR menggunakan sistem “black box” yang tidak transparan dalam mengambil keputusan.
- Dampak Psikologis: Karyawan merasa stres, tidak berdaya, dan frustasi karena tidak memahami proses penilaian dan tidak bisa melakukan banding.
Studi Kasus: Lizzie
- Lizzie, seorang makeup artist, dipecat karena skor wawancaranya di sistem AI rendah, meskipun kinerjanya sebelumnya sangat baik.
- Skor berasal dari wawancara video menggunakan platform AI seperti HireVue.
- Kasus ini menunjukkan bahwa AI bisa membuat keputusan keliru yang berdampak besar.
Bias dalam Data AI
- AI dapat melanjutkan diskriminasi berdasarkan gender, ras, atau latar belakang sosial karena data pelatihan yang tidak inklusif.
- Contoh: Amazon menggunakan AI untuk seleksi CV yang ternyata bias terhadap pelamar perempuan.
Tantangan Etis dan Regulasi
- Banyak perusahaan masih belum memiliki regulasi yang jelas terkait penggunaan AI dalam HR.
- Penulis menekankan pentingnya keterlibatan manusia dalam proses pengambilan keputusan.
- Perlu audit berkala untuk memastikan AI tidak menimbulkan diskriminasi.
Efek Jangka Panjang
- AI yang tidak etis bisa menurunkan produktivitas, merusak hubungan antar karyawan, dan menimbulkan ketidakpercayaan terhadap perusahaan.
- Penggunaan AI seharusnya mendukung manusia, bukan menggantikan proses keputusan secara penuh.
Kesimpulan
- AI di bidang HR memang menawarkan efisiensi, tetapi memiliki risiko besar jika tidak diawasi.
- Dibutuhkan transparansi, akuntabilitas, regulasi ketat, dan keterlibatan manusia agar AI dapat digunakan secara adil dan etis.
- Pesan utama: teknologi harus melayani dan melindungi manusia, bukan sebaliknya.
Catatan: ringkasan ini dibuat oleh AI (Artificial Intelligence), kesalahan bisa terjadi. Silahkan nonton video aslinya (lengkap) agar tidak salah.
