Key Takeaways
- Sistem AI yang memantau truk pengiriman secara tidak adil menghukum pengemudi Amazon, klaim laporan baru.
- Sistem Amazon adalah bagian dari tren yang berkembang dari perusahaan yang menggunakan teknologi untuk memantau majikan mereka dari jarak jauh.
-
Beberapa perangkat lunak AI memungkinkan perusahaan untuk terus memantau perilaku karyawan di latar belakang dan menggambar pola dalam alur kerja mereka.
Pengusaha semakin beralih ke perangkat lunak untuk memantau karyawan dari jarak jauh, menimbulkan kekhawatiran di antara beberapa pendukung privasi.
Sebuah laporan baru mengklaim kamera bertenaga AI di van pengiriman Amazon telah menghukum pengemudi secara tidak adil. Artikel tersebut menemukan bahwa pengemudi mengalami kesalahan peringatan, kartu skor pengemudi yang salah, asumsi kondisi lalu lintas yang tidak praktis, dan pengemudi yang mengadopsi praktik untuk menghindari teknologi.
"Sementara AI meningkat, kesalahan masih akan terjadi," Raymond Ku, direktur Pusat Hukum & Kebijakan Cyberspace di Case Western Reserve University, mengatakan kepada Lifewire dalam sebuah wawancara email. "Sebagai masalah keadilan, saya pikir kita semua percaya bahwa seseorang yang dihukum dengan cara apa pun oleh pengambilan keputusan AI harus disadarkan akan faktanya dan diberi kesempatan untuk menentang keputusan tersebut."
Kamera AI Amazon
Amazon mengatakan telah memasang kamera bertenaga AI di kendaraan pengirimannya sebagai langkah keamanan. Kamera tersebut dimaksudkan untuk memantau saat pengemudi pengiriman melakukan manuver berbahaya seperti menjalankan rambu berhenti atau berbelok arah secara ilegal.
Saat kamera melihat kemungkinan "peristiwa" mengemudi yang tidak aman, kejadian ini menjadi faktor dalam skor kinerja pekerja. Skor yang lebih rendah mengurangi kemungkinan pengemudi mendapatkan bonus, bayaran ekstra, dan hadiah.
Tetapi para pengemudi Amazon memberi tahu Motherboard bahwa mereka dihukum karena beberapa kebiasaan mengemudi yang dianggap aman atau di luar kendali mereka. Amazon tidak menanggapi permintaan komentar dari Lifewire.
Ku menunjukkan bahwa karena pengemudi setuju untuk direkam, mereka tidak mengalami pelanggaran privasi di bawah hukum.
"Namun, bukan berarti rata-rata pekerja akan senang dengan pengawasan atau tidak keberatan jika bisa," tambahnya. "Ini terutama benar ketika pengawasan mulai merambah ruang pribadi yang lebih tradisional."
Laporan ini menimbulkan pertanyaan yang lebih luas tentang apakah data dapat diakses dan digunakan dalam tuntutan hukum atau oleh polisi dan pejabat federal, pengacara privasi data Bethany A. Corbin mengatakan kepada Lifewire dalam sebuah wawancara email. Itu juga bisa berdampak pada kewajiban, katanya.
"Misalnya, jika teknologi AI memberi tahu karyawan untuk tidak melihat ke kaca spion dan karyawan mengalami kecelakaan sebagai akibat langsung dari saran itu, siapa yang salah?" Corbin menambahkan.
Meningkatkan Pengawasan
Pengawasan tidak berhenti di Amazon. Semakin banyak perusahaan yang menggunakan teknologi untuk mengawasi karyawan mereka dari jarak jauh, pakar privasi Chris Hauk mengatakan kepada Lifewire dalam sebuah wawancara email.
Misalnya, perusahaan pemasaran AI Blackbelt menggunakan sistem pelacakan waktu Alokasikan, yang memungkinkan perusahaan memantau dan melacak aktivitas komputer karyawannya secara mandiri. Microsoft Workplace Analytics akan memungkinkan pemberi kerja untuk melihat durasi waktu karyawan di situs web, menulis email, dan lainnya selama hari kerja.
Walmart juga sedang mengerjakan sistem yang mendengarkan suara gemerisik tas atau bunyi bip dari pemindai checkout untuk melacak metrik karyawan dan memastikan karyawan melakukan tugas mereka dengan benar dan efisien. Sensor bahkan dapat mendengarkan pelanggan saat mereka mengobrol saat mengantre dan mendeteksi apakah karyawan menyapa pelanggan dengan benar atau tidak.
Pengawasan di tempat kerja menjadi lebih umum sejak awal pandemi, pakar privasi Pankaj Srivastava mengatakan kepada Lifewire dalam sebuah wawancara email.
"Sebagian besar teknologi ini diposisikan sebagai 'meningkatkan produktivitas', namun cara beberapa alat ini beroperasi menunjukkan toleransi yang lebih besar dari pengusaha untuk memantau setiap aktivitas tenaga kerja mereka," tambahnya. "Misalnya, memantau berapa banyak waktu yang dihabiskan karyawan untuk setiap tugas, mengambil foto jarak jauh untuk memastikan karyawan berada di meja mereka, dan bahkan memantau situs web yang dikunjungi dan merekam gerakan keyboard dan mouse karyawan."
Sementara AI meningkat, kesalahan akan tetap terjadi.
Beberapa perangkat lunak AI memungkinkan pengusaha untuk terus memantau perilaku karyawan di latar belakang dan menggambar pola dalam alur kerja mereka, katanya.
"Seorang karyawan dapat dipecat berdasarkan laporan kinerja pribadi mereka dengan alasan mereka membutuhkan waktu beberapa menit lebih lama untuk menyelesaikan tugas dari biasanya," kata Srivastava.
"Selamat tinggal, kamar mandi istirahat."
