Key Takeaways
- Perusahaan menggunakan kecerdasan buatan untuk mengawasi karyawan mereka.
- Amazon memasang kamera bertenaga pembelajaran mesin di van pengirimannya awal tahun ini.
- Pengawasan AI dapat menyebabkan masalah privasi dan keamanan jika digunakan oleh perusahaan yang tidak bermoral.
Pengusaha semakin melacak pekerja mereka menggunakan kecerdasan buatan, dan pengamat mengatakan praktik tersebut menimbulkan masalah privasi.
Amazon memasang kamera bertenaga pembelajaran mesin di van pengirimannya awal tahun ini. Perusahaan baru-baru ini memberi tahu pengemudinya bahwa mereka harus setuju untuk menggunakannya. Praktik pengawasan di tempat kerja mungkin legal, tetapi tidak semua orang setuju bahwa itu etis.
"Perusahaan telah menggunakan alat pemantauan karyawan selama beberapa dekade, tetapi dengan kemajuan teknologi, mereka menjadi lebih invasif, " Aimee O'Driscoll, peneliti keamanan di situs perbandingan teknologi Comparitech, mengatakan dalam sebuah wawancara email.
"Kebanyakan pemantauan karyawan dapat dianggap sebagai pelanggaran privasi, dan dapat dikatakan bahwa apa yang dilakukan Amazon tidak jauh berbeda dengan memiliki kamera CCTV di kantor."
Diawasi atau Dipecat
Sekitar 75.000 pengemudi pengiriman Amazon di AS sekarang diminta untuk menandatangani formulir "persetujuan biometrik". Formulir izin memungkinkan kamera bertenaga AI melihat lokasi, pergerakan, dan data biometrik pengemudi. Karyawan yang tidak menandatangani dokumen dapat dipecat.
Pengawasan AI melacak semua yang dilakukan driver Amazon, menyerang asumsi privasi subjek, Chris Hauk, peneliti privasi di situs privasi Pixel Privacy, mengatakan dalam sebuah wawancara email.
"Ini termasuk merekam setiap kali subjek menguap atau menggaruk area sensitif," tambahnya. "Seorang pengemudi setidaknya memiliki hak untuk mendapatkan privasi saat berada di dalam kendaraannya."
Pengawasan karyawan oleh AI adalah masalah yang berkembang. Walmart telah mematenkan teknologi AI yang memungkinkan mendengarkan interaksi karyawan dengan pelanggan di kasir, kata O'Driscoll.
Pengembang perangkat lunak Enaible menyediakan alat produktivitas berdasarkan perangkat lunak AI. Berbagai perusahaan, termasuk Macy's, menggunakan sistem analitik Microsoft, yang dapat memantau perilaku karyawan. Domino's telah menggunakan teknologi AI untuk memeriksa apakah pizza dibuat dengan benar.
"Salah satu masalah utama adalah ketika digunakan dengan cara yang salah, kurangnya privasi dapat menyebabkan masalah keamanan, " kata O'Driscoll.
"Data pengawasan dapat berakhir di tangan penjahat, atau pelaku jahat itu sendiri dapat menggunakan pengawasan AI untuk menargetkan korban."
Pemindaian wajah biometrik menghasilkan representasi matematis dari wajah subjek data yang dapat dimanfaatkan untuk mengidentifikasi dan melacak mereka di mana saja, selama sisa hidup mereka, Ray Walsh, pakar privasi di situs web ProPrivacy, mengatakan dalam sebuah wawancara email.
"Hal ini menimbulkan risiko privasi dan keamanan yang serius bagi driver Amazon yang datanya dapat dibobol, bocor, atau bahkan berpotensi dimanfaatkan oleh pengintai pemerintah menggunakan surat perintah," tambahnya.
Karena teknologi AI relatif baru, tidak ada pedoman konkret tentang penggunaannya terkait privasi, kata O'Driscoll. "Yang mengatakan, keamanan kemungkinan akan selalu menjadi alasan yang sah untuk pelanggaran privasi, jadi Amazon tercakup dalam niatnya saat ini," tambahnya.
Meskipun karyawan memiliki hak untuk berhenti atau menyetujui pemantauan AI yang diusulkan, mereka melakukannya dalam menghadapi ketidakseimbangan kekuatan yang sangat besar, O'Driscoll mengatakan bahwa pengawasan AI harus diatur. “Perusahaan idealnya memiliki alasan yang sah (seperti keamanan) untuk pengawasan AI,” tambahnya.
Beberapa negara bagian telah mengesahkan undang-undang yang membatasi dan mengatur penggunaan pengawasan di tempat kerja, tetapi undang-undang federal masih kurang, kata Walsh.
Pada tahun 2019, Undang-Undang Akuntabilitas Algoritma diperkenalkan ke DPR dan Senat, tetapi akhirnya ditolak. Tindakan serupa dapat diperkenalkan tahun ini, dan "diharapkan Kongres yang dipimpin Demokrat dan Gedung Putih dapat meningkatkan peluangnya untuk lolos," kata Walsh.
Jangan Mengharapkan Privasi di Pekerjaan
Tidak semua orang berpikir bahwa pengawasan Amazon terhadap drivernya merupakan pelanggaran privasi.
"Saya pikir sulit untuk membantah bahwa seorang karyawan memiliki ekspektasi privasi yang wajar di dalam kendaraan milik perusahaan," Will Griffin, kepala petugas etika untuk perusahaan AI Hypergiant, mengatakan dalam sebuah wawancara email.
"Kekhawatiran yang lebih besar adalah bahwa dalam beberapa tahun ke depan, semua pengemudi ini akan digantikan oleh kendaraan otonom. Jadi, setiap perdebatan tentang kebijakan pengemudi akan menjadi bahan perdebatan karena armada menjadi sepenuhnya otonom."
Kasus Amazon menyoroti perlunya serikat pekerja atau intervensi federal yang ditargetkan sebagai cara untuk memulihkan keseimbangan kekuatan antara pekerja Amazon dan perusahaan, kata Griffin.
"Sementara karyawan memiliki hak untuk berhenti atau menyetujui pemantauan AI yang diusulkan, mereka melakukannya dalam menghadapi ketidakseimbangan kekuatan yang sangat besar," tambahnya.
