Key Takeaways
- Berbagai aplikasi baru mungkin dapat mendeteksi emosi siswa.
- Intel dan Kelas pembuat perangkat lunak kelas dilaporkan mengembangkan perangkat lunak yang akan mengawasi wajah dan bahasa tubuh siswa digital.
- Beberapa ahli khawatir bahwa menggunakan AI untuk memantau siswa dapat menyebabkan pelanggaran privasi.
Sekolah dapat segera menggunakan kecerdasan buatan (AI) untuk memantau keadaan emosi siswa.
Intel dan pembuat perangkat lunak ruang kelas sedang mengembangkan perangkat lunak yang akan mengawasi wajah dan bahasa tubuh siswa digital. Sistem dilaporkan dapat mendeteksi apakah siswa bosan, terganggu, atau bingung, tetapi beberapa ahli khawatir bahwa perangkat lunak dapat menyebabkan pelanggaran privasi.
"Produk pemantauan berbasis AI semacam itu harus transparan tentang bagaimana data ini digunakan," Michael Huth, salah satu pendiri perusahaan Xayn dan kepala departemen komputasi di Imperial College London, mengatakan kepada Lifewire dalam email wawancara. "Jika digunakan untuk melacak keterlibatan dalam kelompok siswa, di mana keterlibatan pada tingkat individu tidak dicatat, ini agak kurang bermasalah dari perspektif privasi. Jika ada data ini yang akan digunakan untuk mempengaruhi penilaian siswa, bagaimanapun, saya dapat melihat segala macam masalah yang timbul."
Mengawasi Siswa
Class dan Intel telah bermitra untuk mengintegrasikan teknologi berbasis AI yang berjalan bersama dengan perangkat lunak konferensi video Zoom, Protocol melaporkan. Perangkat lunak ini dapat digunakan untuk memantau siswa, kata laporan itu.
"Melalui kemitraan kami dengan Intel, kami akan dapat menghadirkan fitur baru yang imersif ke perangkat lunak Kelas yang didorong oleh fungsionalitas yang didukung penelitian," menurut situs web perusahaan. "Kami juga akan bekerja sama dengan Intel untuk memanfaatkan sumber daya dan memberikan wawasan berharga kepada pendidik dan siswa, studi kasus bersama, laporan resmi, webinar, dan banyak lagi."
Intel memberi tahu Protocol bahwa perangkat lunak kelas masih dalam tahap awal, dan tidak ada rencana untuk mengirim produk ke pasar.
Kemitraan dengan Class bukanlah satu-satunya kolaborasi potensial antara perangkat lunak pembaca emosi Intel dan produsen lain. Brosur online dari Intel mempromosikan papan tulis elektronik baru bernama Viewboard yang ditujukan untuk sekolah. Perangkat lunak Intel "memungkinkan myViewboard untuk menilai dan menampilkan keadaan emosional pelajar sebagai umpan balik langsung untuk pendidik, " menurut brosur.
Class adalah salah satu dari banyak produk perangkat lunak yang dimaksudkan untuk melacak emosi siswa menggunakan AI. Ada juga 4Little Trees, platform pembelajaran pendeteksi emosi yang merupakan "asisten pengajar virtual [yang] akan membantu dengan memilih pertanyaan yang paling cocok untuk Anda atau menantang Anda saat dibutuhkan," menurut situs web perusahaan.
Ashish Fernando, CEO perusahaan AI iSchoolConnect, mengatakan kepada Lifewire dalam sebuah wawancara email bahwa AI dapat dilatih untuk menilai perilaku dan fitur manusia tanpa dampak bias subjektif yang dimiliki individu.
"AI dapat menilai perilaku manusia dalam jumlah yang jauh lebih besar, termasuk ekspresi mikro yang mudah terlewatkan, dengan kecepatan yang jauh lebih cepat daripada manusia," kata Fernando. "Di mana umpan balik bisa memakan waktu berjam-jam, AI sekarang dapat memberikan hal yang sama dalam beberapa menit."
Kekhawatiran Privasi
Penggunaan AI untuk memantau manusia semakin meningkat. Snapchat memiliki teknologi AI yang menilai tingkat emosional sekelompok orang di acara langsung. Mad Street Den menggunakan computer vision AI untuk membantu pengecer mengenali ekspresi wajah dan emosi calon pembeli. BrainQ memanfaatkan AI untuk memahami bagaimana penumpang berinteraksi dengan kendaraan otonom yang mereka gunakan. Dan perusahaan menggunakan AI untuk melacak kelelahan pengemudi.
"Ini adalah kasus penggunaan yang bagus untuk keselamatan jalan, tetapi ini menimbulkan pertanyaan tentang hak privasi pengemudi di kendaraan pribadi mereka," kata Huth. "Apakah informasi kelelahan akan dibagikan kepada perusahaan asuransi atau produsen mobil? Atau hanya memperingatkan pengemudi untuk berhenti dan beristirahat? Ini bukan masalah bagi armada mobil komersial seperti truk, van pengiriman, atau taksi."
Satu masalah adalah bahwa informasi AI, seperti gerakan otot untuk menyimpulkan keadaan emosional, mungkin tidak dapat diandalkan, kata Huth. "Ini menciptakan dilema, karena AI yang lebih andal mungkin memerlukan akses ke data yang lebih sensitif seperti sinyal EEG," tambahnya.
Bagi siswa, AI dapat berguna untuk memantau kepatuhan selama ujian online saat pengawas tidak dapat hadir secara fisik. Tetapi penggunaan AI untuk ini kontroversial, kata Huth, karena sistem mencoba untuk menentukan apakah seorang siswa berniat untuk menyontek atau berbuat curang, dan ada potensi nyata untuk positif palsu yang mengakibatkan hukuman yang tidak dapat dibenarkan bagi siswa yang tidak melakukan kesalahan..
"Setiap AI yang digunakan untuk tujuan ini harus cukup kuat untuk mengatasi gangguan toilet, kegelisahan siswa (seperti gerakan mata yang tidak menentu), dan sebagainya," kata Huth.
