Key Takeaways
- Bias algoritma berbahaya bagi remaja yang menghabiskan banyak waktu di internet, kata para ahli.
- Pengguna Twitter baru-baru ini mengalami masalah di mana wajah Hitam disingkirkan demi wajah putih.
- Otak remaja yang sedang berkembang mungkin sangat rentan terhadap efek merusak dari bias algoritmik, kata para peneliti.
Prasangka yang dimasukkan ke dalam beberapa teknologi, yang dikenal sebagai bias algoritmik, dapat berbahaya bagi banyak kelompok, tetapi para ahli mengatakan bahwa hal itu sangat merugikan remaja.
Bias algoritma, ketika sistem komputer menunjukkan hasil yang berprasangka, adalah masalah yang berkembang. Pengguna Twitter baru-baru ini menemukan contoh bias pada platform ketika algoritma pendeteksi gambar yang memotong foto memotong wajah Hitam dan digantikan dengan wajah putih. Perusahaan meminta maaf atas masalah ini, tetapi belum merilis perbaikan. Ini adalah contoh bias yang dihadapi remaja saat mereka online, yang mereka lakukan lebih dari kelompok usia lainnya, kata para ahli.
"Kebanyakan remaja tidak menyadari bahwa perusahaan media sosial memiliki mereka untuk mempromosikan konten tertentu yang mereka pikir akan disukai pengguna [agar] membuat mereka bertahan selama mungkin di platform, " Dr. Mai- Ly Nguyen Steers, asisten profesor di School of Nursing di Duquesne University yang mempelajari penggunaan media sosial di kalangan remaja/mahasiswa, mengatakan dalam sebuah wawancara email.
"Bahkan jika ada beberapa tingkat kesadaran tentang algoritme, efek dari kurangnya suka dan komentar tetap kuat dan dapat memengaruhi harga diri remaja," tambah Steers.
Mengembangkan Otak
Bias algoritma dapat mempengaruhi remaja dengan cara yang tidak terduga karena korteks prefrontal mereka masih berkembang, Mikaela Pisani, Kepala Ilmuwan Data di Rootstrap, menjelaskan dalam sebuah wawancara email.
Efek kurang suka dan komentar masih kuat dan dapat mempengaruhi harga diri remaja.
"Remaja sangat rentan terhadap fenomena 'Pabrik Sosial', di mana algoritme membuat kelompok sosial di platform online, yang menyebabkan kecemasan dan depresi jika kebutuhan remaja akan persetujuan sosial tidak terpenuhi," kata Pisani. "Algoritma disederhanakan berdasarkan data tidak sempurna sebelumnya yang mengarah pada representasi stereotip yang berlebihan dengan mengorbankan pendekatan yang lebih bernuansa untuk pembentukan identitas.
"Mengambil sudut pandang yang lebih luas, kita juga mempertanyakan, sebagai masyarakat, jika kita ingin algoritme membentuk perjalanan remaja kita menjadi dewasa, dan apakah sistem ini bahkan mendukung daripada menghambat pertumbuhan pribadi individu?"
Karena masalah ini, ada kebutuhan yang berkembang untuk mengingat remaja saat merancang algoritme, kata para ahli.
"Berdasarkan masukan dari spesialis perkembangan, ilmuwan data, dan advokat pemuda, kebijakan abad ke-21 seputar privasi data dan desain algoritme juga dapat dibuat dengan mempertimbangkan kebutuhan khusus remaja, " Avriel Epps-Darling, seorang doktor mahasiswa di Harvard, menulis baru-baru ini. "Jika kita terus meremehkan atau mengabaikan cara remaja rentan terhadap rasisme algoritmik, bahayanya kemungkinan akan bergema dari generasi ke generasi mendatang."
Melawan Bias
Sampai ada solusi, beberapa peneliti mencoba mencari cara untuk mengurangi kerusakan yang terjadi pada kaum muda dengan algoritma yang bias.
"Intervensi telah difokuskan untuk membuat remaja menyadari bahwa pola media sosial mereka berdampak negatif pada kesehatan mental mereka dan mencoba menemukan strategi untuk menguranginya (misalnya, mengurangi penggunaan media sosial)," kata Steers.
"Beberapa mahasiswa yang kami wawancarai telah mengindikasikan bahwa mereka merasa terdorong untuk membuat konten agar tetap "relevan", bahkan jika mereka tidak ingin keluar atau memposting, "lanjutnya. "Namun, mereka merasa perlu membuat konten untuk mempertahankan hubungan mereka dengan pengikut atau teman."
Jawaban akhirnya bisa menghilangkan bias manusia dari komputer. Tetapi karena programmer hanyalah manusia, itu adalah tantangan yang sulit, kata para ahli.
Salah satu solusi yang mungkin adalah mengembangkan komputer yang terdesentralisasi dan diprogram untuk melupakan hal-hal yang telah mereka pelajari, kata John Suit, Chief Technology Officer di perusahaan robotika KODA.
"Melalui jaringan yang terdesentralisasi, data, dan analitik dari data tersebut, sedang dikompilasi dan dianalisis dari berbagai titik," kata Suit dalam wawancara email. "Data dikumpulkan dan diproses bukan dari satu pemrosesan pikiran AI dalam batas algoritmenya, tetapi ratusan atau bahkan ribuan.
"Saat data dikumpulkan dan dianalisis, "kesimpulan" lama atau data yang berlebihan dilupakan. Melalui sistem ini, algoritme yang mungkin dimulai dengan bias pada akhirnya akan mengoreksi dan mengganti bias tersebut jika terbukti salah."
Meskipun bias mungkin merupakan masalah lama, mungkin ada cara untuk memeranginya, setidaknya secara online. Merancang komputer yang menghilangkan prasangka kita adalah langkah pertama.
