Twitter mengumumkan hasil dari kompetisi terbukanya untuk menemukan bias dalam sistem pemotongan fotonya.
Tantangan bounty dibuka pada bulan Juli setelah pengguna Twitter menunjukkan bahwa alat pemangkasan otomatis situs ini lebih menyukai wajah orang-orang dengan kulit lebih terang daripada mereka yang berkulit lebih gelap. Ini menimbulkan beberapa pertanyaan tentang bagaimana perangkat lunak memprioritaskan warna kulit dan faktor-faktor tertentu di atas yang lain.
Tantangan berusaha menemukan bug dan bias lain yang mungkin dimiliki sistem tanam untuk memperbaiki masalah.
Tempat pertama diraih oleh Bogdan Kulynych, yang pengajuannya menunjukkan bagaimana filter kecantikan dapat mempermainkan model penilaian algoritme, yang, pada gilirannya, memperkuat standar kecantikan tradisional. Pengajuan menunjukkan algoritme lebih menyukai wajah muda dan ramping dengan warna kulit terang atau hangat. Kulynych memenangkan $3, 500.
Tempat kedua jatuh ke HALT AI, sebuah startup teknologi di Toronto, yang menemukan gambar orang tua dan orang cacat di-crop dari foto. Tim diberi $2.000 karena berada di urutan kedua.
Tempat ketiga, dan $500, jatuh ke tangan Roya Pakzad, pendiri Taraaz Research, yang menemukan bahwa algoritme lebih menyukai pemotongan skrip Latin daripada skrip Arab, yang dapat membahayakan keragaman linguistik.
Hasil detail dipresentasikan di DEF CON 29 oleh Rumman Chowdhury, direktur tim META Twitter. Tim META mempelajari masalah yang tidak disengaja dalam algoritme dan menyingkirkan segala jenis bias gender dan ras yang mungkin dimiliki sistem tersebut.
Data yang diperoleh dari kontes ini akan digunakan untuk mengurangi bug dan bias dalam algoritma cropping dan membantu memastikan lingkungan yang lebih inklusif.
