Facebook mengatakan sedang menguji teknologi moderasi kecerdasan buatan di Grup untuk mengekang konflik dalam posting dan komentar.
Alat bertenaga AI baru disebut Peringatan Konflik dan dimaksudkan untuk membantu administrator grup memiliki kontrol lebih besar atas komunitas mereka. Teknologi AI akan memberi tahu admin jika menemukan "percakapan kontroversial atau tidak sehat" sehingga admin dapat mengambil tindakan yang diperlukan lebih cepat.
Untuk rata-rata pengguna Facebook, alat baru ini berarti kemungkinan besar Anda akan melihat lebih sedikit pertengkaran dan argumen dalam posting Grup yang Anda ikuti, sehingga hal-hal negatif secara keseluruhan akan berkurang.
Admin dapat menggunakan alat Peringatan Konflik untuk membuat peringatan ketika pengguna berkomentar dengan kata atau frasa tertentu, dan pembelajaran mesin dapat melihat contoh ini untuk memperingatkan admin ketika itu terjadi. Alat ini juga memungkinkan admin membatasi aktivitas untuk orang dan postingan tertentu.
Facebook memberi tahu The Verge bahwa pembelajaran mesin akan menggunakan "beberapa sinyal seperti waktu balasan dan volume komentar untuk menentukan apakah interaksi antara pengguna memiliki atau mungkin mengarah pada interaksi negatif."
Facebook sudah menggunakan alat AI untuk menandai jenis konten lain di platformnya, termasuk ujaran kebencian. Menurut Laporan Penegakan Standar Komunitas Agustus 2020, alat AI Facebook untuk ujaran kebencian adalah 95% akurat, dibandingkan dengan 89% dari kuartal pertama tahun 2020. Facebook mengatakan pihaknya meningkatkan tindakannya terhadap konten ucapan kebencian dari 9,6 juta kasus pada kuartal pertama. 2020 menjadi 22,5 juta pada kuartal kedua.
Untuk rata-rata pengguna Facebook, alat baru ini berarti kemungkinan besar Anda akan melihat lebih sedikit pertengkaran dan argumen dalam postingan Grup yang Anda ikuti
Jejaring sosial ini juga sedang mengerjakan teknologi AI yang dapat "melihat" foto dengan menggunakan data mentah untuk memungkinkan model melatih dirinya sendiri-secara mandiri dan tanpa menggunakan algoritme-karena ia melihat lebih banyak gambar. Proyek AI, yang dikenal sebagai SIER, dapat membuka jalan bagi model visi komputer yang lebih fleksibel, akurat, dan mudah beradaptasi, sekaligus menghadirkan alat pencarian dan aksesibilitas yang lebih baik bagi pengguna media sosial.
