Key Takeaways
- Seiring pembuatan deepfake menjadi lebih mudah, cara baru dan lebih baik untuk mengenalinya telah menjadi prioritas.
- Teknologi deepfake-spotting Facebook menggunakan pembelajaran mesin terbalik untuk mengungkap apakah sebuah video adalah deepfake atau bukan.
- Para ahli mengatakan menggunakan teknologi blockchain akan menjadi cara terbaik untuk melihat apakah video itu nyata atau tidak karena metode ini bergantung pada data kontekstual.
Facebook yakin dengan model pembelajaran mesinnya untuk memerangi deepfake, tetapi para ahli mengatakan bahwa machine learning sendiri tidak akan menyelamatkan kita dari penipuan deepfake.
Perusahaan seperti Facebook, Microsoft, dan Google semuanya bekerja untuk memerangi deepfake agar tidak menyebar di web dan jejaring sosial. Meskipun metodenya berbeda, ada satu metode anti-bodoh yang potensial untuk menemukan video palsu ini: blockchains.
“[Blockchains] memberi Anda banyak potensi untuk memvalidasi deepfake dengan cara yang merupakan bentuk validasi terbaik yang dapat saya lihat,” Stephen Wolfram, pendiri & CEO Wolfram Research dan penulis A New Kind of Science, kepada Lifewire melalui telepon.
Teknologi Deepfake-Spotting Facebook
Teknologi Deepfake telah berkembang pesat selama beberapa tahun terakhir. Video menyesatkan menggunakan metode pembelajaran mesin untuk melakukan hal-hal seperti menempatkan wajah seseorang ke tubuh orang lain, mengubah kondisi latar belakang, sinkronisasi bibir palsu, dan banyak lagi. Mulai dari parodi yang tidak berbahaya hingga membuat selebriti atau tokoh masyarakat mengatakan atau melakukan sesuatu yang tidak mereka lakukan.
Para ahli mengatakan bahwa teknologi berkembang dengan cepat, dan deepfake hanya akan semakin meyakinkan (dan lebih mudah dibuat) karena teknologi menjadi lebih banyak tersedia dan lebih inovatif.
Facebook baru-baru ini memberikan lebih banyak wawasan tentang teknologi pendeteksi deepfake dalam kemitraan dengan Michigan State University. Jejaring sosial mengatakan itu bergantung pada rekayasa balik dari satu gambar yang dihasilkan kecerdasan buatan ke model generatif yang digunakan untuk memproduksinya.
Ilmuwan riset yang bekerja dengan Facebook mengatakan bahwa metode ini bergantung pada pengungkapan pola unik di balik model AI yang digunakan untuk menghasilkan deepfake.
“Dengan menggeneralisasi atribusi gambar ke pengenalan set terbuka, kami dapat menyimpulkan lebih banyak informasi tentang model generatif yang digunakan untuk membuat deepfake yang melampaui pengenalan bahwa itu belum pernah terlihat sebelumnya. Dan dengan menelusuri kesamaan di antara pola kumpulan deepfake, kami juga dapat mengetahui apakah serangkaian gambar berasal dari satu sumber,” tulis ilmuwan riset Xi Yin dan Tan Hassner dalam posting blog Facebook tentang metode deepfake-spotting.
Wolfram mengatakan masuk akal jika Anda menggunakan pembelajaran mesin untuk menemukan model AI tingkat lanjut (deepfake). Namun, selalu ada ruang untuk menipu teknologi.
“Saya sama sekali tidak terkejut bahwa ada cara pembelajaran mesin yang layak untuk [mendeteksi deepfake],” kata Wolfram. “Satu-satunya pertanyaan adalah jika Anda cukup berusaha, dapatkah Anda membodohinya? Saya yakin Anda bisa.”
Melawan Deepfake dengan Cara Berbeda
Sebaliknya, Wolfram mengatakan bahwa dia percaya menggunakan blockchain akan menjadi pilihan terbaik untuk secara akurat menemukan jenis deepfake tertentu. Pendapatnya tentang penggunaan blockchain melalui pembelajaran mesin kembali ke 2019, dan dia mengatakan bahwa, pada akhirnya, pendekatan blockchain dapat memberikan solusi yang lebih akurat untuk masalah deepfake kami.
“Saya berharap pemirsa gambar dan video dapat secara rutin memeriksa blockchains (dan 'perhitungan triangulasi data') sedikit seperti bagaimana browser web sekarang memeriksa sertifikat keamanan,” tulis Wolfram dalam sebuah artikel yang diterbitkan di Scientific American.
Karena blockchain menyimpan data dalam blok yang kemudian dirantai bersama dalam urutan kronologis, dan karena blockchain yang terdesentralisasi tidak dapat diubah, data yang dimasukkan tidak dapat diubah.
Satu-satunya pertanyaan adalah jika Anda cukup berusaha, dapatkah Anda membodohinya? Saya yakin Anda bisa.
Wolfram menjelaskan bahwa dengan memasukkan video ke dalam blockchain, Anda akan dapat melihat waktu pengambilannya, lokasi, dan informasi kontekstual lainnya yang memungkinkan Anda mengetahui apakah video tersebut telah diubah dengan cara apa pun.
“Secara umum, semakin banyak metadata yang mengontekstualisasikan gambar atau video, semakin besar kemungkinan Anda untuk dapat menceritakannya,” katanya. “Anda tidak bisa memalsukan waktu di blockchain.”
Namun, Wolfram mengatakan metode yang digunakan-apakah itu pembelajaran mesin atau menggunakan blockchain-tergantung pada jenis deepfake yang Anda coba lindungi (yaitu, video Kim Kardashian mengatakan sesuatu yang konyol atau video politisi membuat pernyataan atau saran).
“Pendekatan blockchain melindungi terhadap beberapa jenis deep fakes tertentu, seperti halnya pemrosesan gambar pembelajaran mesin melindungi terhadap beberapa jenis deep fakes,” katanya.
Intinya, tampaknya, adalah kewaspadaan bagi kita semua dalam memerangi banjir deepfake yang akan datang.
