Key Takeaways
- Penelitian baru mengungkapkan bahwa orang tidak dapat memisahkan gambar yang dihasilkan AI dari yang asli.
- Peserta menilai gambar yang dihasilkan AI lebih dapat dipercaya.
- Para ahli percaya bahwa orang harus berhenti mempercayai apa pun yang mereka lihat di internet.
Pepatah 'melihat adalah percaya' sudah tidak relevan lagi dengan internet, dan para ahli mengatakan itu tidak akan menjadi lebih baik dalam waktu dekat.
Sebuah studi baru-baru ini menemukan bahwa gambar wajah yang dihasilkan oleh kecerdasan buatan (AI) tidak hanya sangat foto-realistis, tetapi juga tampak lebih baik daripada wajah asli.
"Evaluasi kami terhadap fotorealisme wajah yang disintesis AI menunjukkan bahwa mesin sintesis telah melewati lembah yang luar biasa, dan mampu menciptakan wajah yang tidak dapat dibedakan dan lebih dapat dipercaya daripada wajah asli," para peneliti mengamati.
Orang Itu Tidak Ada
Para peneliti, Dr. Sophie Nightingale dari Universitas Lancaster dan Profesor Hany Farid dari Universitas California, Berkeley, melakukan eksperimen setelah mengetahui ancaman pemalsuan mendalam yang dipublikasikan dengan baik, mulai dari semua jenis penipuan online hingga penyegaran kampanye disinformasi.
"Mungkin yang paling merusak adalah konsekuensi bahwa, di dunia digital di mana setiap gambar atau video dapat dipalsukan, keaslian rekaman yang tidak menyenangkan atau tidak diinginkan dapat dipertanyakan," para peneliti berpendapat.
Mereka berpendapat bahwa meskipun ada kemajuan dalam mengembangkan teknik otomatis untuk mendeteksi konten palsu, teknik saat ini tidak cukup efisien dan akurat untuk mengikuti arus konstan konten baru yang diunggah secara online. Artinya, konsumen konten online harus memilah yang asli dari yang palsu, saran keduanya.
Jelle Wieringa, advokat kesadaran keamanan di KnowBe4, setuju. Dia mengatakan kepada Lifewire melalui email bahwa memerangi pemalsuan mendalam yang sebenarnya sangat sulit dilakukan tanpa teknologi khusus. "[Teknologi mitigasi] bisa mahal dan sulit diimplementasikan ke dalam proses waktu nyata, sering kali hanya mendeteksi deepfake setelah fakta."
Dengan asumsi ini, para peneliti melakukan serangkaian eksperimen untuk menentukan apakah partisipan manusia dapat membedakan wajah sintesis canggih dari wajah asli. Dalam pengujian mereka, mereka menemukan bahwa meskipun pelatihan untuk membantu mengenali palsu, tingkat akurasi hanya meningkat menjadi 59%, naik dari 48% tanpa pelatihan.
Ini mengarahkan para peneliti untuk menguji apakah persepsi kepercayaan dapat membantu orang mengidentifikasi gambar buatan. Dalam studi ketiga, mereka meminta peserta untuk menilai tingkat kepercayaan wajah, hanya untuk menemukan bahwa peringkat rata-rata untuk wajah sintetis adalah 7.7% lebih dapat dipercaya daripada peringkat rata-rata untuk wajah asli. Jumlahnya mungkin tidak terlalu banyak, tetapi para peneliti mengklaim itu signifikan secara statistik.
Kepalsuan Lebih Dalam
Kepalsuan yang mendalam sudah menjadi perhatian utama, dan sekarang airnya telah diperkeruh lebih lanjut oleh penelitian ini, yang menunjukkan bahwa citra palsu berkualitas tinggi seperti itu dapat menambah dimensi baru pada penipuan online, misalnya, dengan membantu menciptakan lebih banyak penipuan online. profil palsu online yang meyakinkan.
"Satu hal yang mendorong keamanan siber adalah kepercayaan yang dimiliki orang-orang terhadap teknologi, proses, dan orang-orang yang berusaha menjaganya agar tetap aman," kata Wieringa. "Kepalsuan yang mendalam, terutama ketika mereka menjadi fotorealistik, merusak kepercayaan ini dan, oleh karena itu, adopsi dan penerimaan keamanan siber. Ini dapat menyebabkan orang menjadi tidak percaya pada semua yang mereka rasakan."
Chris Hauk, juara privasi konsumen di Pixel Privacy, setuju. Dalam pertukaran email singkat, dia mengatakan kepada Lifewire bahwa fotorealistik palsu yang mendalam dapat menyebabkan "kekacauan" online, terutama hari-hari ini ketika semua jenis akun dapat diakses menggunakan teknologi ID foto.
Tindakan Korektif
Syukurlah, Greg Kuhn, Direktur IoT, Prosegur Security, mengatakan bahwa ada proses yang dapat menghindari otentikasi penipuan semacam itu. Dia memberi tahu Lifewire melalui email bahwa sistem kredensial berbasis AI mencocokkan individu yang diverifikasi dengan daftar, tetapi banyak yang memiliki perlindungan bawaan untuk memeriksa "keaktifan."
"Jenis sistem ini dapat meminta dan memandu pengguna untuk melakukan tugas tertentu seperti tersenyum atau menoleh ke kiri, lalu ke kanan. Ini adalah hal-hal yang tidak dapat dilakukan oleh wajah yang dihasilkan secara statis, " berbagi Kuhn.
Para peneliti telah mengusulkan pedoman untuk mengatur pembuatan dan distribusinya guna melindungi publik dari gambar sintetis. Sebagai permulaan, mereka menyarankan untuk memasukkan tanda air yang tertanam dalam ke dalam jaringan sintesis gambar dan video itu sendiri untuk memastikan semua media sintetis dapat diidentifikasi dengan andal.
Sampai saat itu, Paul Bischoff, advokat privasi dan editor penelitian infosec di Comparitech, mengatakan bahwa orang sendirian."Orang-orang harus belajar untuk tidak memercayai wajah secara online, sama seperti kita semua (semoga) belajar untuk tidak memercayai nama tampilan di email kami," Bischoff memberi tahu Lifewire melalui email.
