Key Takeaways
- Deep Nostalgia adalah program baru yang memungkinkan Anda menganimasikan foto lama.
- Teknologi ini menunjukkan betapa mudahnya membuat video orang-orang yang melakukan hal-hal yang sebenarnya belum pernah mereka lakukan di kehidupan nyata.
- Teknologi palsu yang dalam sudah sangat canggih sehingga sulit untuk mengetahui apakah video itu asli atau buatan komputer, kata seorang pakar.
Hati-hati dengan perangkat lunak baru yang dapat membuat apa yang disebut "kepalsuan mendalam", di mana video orang sungguhan dapat disimulasikan, para ahli memperingatkan.
Deep Nostalgia, dirilis oleh perusahaan MyHeritage, sedang tren di media sosial, dengan pengguna menghidupkan kembali semua orang mulai dari komposer terkenal hingga kerabat yang sudah meninggal. Perangkat lunak ini menarik reaksi beragam, dengan beberapa orang senang dengan kreasinya, dan yang lain menganggapnya menyeramkan. Teknologi ini menunjukkan betapa mudahnya membuat video tentang orang-orang yang melakukan hal-hal yang sebenarnya belum pernah mereka lakukan di kehidupan nyata.
"Teknologi Deepfake semakin canggih dan berbahaya," kata Aaron Lawson, asisten direktur Laboratorium Speech Technology and Research (STAR) SRI International, dalam sebuah wawancara email. “Hal ini sebagian disebabkan oleh sifat kecerdasan buatan. Dimana teknologi 'tradisional' membutuhkan waktu dan energi manusia untuk berkembang, AI dapat belajar dari dirinya sendiri.
"Tetapi kemampuan AI untuk mengembangkan dirinya adalah pedang bermata dua," lanjut Lawson. "Jika AI diciptakan untuk melakukan sesuatu yang baik, bagus. Tapi ketika AI dirancang untuk sesuatu yang jahat seperti pemalsuan yang dalam, bahayanya belum pernah terjadi sebelumnya."
Perangkat Lunak Menghidupkan Foto
Situs web Genealogi MyHeritage memperkenalkan mesin animasi bulan lalu. Teknologi yang dikenal sebagai Deep Nostalgia memungkinkan pengguna menganimasikan foto melalui situs web MyHeritage. Sebuah perusahaan bernama D-ID merancang algoritma untuk MyHeritage yang secara digital menciptakan gerakan wajah manusia. Perangkat lunak ini menerapkan gerakan pada foto dan memodifikasi ekspresi wajah untuk bergerak seperti yang biasa dilakukan wajah manusia, menurut situs web MyHeritage.
Deep Nostalgia menunjukkan bahwa teknologi deep-fake menjadi lebih mudah diakses, Lior Shamir, seorang profesor ilmu komputer di Kansas State University, mengatakan dalam sebuah wawancara email. Ini berkembang dengan cepat dan bahkan menghilangkan perbedaan halus antara video dan audio palsu dan asli.
"Ada juga kemajuan substansial menuju real-time deep fake, yang berarti bahwa video deep fake yang meyakinkan dihasilkan pada saat komunikasi video," kata Shamir."Misalnya, seseorang dapat mengadakan rapat Zoom dengan orang tertentu, sambil melihat dan mendengar suara orang yang sama sekali berbeda."
Ada juga semakin banyak pemalsuan mendalam berbasis bahasa, Jason Corso, direktur Institut Stevens untuk Kecerdasan Buatan di Institut Teknologi Stevens, mengatakan dalam sebuah wawancara email. "Menghasilkan seluruh paragraf teks palsu yang mendalam menuju agenda tertentu cukup sulit, tetapi kemajuan modern dalam pemrosesan bahasa alami yang mendalam memungkinkan," tambahnya.
Cara Mendeteksi Deep Fake
Sementara teknologi deteksi deep-fake masih dalam tahap awal, ada beberapa cara untuk menemukannya, kata Corso, dimulai dari mulut.
"Variabilitas tampilan bagian dalam mulut saat seseorang berbicara sangat tinggi, sehingga sulit untuk dianimasikan secara meyakinkan," jelas Corso. "Itu bisa dilakukan, tetapi lebih sulit daripada bagian kepala lainnya. Perhatikan bagaimana video Deep Nostalgia tidak menunjukkan kemampuan foto untuk mengatakan 'I love you' atau frasa lain selama pembuatan palsu yang mendalam. Melakukannya akan membutuhkan pembukaan dan penutupan mulut, yang sangat sulit bagi generasi palsu yang dalam."
Ghosting adalah hadiah lain, tambah Corso. Jika Anda melihat keburaman di sekitar tepi kepala, itu adalah hasil dari "gerakan cepat atau piksel terbatas yang tersedia di gambar sumber. Telinga bisa hilang sebagian untuk sementara, atau rambut bisa menjadi buram di tempat yang tidak Anda duga," dia berkata.
Anda juga dapat melihat variasi warna saat mencoba menemukan video palsu yang dalam, seperti garis tajam di wajah, dengan warna yang lebih gelap di satu sisi dan lebih terang di sisi lain.
"Algoritme komputer sering kali dapat mendeteksi pola distorsi ini," kata Shamir. "Tapi algoritme deep fake berkembang pesat. Tidak dapat dihindari bahwa hukum yang ketat akan diperlukan untuk melindungi dari deep fake dan kerusakan yang dapat mereka timbulkan dengan mudah."
