Key Takeaways
- Algoritme pembelajaran mesin dan AI mengamati perilaku manusia dan dapat belajar memanipulasinya, kata para ahli.
- Peneliti baru-baru ini menciptakan cara untuk menemukan dan mengeksploitasi kerentanan dalam cara orang membuat pilihan menggunakan AI.
- Algoritme media sosial paling canggih saat ini adalah TikTok, kata seorang pengamat.
Kecerdasan buatan (AI) dan algoritme pembelajaran mesin semakin mempelajari cara memengaruhi perilaku pengguna, kata para ahli.
Peneliti di badan sains nasional Australia baru-baru ini menciptakan cara untuk menemukan dan mengeksploitasi kerentanan dalam cara orang membuat pilihan menggunakan AI. Penelitian terbaru hanyalah salah satu dari gelombang sistem berbasis AI yang dirancang untuk memanipulasi pengambilan keputusan manusia.
"Tidak ada akhir dari banyak cara di mana AI telah memengaruhi perilaku," Kentaro Toyama, seorang profesor di Fakultas Informasi Universitas Michigan dan penulis Geek Heresy: Rescuing Social Change from the Cult of Technology, kata dalam wawancara email.
"Bahkan, jika Anda pernah melakukan pencarian Google dan menindaklanjuti sebuah tautan, Anda dipengaruhi oleh sistem AI yang menebak minat Anda dan mengembalikan hasil yang dianggap paling relevan bagi Anda."
AI vs. Manusia
Dalam penelitian Australia yang diterbitkan dalam sebuah makalah baru-baru ini, partisipan manusia bermain game melawan komputer dalam berbagai eksperimen. Eksperimen pertama meminta peserta mengklik kotak berwarna merah atau biru untuk memenangkan uang.
AI berhasil sekitar 70% dari waktu, mempelajari pola pilihan peserta dan membimbing mereka menuju pilihan tertentu.
Dalam percobaan lain, peserta menonton layar dan menekan tombol ketika mereka diperlihatkan simbol tertentu, atau tidak menekannya saat ditawari simbol lain. AI belajar mengatur ulang simbol, sehingga peserta membuat lebih banyak kesalahan.
Hasil eksperimen, para peneliti menyimpulkan, adalah bahwa AI belajar dari tanggapan peserta. Mesin kemudian mengidentifikasi dan menargetkan kerentanan dalam pengambilan keputusan orang. Akibatnya, AI dapat memanipulasi peserta untuk melakukan tindakan tertentu.
Fakta bahwa AI atau pembelajaran mesin dapat memanipulasi orang seharusnya tidak mengejutkan, kata pengamat.
"AI memengaruhi perilaku kita setiap hari," Tamara Schwartz, asisten profesor keamanan siber dan administrasi bisnis di York College of Pennsylvania, mengatakan dalam sebuah wawancara email.
"Kami selalu mendengar tentang algoritme di aplikasi media sosial seperti Facebook atau Twitter. Algoritme ini mengarahkan perhatian kami ke konten terkait dan menciptakan efek 'ruang gema', yang pada gilirannya memengaruhi perilaku kami."
TikTok Sedang Menonton
Algoritme media sosial paling canggih saat ini adalah TikTok, kata Schwartz. Aplikasi ini menganalisis apa yang Anda minati, berapa lama Anda menonton sesuatu, dan seberapa cepat Anda melewatkan sesuatu, lalu menyaring penawarannya agar Anda tetap menonton.
"TikTok jauh lebih membuat ketagihan daripada platform lain karena algoritme AI ini, yang memahami apa yang Anda suka, bagaimana Anda belajar, dan bagaimana Anda memilih informasi," tambahnya. "Kami mengetahui hal ini karena rata-rata waktu yang dihabiskan pengguna di TikTok adalah 52 menit."
Manipulasi perilaku manusia oleh kecerdasan buatan dapat memiliki manfaat positif, kata Chris Nicholson, CEO perusahaan AI Pathmind, dalam sebuah wawancara email. Lembaga kesehatan masyarakat, misalnya, dapat menggunakan AI untuk mendorong orang membuat keputusan yang lebih baik.
"Namun, media sosial, pembuat video game, pengiklan, dan rezim otoriter mencari cara untuk mendorong orang membuat keputusan yang tidak sesuai dengan kepentingan terbaik mereka, dan ini akan memberi mereka alat baru untuk melakukannya, " tambahnya.
Masalah etika dengan AI yang mempengaruhi perilaku sering kali bersifat derajat, kata Toyama. AI memungkinkan periklanan terfokus di mana preferensi dan kelemahan individu dapat dieksploitasi.
"Mungkin, misalnya, sistem AI mengidentifikasi orang yang mencoba berhenti merokok dan membumbui mereka dengan iklan rokok yang menggoda," tambahnya.
Tidak semua orang setuju bahwa manipulasi AI terhadap perilaku manusia itu bermasalah. Psikologi klasik dan AI sama-sama mengamati data, kata Jason J. Corso, direktur Institut Stevens untuk Kecerdasan Buatan, dalam sebuah wawancara email.
"Ilmuwan manusia mungkin lebih baik dalam menggeneralisasi pengamatan dan menyaring teori perilaku manusia yang mungkin dapat diterapkan secara lebih luas, sedangkan model AI akan lebih dapat mengidentifikasi nuansa spesifik masalah," kata Corso.
"Dari sudut pandang etika, saya tidak melihat perbedaan antara ini."
