Key Takeaways
- Penelitian baru menunjukkan bahwa mungkin tidak ada cara untuk mengontrol kecerdasan buatan super-pintar.
- Sebuah makalah jurnal berpendapat bahwa mengendalikan AI akan membutuhkan teknologi yang jauh lebih maju daripada yang kita miliki saat ini.
- Beberapa ahli mengatakan bahwa AI yang benar-benar cerdas mungkin hadir lebih cepat dari yang kita kira.
Jika manusia pernah mengembangkan kecerdasan buatan super-pintar, mungkin tidak ada cara untuk mengendalikannya, kata para ilmuwan.
AI telah lama disebut-sebut sebagai obat untuk semua masalah umat manusia atau kiamat ala Terminator. Namun, sejauh ini, AI belum mendekati kecerdasan tingkat manusia. Tetapi menjaga tali pada AI tingkat lanjut bisa menjadi masalah yang terlalu rumit bagi manusia jika itu pernah dikembangkan, menurut sebuah makalah baru-baru ini yang diterbitkan dalam Journal of Artificial Intelligence Research.
"Mesin super cerdas yang mengendalikan dunia terdengar seperti fiksi ilmiah," kata Manuel Cebrian, salah satu penulis makalah tersebut, dalam rilis berita.
"Tetapi sudah ada mesin yang melakukan tugas-tugas penting tertentu secara mandiri tanpa programmer sepenuhnya memahami bagaimana mereka mempelajarinya. Oleh karena itu muncul pertanyaan apakah ini pada suatu saat dapat menjadi tidak terkendali dan berbahaya bagi umat manusia."
Segera Hadir di Komputer Super Terdekat
Makalah jurnal berpendapat bahwa mengendalikan AI akan membutuhkan teknologi yang jauh lebih maju daripada yang kita miliki saat ini.
Dalam studi mereka, tim menyusun algoritme penahanan teoretis yang memastikan AI supercerdas tidak dapat membahayakan orang dalam keadaan apa pun, dengan mensimulasikan perilaku AI terlebih dahulu dan menghentikannya jika dianggap berbahaya. Tetapi penulis menemukan bahwa algoritma seperti itu tidak dapat dibangun.
"Jika Anda memecah masalah menjadi aturan dasar dari ilmu komputer teoretis, ternyata algoritme yang akan memerintahkan AI untuk tidak menghancurkan dunia dapat secara tidak sengaja menghentikan operasinya sendiri." Iyad Rahwan, direktur Pusat Manusia dan Mesin di Institut Max Planck untuk Pembangunan Manusia di Jerman, mengatakan dalam rilis berita.
"Jika ini terjadi, Anda tidak akan tahu apakah algoritme penahanan masih menganalisis ancaman, atau apakah ia telah berhenti untuk menahan AI yang berbahaya. Akibatnya, algoritme penahanan tidak dapat digunakan."
AI yang benar-benar cerdas mungkin ada lebih cepat dari yang kita kira, kata Michalis Vazirgiannis, profesor ilmu komputer di cole Polytechnique di Prancis. "AI adalah artefak manusia, tetapi dengan cepat menjadi entitas otonom," katanya dalam email ke Lifewire.
"Titik kritisnya adalah jika/ketika singularitas terjadi (yaitu, ketika agen AI akan memiliki kesadaran sebagai entitas) dan oleh karena itu mereka akan mengklaim independensi, pengendalian diri, dan akhirnya mendominasi."
Singularitas Akan Datang
Vazirgiannis tidak sendirian dalam memprediksi kedatangan super AI. Orang yang benar-benar percaya pada ancaman AI suka berbicara tentang "singularitas", yang dijelaskan Vazirgiannis adalah poin bahwa AI akan menggantikan kecerdasan manusia dan "bahwa algoritme AI berpotensi menyadari keberadaan mereka dan mulai berperilaku egois dan kooperatif."
Menurut Ray Kurzweil, direktur teknik Google, singularitas akan tiba sebelum pertengahan abad ke-21. "2029 adalah tanggal konsisten yang saya prediksi ketika AI akan lulus tes Turing yang valid dan karenanya mencapai tingkat kecerdasan manusia," kata Kurzweil kepada Futurism.
Jika kita tidak bisa membersihkan rumah kita sendiri, kode apa yang harus kita minta untuk diikuti oleh AI?
"Saya telah menetapkan tanggal 2045 untuk 'Singularitas,' yaitu saat kita akan melipatgandakan kecerdasan efektif kita satu miliar kali lipat dengan menggabungkan kecerdasan yang telah kita ciptakan."
Tetapi tidak semua pakar AI berpikir bahwa mesin cerdas adalah ancaman. AI yang sedang dikembangkan lebih mungkin berguna untuk pengembangan obat dan tidak menunjukkan kecerdasan nyata, konsultan AI Emmanuel Maggiori mengatakan dalam sebuah wawancara email. “Ada hype besar seputar AI, yang membuatnya terdengar seperti benar-benar revolusioner,” tambahnya. "Sistem AI saat ini tidak seakurat yang dipublikasikan, dan membuat kesalahan yang tidak akan pernah dilakukan manusia."
Kendalikan AI, Sekarang
Mengatur AI agar tidak lepas dari kendali kita mungkin sulit, kata Vazirgiannis. Perusahaan, bukan pemerintah, mengendalikan sumber daya yang mendukung AI. "Bahkan algoritme itu sendiri biasanya diproduksi dan digunakan di laboratorium penelitian dari entitas besar dan kuat ini, biasanya multinasional," katanya.
"Jelas, oleh karena itu, pemerintah negara bagian semakin tidak memiliki kendali atas sumber daya yang diperlukan untuk mengendalikan AI."
Beberapa ahli mengatakan bahwa untuk mengendalikan AI yang sangat cerdas, manusia perlu mengelola sumber daya komputasi dan daya listrik. "Film fiksi ilmiah seperti The Matrix membuat ramalan tentang masa depan dystopian di mana manusia digunakan oleh AI sebagai sumber bio-power," kata Vazirgiannis.
"Meskipun kemustahilan jarak jauh, umat manusia harus memastikan ada kontrol yang cukup atas sumber daya komputasi (yaitu, cluster komputer, GPU, superkomputer, jaringan/komunikasi), dan tentu saja pembangkit listrik yang menyediakan listrik yang mutlak merusak fungsi AI."
Masalah dengan mengendalikan AI adalah para peneliti tidak selalu memahami bagaimana sistem tersebut membuat keputusan mereka, Michael Berthold, salah satu pendiri dan CEO perusahaan perangkat lunak ilmu data KNIME, mengatakan dalam sebuah wawancara email. "Jika kita tidak melakukan itu, bagaimana kita bisa 'mengendalikannya'?"
Dia menambahkan, "Kami tidak mengerti ketika keputusan yang sama sekali berbeda dibuat berdasarkan, bagi kami, masukan yang tidak relevan."
Satu-satunya cara untuk mengendalikan risiko penggunaan AI adalah memastikan bahwa itu hanya digunakan ketika risiko itu dapat dikelola, kata Berthold. "Dengan kata lain, dua contoh ekstrem: Jangan menempatkan AI sebagai penanggung jawab pembangkit listrik tenaga nuklir Anda di mana kesalahan kecil dapat memiliki efek samping yang fatal," tambahnya.
"Di sisi lain, AI memprediksi jika suhu ruangan Anda harus disesuaikan naik atau turun sedikit mungkin sepadan dengan risiko kecil demi kenyamanan hidup."
Jika kita tidak dapat mengendalikan AI, sebaiknya kita mengajarkannya sopan santun, kata mantan insinyur komputer NASA Peter Scott dalam sebuah wawancara email. "Pada akhirnya, kami tidak dapat memastikan pengendalian AI lebih dari yang kami dapat memastikan bahwa anak-anak kami," katanya.
"Kami membesarkan mereka dengan benar dan berharap yang terbaik; sejauh ini, mereka belum menghancurkan dunia. Untuk membesarkan mereka dengan baik, kami membutuhkan pemahaman etika yang lebih baik; jika kami tidak dapat membersihkan rumah kami sendiri, apa kode apakah kita harus meminta AI untuk mengikuti?"
Tapi semua harapan tidak hilang untuk umat manusia, kata peneliti AI Yonatan Wexler, wakil presiden eksekutif R&D di OrCam. "Meskipun kemajuan memang mengesankan, keyakinan pribadi saya adalah bahwa kecerdasan manusia tidak boleh diremehkan," katanya dalam sebuah wawancara email. "Kami sebagai spesies telah menciptakan hal-hal yang sangat menakjubkan, termasuk AI itu sendiri."
Pencarian AI yang semakin cerdas terus berlanjut. Tapi mungkin lebih baik untuk mempertimbangkan bagaimana kita mengontrol kreasi kita sebelum terlambat.
