Key Takeaways
- Sistem AI yang disebut DALL-E2 tampaknya telah menciptakan sistem komunikasi tertulisnya sendiri.
- Beberapa ahli mengatakan bahwa bahasa yang terlihat mungkin hanya omong kosong.
- Ini adalah contoh betapa sulitnya menafsirkan hasil sistem AI tingkat lanjut.
Sepertinya Kecerdasan Buatan (AI) telah mengembangkan bahasanya sendiri, tetapi beberapa ahli meragukan klaim tersebut.
Sistem AI teks-ke-gambar OpenAI yang disebut DALL-E2 tampaknya telah menciptakan sistem komunikasi tertulisnya sendiri. Ini adalah contoh betapa sulitnya menafsirkan hasil sistem AI yang canggih.
"Karena ukuran dan kedalaman model yang besar, sangat sulit untuk menjelaskan perilaku model," Teresa O'Neill, direktur arsitektur solusi untuk pemahaman bahasa alami di iMerit, mengatakan kepada Lifewire dalam sebuah wawancara email. "Ini adalah salah satu tantangan inti, dan dalam beberapa kasus, masalah etika dengan model yang semakin kuat. Jika kita tidak dapat menjelaskan mengapa mereka berperilaku seperti itu, dapatkah kita memprediksi perilaku mereka atau mempertahankannya sesuai dengan norma dan harapan kita?"
Obrolan AI
Mahasiswa Ilmu Komputer Giannis Daras baru-baru ini mencatat bahwa sistem DALLE-2, yang membuat gambar berdasarkan input teks, akan mengembalikan kata-kata yang tidak masuk akal sebagai teks dalam keadaan tertentu.
"Keterbatasan DALLE-2 yang diketahui adalah kesulitan dengan teks," tulisnya dalam makalah yang diterbitkan di server pracetak Arxiv. "Misalnya, pesan teks seperti: 'Gambar dari kata pesawat' sering kali menghasilkan gambar yang menggambarkan teks omong kosong."
Tapi, tulis Daras, mungkin ada metode di balik omong kosong yang tampak. “Kami menemukan bahwa teks yang dihasilkan ini tidak acak, melainkan mengungkapkan kosakata tersembunyi yang tampaknya dikembangkan oleh model secara internal,” lanjutnya. "Misalnya, ketika diberi makan dengan teks omong kosong ini, model sering menghasilkan pesawat terbang."
Dalam tweetnya, Daras menunjukkan bahwa ketika DALLE-2 diminta untuk membuat sub title percakapan antara dua petani, itu menunjukkan mereka berbicara, tetapi gelembung ucapan dipenuhi dengan kata-kata yang tampak seperti kata-kata yang tidak masuk akal. Tetapi Daras menemukan bahwa kata-kata itu tampaknya memiliki arti tersendiri bagi AI: para petani berbicara tentang sayuran dan burung.
Nicola Davolio, CEO perusahaan teknologi Hupry, yang bekerja dengan AI, menjelaskan kepada Lifewire dalam wawancara email bahwa bahasa tersebut didasarkan pada simbol yang telah dipelajari oleh sistem DALL-E2 untuk dikaitkan dengan konsep tertentu. Misalnya, simbol untuk "anjing" mungkin terkait dengan gambar anjing, sedangkan simbol untuk "kucing" mungkin terkait dengan gambar kucing. DALL-E2 telah menciptakan bahasanya karena memungkinkannya berkomunikasi secara lebih efektif dengan sistem AI lainnya.
Teka-teki seperti kosakata tersembunyi dari DALL-E2 memang menyenangkan untuk digeluti, tetapi juga menyoroti pertanyaan yang lebih berat…
"Bahasa ini terdiri dari simbol-simbol yang terlihat seperti hieroglif Mesir dan tampaknya tidak memiliki arti khusus," tambahnya. "Simbol itu mungkin tidak berarti bagi manusia, tetapi sangat masuk akal bagi sistem AI karena telah dilatih pada jutaan gambar."
Para peneliti percaya bahwa sistem AI menciptakan bahasa untuk membantunya lebih memahami hubungan antara gambar dan kata-kata, kata Davolio.
"Mereka tidak yakin mengapa sistem AI mengembangkan bahasanya, tetapi mereka menduga itu mungkin ada hubungannya dengan cara belajar membuat gambar," tambah Davolio. "Ada kemungkinan sistem AI mengembangkan bahasanya untuk membuat komunikasi antar bagian jaringan yang berbeda menjadi lebih efisien."
Misteri AI
DALL-E2 bukan satu-satunya sistem AI yang telah mengembangkan bahasa internalnya, kata Davolio. Pada tahun 2017, sistem AutoML Google menciptakan bentuk arsitektur saraf baru yang disebut 'jaringan anak' setelah dibiarkan memutuskan cara terbaik untuk menyelesaikan tugas yang diberikan. Jaringan anak ini tidak dapat ditafsirkan oleh pencipta manusianya.
"Contoh-contoh ini hanyalah beberapa contoh di mana sistem AI telah mengembangkan cara melakukan hal-hal yang tidak dapat kami jelaskan," kata Davolio. "Ini adalah fenomena yang muncul yang menarik dan mengkhawatirkan dalam ukuran yang sama. Ketika sistem AI menjadi lebih kompleks dan otonom, kita mungkin semakin menemukan diri kita dalam posisi tidak memahami cara kerjanya."
O'Neill mengatakan bahwa dia tidak berpikir DALL-E2 membuat bahasanya sendiri. Sebaliknya, dia mengatakan alasan penemuan linguistik yang tampak mungkin sedikit lebih membosankan.
"Satu penjelasan yang masuk akal adalah peluang acak--dalam model sebesar itu, sedikit Hukum Murphy mungkin berlaku: jika hal aneh bisa terjadi, mungkin akan terjadi," tambah O'Neill. Kemungkinan lain yang dikemukakan oleh analis riset Benjamin Hilton dalam utas Twitter yang membahas temuan Daras adalah bahwa bentuk frasa "apoploe vesrreaitais" meniru bentuk nama Latin untuk hewan. Jadi sistem telah melahirkan orde baru Aves, tambah O'Neill.
"Teka-teki seperti kosakata tersembunyi DALL-E2 menyenangkan untuk digeluti, tetapi teka-teki itu juga menyoroti pertanyaan yang lebih berat seputar risiko, bias, dan etika dalam perilaku model besar yang sering kali tidak dapat dipahami," kata O'Neill.
