Key Takeaways
- Perusahaan semakin banyak menggunakan AI yang menjelaskan bagaimana ia mendapatkan hasil.
- LinkedIn baru-baru ini meningkatkan pendapatan langganannya setelah menggunakan AI yang memperkirakan klien berisiko membatalkan dan menjelaskan bagaimana hal itu sampai pada kesimpulannya.
- Komisi Perdagangan Federal mengatakan bahwa AI yang tidak dapat dijelaskan dapat diselidiki.
Salah satu tren baru yang paling populer dalam perangkat lunak adalah kecerdasan buatan (AI) yang menjelaskan bagaimana ia mencapai hasilnya.
AI yang Dapat Dijelaskan membuahkan hasil karena perusahaan perangkat lunak mencoba membuat AI lebih mudah dipahami. LinkedIn baru-baru ini meningkatkan pendapatan langganannya setelah menggunakan AI yang memperkirakan klien berisiko membatalkan dan menjelaskan bagaimana hal itu sampai pada kesimpulannya.
"AI yang dapat dijelaskan adalah tentang kemampuan untuk memercayai output serta memahami bagaimana mesin sampai di sana," Travis Nixon, CEO SynerAI dan Kepala Ilmu Data, Layanan Keuangan di Microsoft, mengatakan kepada Lifewire dalam sebuah wawancara email.
"'Bagaimana?' adalah pertanyaan yang diajukan ke banyak sistem AI, terutama ketika keputusan dibuat atau keluaran yang dihasilkan tidak ideal," tambah Nixon. "Dari memperlakukan ras yang berbeda secara tidak adil hingga mengira kepala botak sebagai sepak bola, kita perlu tahu mengapa sistem AI menghasilkan hasil mereka. Setelah kita memahami 'bagaimana', itu memposisikan perusahaan dan individu untuk menjawab 'apa selanjutnya?'."
Mengenal AI
AI telah terbukti akurat dan membuat banyak jenis prediksi. Tapi AI seringkali mampu menjelaskan bagaimana kesimpulannya.
Dan regulator memperhatikan masalah penjelasan AI. Komisi Perdagangan Federal mengatakan bahwa AI yang tidak dapat dijelaskan dapat diselidiki. UE sedang mempertimbangkan pengesahan Undang-Undang Kecerdasan Buatan, yang mencakup persyaratan agar pengguna dapat menafsirkan prediksi AI.
Linkedin adalah salah satu perusahaan yang menganggap AI yang dapat dijelaskan dapat membantu meningkatkan keuntungan. Sebelumnya, tenaga penjualan LinkedIn mengandalkan pengetahuan mereka dan menghabiskan banyak waktu untuk memilah-milah data offline untuk mengidentifikasi akun mana yang kemungkinan akan terus melakukan bisnis dan produk apa yang mungkin mereka minati selama perpanjangan kontrak berikutnya. Untuk mengatasi masalah tersebut, LinkedIn memulai program bernama CrystalCandle yang melihat tren dan membantu tenaga penjualan.
Dalam contoh lain, Nixon mengatakan bahwa selama pembuatan model pengaturan kuota untuk tenaga penjualan perusahaan, perusahaannya dapat menggabungkan AI yang dapat dijelaskan untuk mengidentifikasi karakteristik apa yang ditunjukkan pada perekrutan penjualan baru yang sukses.
"Dengan keluaran ini, manajemen perusahaan ini dapat mengenali tenaga penjualan mana yang harus 'jalur cepat' dan mana yang membutuhkan pembinaan, semuanya sebelum masalah besar muncul," tambahnya.
Banyak Kegunaan untuk AI yang Dapat Dijelaskan
AI yang Dapat Dijelaskan saat ini digunakan sebagai pemeriksaan usus untuk sebagian besar ilmuwan data, kata Nixon. Para peneliti menjalankan model mereka melalui metode sederhana, memastikan tidak ada yang benar-benar rusak, lalu mengirimkan modelnya.
"Ini sebagian karena banyak organisasi ilmu data telah mengoptimalkan sistem mereka seputar 'time over value' sebagai KPI, yang mengarah ke proses yang terburu-buru dan model yang tidak lengkap," tambah Nixon.
Saya khawatir pukulan balik dari model yang tidak bertanggung jawab dapat mengembalikan industri AI secara serius.
Orang sering tidak yakin dengan hasil yang tidak dapat dijelaskan oleh AI. Raj Gupta, Chief Engineering Officer di Cogito, mengatakan dalam email bahwa perusahaannya telah mensurvei pelanggan dan menemukan bahwa hampir setengah dari konsumen (43%) akan memiliki persepsi yang lebih positif tentang perusahaan dan AI jika perusahaan lebih eksplisit tentang penggunaannya. dari teknologi.
Dan bukan hanya data keuangan yang mendapat bantuan dari AI yang dapat dijelaskan. Satu area yang diuntungkan dari pendekatan baru ini adalah data gambar, di mana mudah untuk menunjukkan bagian gambar mana yang dianggap penting oleh algoritme dan di mana mudah bagi manusia untuk mengetahui apakah informasi itu masuk akal, Samantha Kleinberg, seorang profesor di Stevens Institute of Technology dan pakar AI yang dapat dijelaskan, mengatakan kepada Lifewire melalui email.
"Jauh lebih sulit untuk melakukannya dengan EKG atau data monitor glukosa berkelanjutan," tambah Kleinberg.
Nixon memperkirakan bahwa AI yang dapat dijelaskan akan menjadi dasar dari setiap sistem AI di masa depan. Dan tanpa AI yang bisa dijelaskan, hasilnya bisa mengerikan, katanya.
"Saya harap kami maju cukup jauh untuk menerima AI yang dapat dijelaskan begitu saja di tahun-tahun mendatang dan bahwa kami melihat ke belakang pada saat itu hari ini terkejut bahwa ada orang yang cukup gila untuk menggunakan model yang tidak mereka pahami, " dia menambahkan."Jika kita tidak memenuhi masa depan dengan cara ini, saya khawatir pukulan balik dari model yang tidak bertanggung jawab dapat membuat industri AI kembali secara serius."
