Artikel ini awalnya muncul atas nama Forbes Technology Council, sebuah komunitas untuk CIO, CTO, dan eksekutif teknologi kelas dunia. Baca pos asli di sini.

Menurut Survei CEO PwC yang dirilis akhir bulan lalu, 45% organisasi di Amerika Utara telah memperkenalkan inisiatif kecerdasan buatan (AI), dengan 37% lagi merencanakan untuk melakukannya dalam tiga tahun ke depan. Tidak mengherankan bahwa banyak CEO mengadopsi alat kecerdasan buatan mengingat manfaat yang dijanjikan. Sebagai seorang CEO yang bekerja dengan pemimpin senior di perusahaan yang tumbuh cepat untuk memberdayakan tim yang menghadapi pelanggan, saya mengamati adanya kesenjangan besar yang semakin melebar antara hype AI dan realitas AI. Tidak hanya itu, saya melihat dua kategori "AI gagal" — inisiatif yang tidak mendekati pencapaian hasil yang diharapkan. Ini biasanya melibatkan alat AI "Competent Jerk" dan alat AI "Lovable Fool".

Alat AI 'Competent Jerk'

Pada tahun 2014, tim pembelajaran mesin di Amazon membangun algoritma yang dirancang untuk mempercepat proses ulasan résumé dengan tujuan menghindari proses yang lambat dan mahal yang biasanya dilakukan oleh manusia. Sebuah komputer dapat menyaring ribuan résumé lebih cepat daripada perekrut yang paling terlatih sekalipun. Menggunakan AI dalam situasi ini seharusnya menjadi keputusan yang mudah — di atas kertas.

Namun, dalam waktu satu tahun, Amazon menyadari AI tidak berjalan seperti yang mereka harapkan. Dengan melatih AI berdasarkan pola perekrutan dan résumé yang dikirimkan selama dekade sebelumnya — yang cenderung sangat condong kepada pria — sistem memutuskan bahwa kandidat harus pria untuk dianggap sebagai kandidat teratas. Résumé yang mencakup kata “wanita” atau “wanita”, atau yang mencantumkan kandidat sebagai lulusan dari beberapa perguruan tinggi wanita, secara otomatis dirangking lebih rendah. Bahkan setelah penyesuaian manual pada algoritma untuk mencegah bias yang paling jelas, eksekutif Amazon akhirnya kehilangan kepercayaan dan menghentikan proyek tersebut.

Contoh ini adalah kesalahan berprofil tinggi dari jenis "competent jerk". Sementara alat perekrutan AI Amazon mungkin telah menjalankan tugasnya dengan setia, alat tersebut malah memperkuat bias manusia yang menghasilkan hasil yang tidak dapat diterima dalam pandangan apa pun. Amazon bukan satu-satunya korban dari proyek semacam itu, omong-omong. Saya mengenal puluhan perusahaan yang sedang menjalankan proyek AI saat ini dengan hasil yang sama mengecewakannya karena alat AI mereka adalah “competent jerks.”

Lebih buruk lagi, banyak dari inisiatif ini menghadapi pelanggan. Bayangkan sebuah alat AI “competent jerk” yang dilepaskan dalam sepuluh tahun tanggapan dari agen dukungan Anda terhadap pertanyaan dan tiket pelanggan. Jika alat tersebut mengoptimalkan untuk menjawab pertanyaan pelanggan secepat mungkin dan menyingkirkan mereka, ia akan sepenuhnya mengabaikan peluang untuk mendidik pelanggan Anda dan mungkin meningkatkan penjualan mereka. Ini juga akan mengabaikan emosi pelanggan dan mungkin mengarah pada lebih banyak pelanggan Anda yang pergi.

Ada banyak mode kegagalan lainnya di luar yang di atas. Apakah Anda bersedia mempertaruhkan pendapatan perusahaan Anda pada sekelompok alat AI “competent jerk”?

Alat AI 'Lovable Fool'

Meskipun “competent jerks” tidak tampak begitu hebat, alat AI “lovable fool” bisa jadi lebih buruk lagi. Dalam upaya untuk membuat chatbot terasa lebih manusiawi, banyak perusahaan telah berusaha memberikan "kepribadian" pada chatbot mereka. Sayangnya, usaha ini ada biayanya bagi efektivitas alat AI dan nilai yang diberikan kepada pelanggan. Di ujung ekstrem dari alat AI “lovable fool” adalah contoh dua bot terjebak dalam loop tak berujung yang saling membalas di Twitter. Ini adalah padanan modern dari dua idiot desa yang berteriak satu sama lain di alun-alun kota.

Contoh yang lebih realistis (namun sama-sama membuat frustrasi) adalah semakin banyaknya kali saya menghubungi nomor telepon dukungan pelanggan hanya untuk mendengar, “Halo! Semoga Anda memiliki hari yang menyenangkan! Silakan sebutkan dengan keras masalah yang Anda alami.” Dengan harapan, mengingat "kepribadian" bot yang menyenangkan, saya memenuhi dan berbicara ke telepon saya, hanya untuk mendapati bot salah memahami saya dan mengalihkan panggilan saya.

Contoh nyata dari ini adalah chatbot komersial Vodafone yang bernama TOBi, yang tampaknya dulunya mengarahkan pelanggan ke tim berduka ketika mereka melaporkan bahwa ponsel mereka “mati.” Meskipun ada rasa sedih yang kita semua rasakan ketika ponsel kesayangan kita pergi ke penyedia besar di langit, saya rasa tim berduka bukanlah tempat yang diinginkan oleh kebanyakan pelanggan.

Anda mungkin berpendapat bahwa bot-bot ini bukanlah “benar-benar AI,” dan saya akan setuju dengan Anda. Namun, dalam pengalaman saya, mereka tentu dipasarkan dengan cara itu kepada eksekutif senior di perusahaan di seluruh dunia yang ingin memastikan bahwa mereka tidak ketinggalan dalam gelombang inovasi besar berikutnya. Dan mengingat volume tinggi panggilan layanan pelanggan yang terjadi, ini adalah sekolah pelatihan yang hebat untuk generasi berikutnya dari alat AI “lovable fool.”

Cara yang Lebih Baik — Mungkin

Satu hal yang saya pelajari secara pribadi, berdasarkan cerita yang saya dengar dari pelanggan dan alat yang saya gunakan sebagai konsumen sendiri, adalah bahwa alat AI belum siap untuk menggantikan manusia. Kami melakukan begitu banyak hal dengan baik, dari memahami konteks dan emosi serta ungkapan sehari-hari hingga berkomunikasi secara efektif dan menyesuaikan diri dalam sekejap saat keadaan berubah.

Salah satu perusahaan yang sangat memahami hal ini adalah raksasa yang tenang di industri fintech, PrecisionLender. Teknologi AI-nya memungkinkan bank untuk menulis pinjaman yang paling optimal bagi pelanggan potensial. Pada saat yang sama, ia memberdayakan para bankir yang menulis pinjaman untuk memiliki hubungan yang lebih baik dan lebih informasi dengan klien mereka, dan untuk menjadi lebih berdasarkan data dan lebih manusiawi daripada pendekatan sebelumnya yang menekankan pada hasil biner, ya/tidak.

Bayangkan masa depan di mana Anda benar-benar belajar bagaimana menggunakan produk sebuah perusahaan dengan lebih baik setiap kali Anda menelepon hotline dukungan mereka. Kami pasti sudah dekat dengan masa depan ini. Lagipula, mengapa harus puas dengan seorang competent jerk atau lovable fool ketika Anda dapat memiliki sesuatu yang sama sekali berbeda: kemitraan yang benar-benar menguntungkan?