本文章最初於《福布斯科技委員會》發表，這是一個為世界級的首席資訊官（CIO）、首席技術官（CTO）和技術高管所成立的社群。 閱讀原文 這裡。

根據上個月末發布的普華永道首席執行官調查，45%的北美組織引入了人工智慧（AI）計畫，還有37%計劃在接下來的三年內這樣做。 考慮到宣傳的好處，這麼多首席執行官採用人工智慧工具並不令人驚訝。 作為一名與快速增長企業的高層領導合作，賦能他們的客戶團隊的首席執行官，我觀察到人工智慧的炒作與實際結果之間存在著巨大的鴻溝。 不僅如此，我還看到了兩種類型的「AI 失敗」——那些未能接近預期結果的計畫。 這些通常涉及「能幹的混蛋」AI 工具和「可愛的傻瓜」AI 工具。

「能幹的混蛋」AI 工具

在2014年，亞馬遜的機器學習團隊建立了一個算法，旨在加速簡歷審核過程，以繞過傳統上緩慢且昂貴的人力過程。 電腦可以比那個最熟練、速讀的招聘者更快地篩選數千份簡歷。 在這種情況下使用人工智慧，在理論上是個完美的方案。

然而，一年內，亞馬遜意識到該AI並沒有按照他們的期望運作。 通過對過去十年中提交的招聘模式和簡歷進行AI訓練——這些數據往往偏向男性——系統決定候選人必須是男性才能被視為頂尖候選人。 簡歷中包含“女性”或“女人”，或列出候選人為某些女子學院畢業的情況，會被自動評分降低。 即使在手動調整算法以防止最明顯的偏見後，亞馬遜高管最終失去了信心，並終止了該專案。

這個例子是「能幹的混蛋」類型的高調錯誤。 雖然亞馬遜的AI招聘工具可能忠實地履行了其職責，但它最終加劇了人類的偏見，導致了任何想像中都無法接受的結果。 順帶一提，亞馬遜並不是唯一受到此類專案影響的受害者。 我知道數十家企業正在進行AI專案，因其AI工具是「能幹的混蛋」，結果同樣令人失望。

更糟的是，這些計畫中有很多是面向客戶的。 想像一下，一個「能幹的混蛋」AI工具釋放在過去十年中你的支持代理對客戶問題和票務的回答之上。 如果該工具優化以便儘快回答客戶問題並擺脫他們，它將完全忽視任何教育客戶的機會，甚至可能進行產品上銷。 它還會忽略客戶情緒，並可能導致更多客戶離開。

除了以上以外，還有許多其他失敗模式。 你願意把公司的收入押在一群「能幹的混蛋」AI工具上嗎？

「可愛的傻瓜」AI 工具

雖然「能幹的混蛋」似乎不那麼理想，但「可愛的傻瓜」AI工具甚至可能更糟。 為了使聊天機器人看起來更像人類，許多公司發起了努力，試圖給他們的聊天機器人賦予「個性」。 不幸的是，這一努力在AI工具的有效性和它為客戶提供的價值上是有代價的。 在「可愛的傻瓜」AI工具的極端情況下，是這個例子，兩個機器人在Twitter上互相回應並陷入無限循環。 這相當於現代版的兩個村莊白癡在城鎮廣場上互相叫罵。

一個更現實（且同樣令人沮喪）的例子是，我打了越來越多的客戶支持電話，只聽到“你好！ 希望你今天過得愉快！ 請大聲說出你遇到的問題。” 出於對機器人愉快的「個性」的期望，我遵從地對著電話講話，結果卻讓機器人誤解了我並轉接我的電話。

這的實際例子是Vodafone的商務聊天機器人，名為TOBi，當客戶報告他們的手機「死了」時，顯然會將客戶轉接到喪失團隊。 儘管我們都感到心痛，當一部心愛的手機走向天上的大供應商，但我不相信大多數客戶希望被轉接到喪失團隊。

你可能會爭辯這些機器人並不是「真正的AI」，而我會同意你的觀點。 然而，在我看來，他們的確這樣被向全球的高層主管們市場推廣，這些高層希望確保他們不會錯過下一波重大創新浪潮。 考慮到客戶服務電話的高頻率，這些是未來的「可愛的傻瓜」AI工具的良好訓練場。

更好的方法——或許

對我來說，根據我聽到的客戶故事和我作為消費者親自使用的工具，一個重點是AI 工具尚未準備好取代人類。 我們在許多方面都做得很好，從理解語境、情感和口語到有效地溝通，並在情況變化時能迅速調整。

其中一家公司在金融科技行業中默默地展現出色的表現，就是PrecisionLender。 它的人工智慧技術允許銀行為潛在客戶撰寫最優貸款。 同時，它使撰寫貸款的銀行家能夠與客戶建立更知情、更良好的關係，並能在數據驅動和人性化方面比之前更好，而不是強調二元的「是/否」結果的方式。

想像一個未來，你每次撥打他們的支持熱線時，都能更好地學習如何使用公司的產品。 我們無疑正邁向這個未來。 畢竟，為何要滿足於一個能幹的混蛋或可愛的傻瓜，當你可以擁有完全不同的東西：實實在在的互惠合作？