この記事は元々、世界トップクラスのCIO、CTO、テクノロジーエグゼクティブのコミュニティであるフォーブステクノロジーカウンシルを代表して発表されました。 元の記事を読む こちら。

先月末に発表されたPwC CEOサーベイによると、北米の組織の45%が人工知能(AI)の取り組みを開始しており、さらなる37%が今後3年間でこれを計画しています。 このように多くのCEOが人工知能ツールを採用しているのは驚くことではありません。 急成長する企業で顧客対応チームを強化するためにシニアリーダーと連携しているCEOとして、私はAIの誇張と実際との間に大きく広がるギャップを目の当たりにしています。 さらに、私は「能力のある嫌なやつ」に該当するAIツールと「愛すべき愚か者」に該当するAIツールの二つのカテゴリーの「AIの失敗」を見ています。 これらは通常、「能力のある嫌なやつ」AIツールと「愛すべき愚か者」AIツールを含みます。

「能力のある嫌なやつ」AIツール

2014年、アマゾンの機械学習チームは、履歴書のレビュープロセスを加速させることを目的としたアルゴリズムを構築しました。 コンピュータは、最も熟練したスピードリーディングのリクルーターよりも速く、数千の履歴書をスクリーニングできます。 この状況でAIを利用することは、紙の上では確実な勝利でした。

しかし、その1年以内にアマゾンはAIが期待通りに機能していないことに気づきました。 過去10年間にわたって提出された採用パターンと履歴書によってAIを訓練した結果、そのシステムは、候補者がトップ候補とみなされるためには男性でなければならないと判断しました。 「女性」または「女性」という言葉が含まれている履歴書、または候補者がいくつかの女性大学の卒業生であると記載された履歴書は、自動的に順位が下げられました。 最も明らかな偏見を防ぐためにアルゴリズムに手動で調整を加えた後も、アマゾンの幹部は最終的に信頼を失い、プロジェクトを終了しました。

この例は、「能力のある嫌なやつ」タイプの高プロファイルな失敗です。 アマゾンのAIリクルーティングツールはその職務を忠実に実行したかもしれませんが、結局は人間の偏見を増幅させ、想像以上に受け入れがたい結果をもたらしました。 ちなみに、アマゾンだけがこのようなプロジェクトの被害者ではありません。 私は今、数十の企業がAIプロジェクトを進行中で、その結果は同様に失望的であることを知っています。なぜなら、彼らのAIツールは「能力のある嫌なやつ」だからです。

さらに悪いことに、これらの取り組みの多くは顧客対応しています。 あなたのサポートエージェントが顧客の質問やチケットに対して10年間の回答を活用した「能力のある嫌なやつ」AIツールを想像してみてください。 このツールが顧客の質問にできるだけ早く答えることに最適化されると、顧客を教育したり、アップセルする機会を完全に無視します。 また、顧客の感情を無視し、顧客が離れてしまう結果を招く可能性があります。

上記の他にも多くの失敗モードがあります。 「能力のある嫌なやつ」AIツールにあなたの会社の収益を賭けるつもりですか？

「愛すべき愚か者」AIツール

「能力のある嫌なやつ」はそんなに良さそうではありませんが、「愛すべき愚か者」AIツールはさらに悪化する可能性があります。 チャットボットをより人間らしく見せる努力として、多くの企業がチャットボットに「個性」を与える取り組みを行っています。 残念ながら、この取り組みはAIツールの効果と顧客に提供する価値に対してコストがかかります。 「愛すべき愚か者」AIツールの極端な例は、互いに無限ループに陥った二つのボットがTwitterで互いに応答しています。 それは、町の広場で互いに叫ぶ二人の村の愚か者の現代版に相当します。

より現実的（しかし同様に苛立たしい）な例は、顧客サポートの電話番号に何度も電話した私の経験です。ついに、「こんにちは！ 素晴らしい日をお過ごしですか！ お困りの問題を声に出してお話しください。」 ボットの心地よい「個性」を考慮し、私は従って電話に話しかけますが、ボットは私を誤って理解し、私の電話を別の部門に転送します。

この実例は、ボーダフォンの商業チャットボットTOBiの例です。このボットは、顧客が「死んだ」と報告した際、故人チームにルートをするばかりでした。 最愛の電話が空の大手プロバイダーに旅立つとき、私たち全員が感じる悲しみはありますが、私は故人チームが大多数の顧客が希望するルートであるとは思いません。

これらのボットが「本当のAI」ではないと主張するかもしれませんが、私はあなたに同意します。 しかし、私の経験では、これらのボットは、世界中の会社のシニアエグゼクティブに次の大きなイノベーションの波を見逃さないようにしたいと宣伝されています。 さらに、顧客サービスの電話の高いボリュームを考慮すると、これらは次世代の「愛すべき愚か者」AIツールのための素晴らしいトレーニングの場となります。

より良い方法—おそらく

私にとっての一つの教訓は、顧客からの話や、私自身が消費者として使用しているツールに基づいて、AIツールは人間を置き換える準備が整っていないということです。 私たちは、文脈や感情、口語表現を理解する、効果的にコミュニケーションを行う、そして状況が変わったときに即座に調整するなど、多くのことを上手にこなします。

このことを真に理解しているのは、フィンテック業界の大手であるPrecisionLenderです。 そのAI技術は、銀行が潜在的な顧客に対して最も最適なローンを作成することを可能にします。 同時に、ローンを作成するバンカーが顧客とのより有益で良好な関係を保ち、データに基づいた判断を行いながらも、かつ人間らしさを兼ね備えた関係を築く助けになります。

企業の製品をより良く使う方法を毎回サポートホットラインに電話するたびに学ぶ未来を想像してみてください。 私たちは確かにその未来に手が届くところにいます。 結局、能力のある嫌なやつや愛すべき愚か者に妥協する理由はありません。真に有益なパートナーシップを得ることができるからです。