Ця стаття вперше з’явилася від імені Ради технологій Forbes, спільноти для світового рівня CIO, CTO та керівників у сфері технологій. Прочитайте оригінальний пост тут.

Згідно з Опитуванням CEO PwC, опублікованим наприкінці минулого місяця, 45% північноамериканських організацій впровадили ініціативи на основі штучного інтелекту (ШІ), а ще 37% планують зробити це в наступні три роки. Не дивно, що так багато CEO впроваджують інструменти штучного інтелекту з огляду на проголошені переваги. Як CEO, який працює з керівниками в швидко зростаючих підприємствах, щоб надати можливості їх командам, що працюють з клієнтами, я спостерігаю значну і зростаючу прірву між гучною рекламою ШІ та реальністю ШІ. Більше того, я бачу дві категорії «неудач ШІ» — ініціативи, які навіть близько не досягають очікуваних результатів. Це зазвичай стосується інструментів ШІ «Компетентний кретин» та «Милий дурник».

Інструмент ШІ 'Компетентний кретин'

У 2014 році команда машинного навчання Amazon створила алгоритм, призначений для прискорення процесу розгляду резюме з метою обійти традиційно повільний і дорогий процес, що здійснюється людьми. Комп’ютер може вишукувати тисячі резюме швидше, ніж навіть найдосвідченіший рекрутер, що читає швидко. Використання ШІ в цій ситуації було б хітовим — на папері.

Але через рік Amazon зрозуміла, що ШІ не працює так, як вони сподівалися. Навчання ШІ на основі моделей найму та резюме, надісланих за останні десять років — які, як правило, сильно переважали чоловічу стать — система вирішила, що кандидати повинні бути чоловіками, щоб вважатися кращими кандидатами. Резюме, в яких міститься слово «жінка» або «жінки», або в яких було вказано, що кандидати є випускниками жіночих коледжів, автоматично знижувалися в рейтингу. Навіть після ручних коригувань алгоритму, щоб запобігти найбільш очевидним упередженням, керівники Amazon зрештою втратили信任 і закрили проект.

Цей приклад є гарним прикладом помилки з категорії «компетентний кретин». Хоча інструмент для підбору кадрів від Amazon, можливо, вірно виконував свої обов’язки, він врешті-решт посилив упередження людей, що призвело до неприпустимого результату з будь-якої точки зору. До речі, Amazon — не єдиний жертва такого проекту. Я знаю десятки підприємств, які в даний час ведуть проекти ШІ з однаково розчаровуючими результатами, оскільки їхні інструменти ШІ — це «компетентні кретини».

Гірше того, багато з цих ініціатив зорієнтовані на клієнта. Уявіть собі інструмент «компетентний кретин», що запустили на десятирічний обсяг відповідей ваших агентів підтримки на запитання і квитки клієнтів. Якщо інструмент оптимізує процес відповідей на питання клієнтів якомога швидше і намагається позбутися їх, він зовсім ігноруватиме можливості навчити ваших клієнтів і, можливо, спробувати продати їм щось додатково. Він також ігноруватиме емоції клієнтів і, можливо, призведе до того, що ще більше ваших клієнтів відвалиться.

Існує багато інших способів невдач, крім вищезазначених. Чи готові ви поставити на кон дохід вашої компанії, довіряючи купі «компетентних кретинів» з ШІ?

Інструмент ШІ 'Милий дурник'

Хоча «компетентні кретини» не здаються такими вже чудовими, «милі дурники» можуть бути ще гіршими. З метою наближення чат-ботів до людської природи багато компаній вживають заходів, щоб надати своїм чат-ботам «персони». На жаль, ця спроба обертається втратою ефективності інструменту ШІ та цінності, яку він надає клієнтам. На крайньому краю інструментів ШІ «милі дурники» є цей приклад двох ботів, що застрягли в безкінечному циклі, що відповідають один одному у Twitter. Це сучасний еквівалент двох сільських ідіотів, які кричать один на одного на міській площі.

Більш реалістичний (хоча й однаково розчаровуючий) приклад — це зростаюча кількість разів, коли я телефонував на номер служби підтримки клієнтів, лише для того, щоб почути: «Привіт! Сподіваюся, у вас чудовий день! Будь ласка, скажіть вголос про проблему, з якою ви стикаєтеся. Сподіваюся, враховуючи приємну «персону» бота, я підкоряюся і говорю в телефон, лише щоб бот неправильно зрозумів мене і перенаправив мій дзвінок.

Реальний приклад цього — комерційний чат-бот Vodafone під назвою TOBi, який, як виявилося, раніше перенаправляв клієнтів до команди з помилок, коли вони повідомляли, що їхні телефони «мертві». Попри той відтінок суму, який ми всі відчуваємо, коли улюблений телефон іде в небесного постачальника, я не вірю, що команда з помилок — це те, куди більшість клієнтів хоче потрапити.

Ви можете стверджувати, що ці боти «насправді не є ШІ», і я б з вами погодився. Але, згідно з моїм досвідом, ними, безумовно, рекламують цей спосіб для старших менеджерів компаній по усьому світу, які прагнуть переконатися, що їм не вдасться пропустити чергову велику хвилю інновацій. І враховуючи великий обсяг дзвінків служби підтримки клієнтів, це чудове практичне поле для навчання наступного покоління інструментів ШІ «милі дурники».

Краще рішення — можливо

Один важливий висновок для мене особисто, виходячи з історій, які я чув від клієнтів, та інструментів, які я особисто використовую як споживач, — це те, що інструменти ШІ не готові замінити людей. Ми робимо багато речей добре, від розуміння контексту та емоцій до спілкування та миттєвої адаптації в момент змін обставин.

Одна компанія, яка дійсно це розуміє - це Silent Giant у фінансовій технології, PrecisionLender. Його технологія ШІ дозволяє банкам видавати оптимальніші кредити для потенційних клієнтів. Водночас вона надає можливості банкірам, які оформляють кредити, щоб мати більш обізнаний, кращий стосунок зі своїми клієнтами, і водночас вони стають більш орієнтованими на дані, і більш людьми, ніж попередній підхід, що підкреслював бінарний варіант, так/ні.

Уявіть собі майбутнє, де ви дійсно навчитеся краще використовувати продукти компанії щоразу, коли телефонуватим на гарячу лінію підтримки. Ми, безумовно, в межах досяжності цього майбутнього. Зрештою, чому задовольнятися компетентним кретином чи милим дурником, коли ви можете отримати зовсім інше: справжнє вигідне партнерство?