Is Your AI Tool A Competent Jerk Or A Lovable Fool?
Соучредитель и генеральный директор Guru Рик Нуччи наблюдал большую и растущую пропасть между хайпом о ИИ и реальностью ИИ, что, как правило, приводит к провалам ИИ. Эти провалы, как правило, связаны с инструментами ИИ «Компетентный придурок» и «Любимый дурак». Какое решение ИИ вы выбираете
Эта статья первоначально появилась от имени Совета по технологиям Forbes, сообщества для выдающихся CIO, CTO и технологических руководителей. Прочитайте оригинальную публикацию здесь.
Согласноопросу CEO PwC, опубликованному в конце прошлого месяца, 45% организаций Северной Америки внедрили инициативы по искусственному интеллекту (ИИ), 37% планируют сделать это в течение следующих трех лет. Неудивительно, что так много генеральных директоров принимают инструменты искусственного интеллекта, учитывая заявленные преимущества. Как генеральный директор, работающий с высшими руководителями быстрорастущих предприятий, чтобы наделить их команды, ориентированные на клиентов, я наблюдаю большую и растущую пропасть между хайпом по ИИ и реальностью ИИ. Более того, я вижу две категории «провалов ИИ» — инициативы, которые даже близко не достигают ожидаемых результатов. Typically это «инструменты ИИ» «Компетентный придурок» и «Инструменты ИИ» «Любимый дурак».
Инструмент ИИ «Компетентный придурок»
В 2014 году команда по машинному обучению в Amazon создала алгоритм, призванный ускорить процесс просмотра резюме с целью обхода традиционно медленного и дорогостоящего процесса, управляемого людьми. Компьютер может просмотреть тысячи резюме быстрее, чем самый опытный рекрутер. Использование ИИ в данной ситуации было беспроигрышным — на бумаге.
Тем не менее, через год Amazon осознала, что ИИ не работал так, как они надеялись. Обучая ИИ на результатах найма и резюме, представленных за последнее десятилетие — которые, как правило, были значительно более мужскими — система пришла к выводу, что кандидаты должны быть мужчинами, чтобы считаться потенциальными топ-кандидатами. Резюме, в которых содержалось слово «женщина» или «женщины», или в которых кандидаты были указаны как выпускники некоторых женских колледжей, автоматически снижались в рейтинге. Даже после ручных корректировок алгоритма, чтобы предотвратить наиболее явные предвзятости, руководители Amazon в конечном итоге потеряли веру и закрыли проект.
Этот пример является широко известной ошибкой «компетентного придурка». Хотя инструмент рекрутинга ИИ от Amazon может выполнять свои функции с точностью, он в конечном итоге усиливает предвзятости человеческой природы, что приводит к неприемлемому результату в любом случае. Amazon не единственная жертва такого проекта, кстати. Я знаю десятки компаний, которые сейчас реализуют проекты ИИ, результаты которых также разочаровывают, потому что их инструменты ИИ «компетентные придурки».
Хуже того, многие из этих инициатив ориентированы на клиентов. Представьте себе инструмент ИИ «компетентный придурок», запущенный на десяток ответов ваших агентов поддержки на вопросы и заявки клиентов. Если инструмент оптимизирует ответ на вопросы клиентов как можно быстрее и избавляется от них, он полностью проигнорирует любые возможности научить ваших клиентов и, возможно, продать им. Он также проигнорирует эмоции клиентов и, возможно, приведет к тому, что больше ваших клиентов уйдут.
Существует множество других режимов провала помимо вышеуказанных. Готовы ли вы поставить доход своей компании на своеобразных «инструментах ИИ «компетентный придурок»?
Инструмент ИИ «Любимый дурак»
Хотя «компетентные придурки» не кажутся такими уж и хорошими, «инструменты ИИ «любимые дураки» могут быть еще хуже. В попытке сделать чат-ботов более человечными многие компании предприняли шаги, чтобы наделить своих чат-ботов «характером». К сожалению, эта попытка приводит к снижению эффективности инструмента ИИ и ценности, которую он предоставляет клиентам. На крайнем конце «инструментов ИИ «любимый дурак» приведен пример двух ботов, застрявших в бесконечном цикле, отвечающих друг другу в Twitter. Это современный эквивалент двух деревенских идиотов, кричащих друг на друга на площади.
Более реалистичный (хотя и одинаково разочаровывающий) пример — это увеличивающееся число раз, когда я звонил на номер службы поддержки клиентов, только чтобы услышать: «Привет, как дела! Надеюсь, у вас отличный день! Пожалуйста, скажите вслух о проблеме, с которой вы столкнулись.” С надеждой, учитывая приятную «личность» бота, я выполняю и говорю в телефон, только чтобы бот неправильно понял меня и перенаправил мой звонок.
Реальный пример этого — коммерческий чат-бот Vodafone по имени TOBi, который, как выясняется, перенаправлял клиентов в отдел по вопросам потери близких, когда они сообщали, что их телефоны «мертвы». Несмотря на грусть, которую мы все испытываем, когда любимый телефон отправляется к великому провайдеру на небе, я не верю, что отдел по вопросам потери близких — это то, куда хотят быть перенаправлены большинство клиентов.
Вы можете сказать, что эти боты «на самом деле не являются ИИ», и я бы согласился с вами. Тем не менее, по моему опыту, они определенно продвигаются таким образом среди высших руководителей компаний по всему миру, которые хотят убедиться, что не упустят следующий большой рывок в инновациях. И учитывая высокий объем звонков в службу поддержки клиентов, это отличные тренировочные базы для следующего поколения «любимых дураков» ИИ.
Лучший способ — возможно
Одним из выводов для меня, основываясь на историях, которые я слышал от клиентов и инструментах, которые я сам использую как потребитель, является то, что инструменты ИИ не готовы заменить людей. Мы хорошо справляемся со многими вещами, от понимания контекста, эмоций и разговорного языка до эффективного общения и быстрого изменения, когда обстоятельства меняются.
Одна компания, которая действительно это понимает, является тихим гигантом в индустрии финансовых технологий, PrecisionLender. Ее технологии ИИ позволяют банкам составлять наилучший кредит для потенциальных клиентов. В то же время она позволяет банкирам, которые оформляют кредиты, иметь более информированные, качественные отношения с клиентами и одновременно быть более ориентированными на данные и более человечными, чем предыдущий подход, отмечающий бинарный, да/нет результат.
Представьте себе будущее, где вы действительно учитесь использовать продукты компании лучше каждый раз, когда вы звоните на их горячую линию поддержки. Мы, безусловно, находимся на расстоянии вытянутой руки от этого будущего. В конце концов, зачем довольствоваться компетентным придурком или любимым дураком, когда вы можете получить что-то совершенно другое: поистине выгодное партнерство?
Эта статья первоначально появилась от имени Совета по технологиям Forbes, сообщества для выдающихся CIO, CTO и технологических руководителей. Прочитайте оригинальную публикацию здесь.
Согласноопросу CEO PwC, опубликованному в конце прошлого месяца, 45% организаций Северной Америки внедрили инициативы по искусственному интеллекту (ИИ), 37% планируют сделать это в течение следующих трех лет. Неудивительно, что так много генеральных директоров принимают инструменты искусственного интеллекта, учитывая заявленные преимущества. Как генеральный директор, работающий с высшими руководителями быстрорастущих предприятий, чтобы наделить их команды, ориентированные на клиентов, я наблюдаю большую и растущую пропасть между хайпом по ИИ и реальностью ИИ. Более того, я вижу две категории «провалов ИИ» — инициативы, которые даже близко не достигают ожидаемых результатов. Typically это «инструменты ИИ» «Компетентный придурок» и «Инструменты ИИ» «Любимый дурак».
Инструмент ИИ «Компетентный придурок»
В 2014 году команда по машинному обучению в Amazon создала алгоритм, призванный ускорить процесс просмотра резюме с целью обхода традиционно медленного и дорогостоящего процесса, управляемого людьми. Компьютер может просмотреть тысячи резюме быстрее, чем самый опытный рекрутер. Использование ИИ в данной ситуации было беспроигрышным — на бумаге.
Тем не менее, через год Amazon осознала, что ИИ не работал так, как они надеялись. Обучая ИИ на результатах найма и резюме, представленных за последнее десятилетие — которые, как правило, были значительно более мужскими — система пришла к выводу, что кандидаты должны быть мужчинами, чтобы считаться потенциальными топ-кандидатами. Резюме, в которых содержалось слово «женщина» или «женщины», или в которых кандидаты были указаны как выпускники некоторых женских колледжей, автоматически снижались в рейтинге. Даже после ручных корректировок алгоритма, чтобы предотвратить наиболее явные предвзятости, руководители Amazon в конечном итоге потеряли веру и закрыли проект.
Этот пример является широко известной ошибкой «компетентного придурка». Хотя инструмент рекрутинга ИИ от Amazon может выполнять свои функции с точностью, он в конечном итоге усиливает предвзятости человеческой природы, что приводит к неприемлемому результату в любом случае. Amazon не единственная жертва такого проекта, кстати. Я знаю десятки компаний, которые сейчас реализуют проекты ИИ, результаты которых также разочаровывают, потому что их инструменты ИИ «компетентные придурки».
Хуже того, многие из этих инициатив ориентированы на клиентов. Представьте себе инструмент ИИ «компетентный придурок», запущенный на десяток ответов ваших агентов поддержки на вопросы и заявки клиентов. Если инструмент оптимизирует ответ на вопросы клиентов как можно быстрее и избавляется от них, он полностью проигнорирует любые возможности научить ваших клиентов и, возможно, продать им. Он также проигнорирует эмоции клиентов и, возможно, приведет к тому, что больше ваших клиентов уйдут.
Существует множество других режимов провала помимо вышеуказанных. Готовы ли вы поставить доход своей компании на своеобразных «инструментах ИИ «компетентный придурок»?
Инструмент ИИ «Любимый дурак»
Хотя «компетентные придурки» не кажутся такими уж и хорошими, «инструменты ИИ «любимые дураки» могут быть еще хуже. В попытке сделать чат-ботов более человечными многие компании предприняли шаги, чтобы наделить своих чат-ботов «характером». К сожалению, эта попытка приводит к снижению эффективности инструмента ИИ и ценности, которую он предоставляет клиентам. На крайнем конце «инструментов ИИ «любимый дурак» приведен пример двух ботов, застрявших в бесконечном цикле, отвечающих друг другу в Twitter. Это современный эквивалент двух деревенских идиотов, кричащих друг на друга на площади.
Более реалистичный (хотя и одинаково разочаровывающий) пример — это увеличивающееся число раз, когда я звонил на номер службы поддержки клиентов, только чтобы услышать: «Привет, как дела! Надеюсь, у вас отличный день! Пожалуйста, скажите вслух о проблеме, с которой вы столкнулись.” С надеждой, учитывая приятную «личность» бота, я выполняю и говорю в телефон, только чтобы бот неправильно понял меня и перенаправил мой звонок.
Реальный пример этого — коммерческий чат-бот Vodafone по имени TOBi, который, как выясняется, перенаправлял клиентов в отдел по вопросам потери близких, когда они сообщали, что их телефоны «мертвы». Несмотря на грусть, которую мы все испытываем, когда любимый телефон отправляется к великому провайдеру на небе, я не верю, что отдел по вопросам потери близких — это то, куда хотят быть перенаправлены большинство клиентов.
Вы можете сказать, что эти боты «на самом деле не являются ИИ», и я бы согласился с вами. Тем не менее, по моему опыту, они определенно продвигаются таким образом среди высших руководителей компаний по всему миру, которые хотят убедиться, что не упустят следующий большой рывок в инновациях. И учитывая высокий объем звонков в службу поддержки клиентов, это отличные тренировочные базы для следующего поколения «любимых дураков» ИИ.
Лучший способ — возможно
Одним из выводов для меня, основываясь на историях, которые я слышал от клиентов и инструментах, которые я сам использую как потребитель, является то, что инструменты ИИ не готовы заменить людей. Мы хорошо справляемся со многими вещами, от понимания контекста, эмоций и разговорного языка до эффективного общения и быстрого изменения, когда обстоятельства меняются.
Одна компания, которая действительно это понимает, является тихим гигантом в индустрии финансовых технологий, PrecisionLender. Ее технологии ИИ позволяют банкам составлять наилучший кредит для потенциальных клиентов. В то же время она позволяет банкирам, которые оформляют кредиты, иметь более информированные, качественные отношения с клиентами и одновременно быть более ориентированными на данные и более человечными, чем предыдущий подход, отмечающий бинарный, да/нет результат.
Представьте себе будущее, где вы действительно учитесь использовать продукты компании лучше каждый раз, когда вы звоните на их горячую линию поддержки. Мы, безусловно, находимся на расстоянии вытянутой руки от этого будущего. В конце концов, зачем довольствоваться компетентным придурком или любимым дураком, когда вы можете получить что-то совершенно другое: поистине выгодное партнерство?
Опробуйте мощь платформы Гуру на практике - пройдите интерактивный тур по нашему продукту
