Este artículo apareció originalmente en nombre del Forbes Technology Council, una comunidad para CIOs, CTOs y ejecutivos de tecnología de clase mundial. Lee la publicación original aquí.

Según el Estudio de CEO de PwC publicado a finales del mes pasado, el 45% de las organizaciones de América del Norte han introducido iniciativas de inteligencia artificial (IA), y un 37% más planea hacerlo en los próximos tres años. No es sorprendente que tantos CEOs estén adoptando herramientas de inteligencia artificial, dadas las ventajas que se publicitan. Como CEO que trabaja con líderes senior en empresas de rápido crecimiento para empoderar a sus equipos de atención al cliente, estoy observando una gran y creciente brecha entre el bombo de la IA y la realidad de la IA. No solo eso, estoy viendo dos categorías de "fracasos de IA" — iniciativas que no logran lograr los resultados esperados. Estos típicamente involucran las herramientas de IA de "Cretino Competente" y las herramientas de IA de "Tonto Amable".

La herramienta de IA 'Cretino Competente'

En 2014, el equipo de aprendizaje automático de Amazon construyó un algoritmo diseñado para acelerar el proceso de revisión de currículums con el objetivo de eludir el proceso humano tradicionalmente lento y costoso. Una computadora puede filtrar miles de currículums más rápido que incluso el reclutador más experimentado en lectura veloz. Usar IA en esta situación fue un golpe seguro — sobre el papel.

Sin embargo, dentro de un año, Amazon se dio cuenta de que la IA no estaba funcionando como esperaban. Al entrenar la IA con los patrones de contratación y los currículums presentados durante la última década — que tendían a estar abrumadoramente sesgados hacia hombres — el sistema decidió que los candidatos debían ser hombres para ser considerados como los mejores candidatos. Los currículums que incluían la palabra “mujer” o “mujeres”, o que enumeraban a candidatos graduados de algunas universidades para mujeres, fueron automáticamente degradados. Incluso después de ajustes manuales al algoritmo para prevenir los sesgos más obvios, los ejecutivos de Amazon finalmente perdieron la fe y cerraron el proyecto.

Este ejemplo es un error de alto perfil del tipo 'cretino competente'. Mientras que la herramienta de reclutamiento IA de Amazon puede haber ejecutado sus funciones de manera fiel, terminó amplificando los sesgos de los seres humanos, lo que llevó a un resultado inaceptable desde cualquier punto de vista. Por cierto, Amazon no es la única víctima de un proyecto así. Conozco docenas de empresas que están ejecutando proyectos de IA en este momento con resultados igualmente decepcionantes porque sus herramientas de IA son "cretinos competentes".

Peor aún, muchas de estas iniciativas están orientadas al cliente. Imagina una herramienta de IA "cretino competente" liberada sobre una década de respuestas de tus agentes de soporte a preguntas y tickets de clientes. Si la herramienta se optimiza para responder preguntas de clientes lo más rápido posible y quitárselos de encima, ignorará por completo cualquier oportunidad de educar a tus clientes y posiblemente de venderles más. También ignorará las emociones de los clientes y quizás llevará a que más de tus clientes se vayan.

Hay muchos otros modos de fallo más allá de los anteriores. ¿Estás dispuesto a arriesgar los ingresos de tu empresa en un montón de herramientas de IA "cretinos competentes"?

La herramienta de IA 'Tonto Amable'

Aunque los "cretinos competentes" no parecen tan geniales, las herramientas de IA "tonto amable" pueden ser incluso peores. En un esfuerzo por hacer que los chatbots parezcan más humanos, muchas empresas han llevado a cabo esfuerzos para darles "personalidades" a sus chatbots. Desgraciadamente, este esfuerzo viene a un costo para la efectividad de la herramienta de IA y el valor que entrega a los clientes. En el extremo de las herramientas de IA "tonto amable" está este ejemplo de dos bots atrapados en un bucle infinito, respondiendo entre ellos en Twitter. Es el equivalente moderno de dos idiotas del pueblo gritándose el uno al otro en la plaza del pueblo.

Un ejemplo más realista (aunque igualmente frustrante) es el creciente número de veces que he llamado a un número de atención al cliente solo para escuchar: “¡Hola! ¡Espero que estés teniendo un gran día! Por favor, di en voz alta el problema que estás teniendo.” Esperando que, dado el “personaje” agradable del bot, yo acceda y hable en mi teléfono, solo para que el bot me malinterprete y redirija mi llamada.

Un ejemplo real de esto es el chatbot de comercio de Vodafone llamado TOBi, que aparentemente solía dirigir a los clientes al equipo de duelo cuando informaban que sus teléfonos estaban "muertos". A pesar del atisbo de tristeza que todos sentimos cuando un teléfono querido se va a la gran empresa proveedora en el cielo, no creo que el equipo de duelo sea a donde la mayoría de los clientes quieran ser dirigidos.

Puedes argumentar que estos bots no son "realmente IA", y estaría de acuerdo contigo. Sin embargo, en mi experiencia, ciertamente se están comercializando de esa manera ante ejecutivos senior en empresas de todo el mundo que quieren asegurarse de no perderse la próxima gran ola de innovación. Y dado el gran volumen de llamadas de servicio al cliente que se realizan, estos son grandes terrenos de entrenamiento para la próxima generación de herramientas de IA “tonto amable”.

Una mejor manera — Tal vez

Una lección para mí personalmente, basada en las historias que he escuchado de los clientes y las herramientas que personalmente uso como consumidor, es que las herramientas de IA no están listas para reemplazar a los seres humanos. Hacemos tantas cosas bien, desde entender el contexto, la emoción y el coloquialismo, hasta comunicarnos efectivamente y adaptarnos en un instante cuando las circunstancias cambian.

Una empresa que realmente entiende esto es un gigante silencioso en la industria fintech, PrecisionLender. Su tecnología de IA permite a los bancos otorgar el préstamo más óptimo para los clientes potenciales. Al mismo tiempo, empodera a los banqueros que otorgan los préstamos para tener relaciones más informadas y mejores con sus clientes, y ser simultáneamente más impulsados por datos y más humanos que el enfoque anterior que enfatizaba un resultado binario, sí/no.

Imagina un futuro en el que realmente aprendas a usar mejor los productos de una empresa cada vez que llames a su línea de soporte. Ciertamente estamos al alcance de este futuro. Después de todo, ¿por qué conformarse con un cretino competente o un tonto amable cuando puedes tener algo completamente diferente: una asociación verdaderamente beneficiosa?