Is Your AI Tool A Competent Jerk Or A Lovable Fool?
Guru mede-oprichter en CEO Rick Nucci heeft een grote en toenemende kloof waargenomen tussen AI-hype en AI-reality, wat meestal leidt tot AI-falen. Deze mislukkingen hebben meestal betrekking op de 'Competente Eikel' AI-tools en de 'Liefdevolle Dwaas' AI-tools. Welke AI-oplossing heb je
Dit artikel verscheen oorspronkelijk namens de Forbes Technology Council, een gemeenschap voor wereldklasse CIO's, CTO's en technologie-executives. Lees de originele post hier.
Volgens de PwC CEO Survey die eind vorige maand werd uitgebracht, heeft 45% van de Noord-Amerikaanse organisaties kunstmatige intelligentie (AI) initiatieven geïntroduceerd, met nog eens 37% die van plan is dit in de komende drie jaar te doen. Het is niet verrassend dat zoveel CEO's kunstmatige intelligentie-tools aannemen gezien de geprezen voordelen. Als CEO die samenwerkt met senior leiders bij snelgroeiende ondernemingen om hun klantgerichte teams te empoweren, zie ik een grote en toenemende kloof tussen AI-hype en AI-reality. Niet alleen dat, ik zie twee categorieën van "AI faalt" - initiatieven die niet in de buurt komen van de verwachte resultaten. Deze hebben meestal betrekking op de “Competente Eikel” AI-tools en de “Liefdevolle Dwaas” AI-tools.
De 'Competente Eikel' AI Tool
In 2014 bouwde het machine learning team van Amazon een algoritme dat was ontworpen om het screenen van cv's te versnellen met als doel het traditioneel trage en kostbare door mensen aangedreven proces over te slaan. Een computer kan duizenden cv's sneller screenen dan zelfs de meest geoefende, snel lezende recruiter. Het gebruik van AI in deze situatie was een gemakkelijke keuze - op papier.
Echter, binnen een jaar realiseerde Amazon zich dat de AI niet werkte zoals ze hadden gehoopt. Door de AI te trainen op hiringpatronen en cv's die in het afgelopen decennium waren ingediend - die meestal overweldigend mannelijke kandidaten bevatten - besloot het systeem dat kandidaten mannelijk moesten zijn om als topkandidaten te worden beschouwd. Cv's die het woord “vrouw” of “vrouwen” bevatten, of die kandidaten vermeldden als afgestudeerden van bepaalde vrouwenopleidingen, werden automatisch inrangschikt. Zelfs na handmatige aanpassingen aan het algoritme om de meest voor de hand liggende vooroordelen te voorkomen, verloren de leidinggevenden van Amazon uiteindelijk het vertrouwen en stopten ze het project.
Dit voorbeeld is een hoog geprofileerde fout van het “competente eikel” soort. Hoewel de AI-recruitingtool van Amazon zijn taken mogelijk trouw uitvoerde, versterkte het uiteindelijk de vooroordelen van mensen, wat leidde tot een onaanvaardbaar resultaat volgens welke maatstaf dan ook. Amazon is trouwens niet het enige slachtoffer van een dergelijk project. Ik ken tientallen ondernemingen die momenteel AI-projecten draaien met resultaten die even teleurstellend zijn omdat hun AI-tools “competente eikels” zijn.
Erger nog, veel van deze initiatieven zijn klantgericht. Stel je voor dat een “competente eikel” AI-tool losgelaten wordt op een decennium aan reacties van je ondersteuningsagenten op klantvragen en tickets. Als de tool optimaliseert voor het zo snel mogelijk beantwoorden van klantvragen en ervoor zorgt dat ze van je af komen, zal het volledig alle kansen negeren om je klanten op te leiden en hen misschien meer te verkopen. Het zal ook de emoties van klanten negeren en kan ertoe leiden dat meer van je klanten vertrekken.
Er zijn veel andere faalmodes naast de hierboven genoemde. Ben je bereid om de omzet van je bedrijf te riskeren op een stel “competente eikels” AI-tools?
De 'Liefdevolle Dwaas' AI Tool
Hoewel “competente eikels” er niet geweldig uitzien, kunnen “liefdevolle dwazen” AI-tools nog erger zijn. In een poging om chatbots menselijker te laten lijken, hebben veel bedrijven inspanningen geleverd om hun chatbots “persoonlijkheden” te geven. Helaas komt deze inspanning met een kosten voor de effectiviteit van de AI-tool en de waarde die deze aan klanten levert. Aan het extreme einde van de “liefdevolle dwaas” AI-tools is dit voorbeeld van twee bots vast in een oneindige lus die elkaar op Twitter beantwoorden. Het is de moderne tegenhanger van de twee dorpsidioten die tegen elkaar schreeuwen op het dorpsplein.
Een realistischer (maar even frustrerend) voorbeeld is het toenemende aantal keer dat ik een klantenservice telefoonnummer heb gebeld en alleen maar hoorde: “Hallo daar! Hopelijk heb je een geweldige dag! Zeg alstublieft hardop het probleem dat je hebt.” Hoopvol gezien de aangename “persoonlijkheid” van de bot, geef ik gevolg en spreek ik in mijn telefoon, alleen om de bot te laten begrijpen dat ik niet geaccepteerd wordt en mijn oproep om te leiden.
Een voorbeeld uit het echte leven hiervan is Vodafone’s commerce chatbot genaamd TOBi, die blijkbaar klanten naar het team voor rouwverwerking leidde wanneer ze meldden dat hun telefoons “dood” waren. Ondanks de steek van verdriet die we allemaal voelen wanneer een geliefde telefoon zijn weg vindt naar de grote leverancier in de lucht, geloof ik niet dat het team voor rouwverwerking is waar de meeste klanten willen worden geleid.
Je zou kunnen beweren dat deze bots niet “echt AI” zijn, en ik zou het met je eens zijn. Echter, in mijn ervaring worden ze zeker zo gemarkeerd aan senior executives in bedrijven over de hele wereld die ervoor willen zorgen dat ze de boot van de volgende grote innovatiegolf niet missen. En gezien het hoge volume van klantendienstoproepen die plaatsvinden, zijn deze geweldige leergangen voor de volgende generatie “liefdevolle dwaze” AI-tools.
Een Betere Manier — Misschien
Een les voor mij persoonlijk, gebaseerd op de verhalen die ik heb gehoord van klanten en de tools die ik persoonlijk gebruik als consument, is dat AI-tools nog niet klaar zijn om menselijke wezens te vervangen. We doen zoveel goed, van het begrijpen van context en emotie en colloquialisme tot effectief communiceren en ons aanpassen op het moment dat de omstandigheden veranderen.
Een bedrijf dat dit echt begrijpt is een stille gigant in de fintech-industrie, PrecisionLender. De AI-technologie stelt banken in staat om de meest optimale lening voor potentiële klanten te schrijven. Tegelijkertijd stelt het banken die de leningen schrijven in staat om beter geïnformeerde, betere relaties met hun klanten te hebben en tegelijkertijd meer datagestuurd en meer menselijk te zijn dan de eerdere benadering die de nadruk legde op een binaire, ja/nee uitkomst.
Stel je een toekomstige situatie voor waarin je elke keer dat je hun ondersteuningshotline belt, leert hoe je de producten van een bedrijf beter kunt gebruiken. We zijn zeker binnen handbereik van deze toekomst. Waarom zouden we ons tevreden moeten stellen met een competente eikel of een liefdevolle dwaas als we iets heel anders kunnen hebben: een werkelijk voordelige samenwerking?
Dit artikel verscheen oorspronkelijk namens de Forbes Technology Council, een gemeenschap voor wereldklasse CIO's, CTO's en technologie-executives. Lees de originele post hier.
Volgens de PwC CEO Survey die eind vorige maand werd uitgebracht, heeft 45% van de Noord-Amerikaanse organisaties kunstmatige intelligentie (AI) initiatieven geïntroduceerd, met nog eens 37% die van plan is dit in de komende drie jaar te doen. Het is niet verrassend dat zoveel CEO's kunstmatige intelligentie-tools aannemen gezien de geprezen voordelen. Als CEO die samenwerkt met senior leiders bij snelgroeiende ondernemingen om hun klantgerichte teams te empoweren, zie ik een grote en toenemende kloof tussen AI-hype en AI-reality. Niet alleen dat, ik zie twee categorieën van "AI faalt" - initiatieven die niet in de buurt komen van de verwachte resultaten. Deze hebben meestal betrekking op de “Competente Eikel” AI-tools en de “Liefdevolle Dwaas” AI-tools.
De 'Competente Eikel' AI Tool
In 2014 bouwde het machine learning team van Amazon een algoritme dat was ontworpen om het screenen van cv's te versnellen met als doel het traditioneel trage en kostbare door mensen aangedreven proces over te slaan. Een computer kan duizenden cv's sneller screenen dan zelfs de meest geoefende, snel lezende recruiter. Het gebruik van AI in deze situatie was een gemakkelijke keuze - op papier.
Echter, binnen een jaar realiseerde Amazon zich dat de AI niet werkte zoals ze hadden gehoopt. Door de AI te trainen op hiringpatronen en cv's die in het afgelopen decennium waren ingediend - die meestal overweldigend mannelijke kandidaten bevatten - besloot het systeem dat kandidaten mannelijk moesten zijn om als topkandidaten te worden beschouwd. Cv's die het woord “vrouw” of “vrouwen” bevatten, of die kandidaten vermeldden als afgestudeerden van bepaalde vrouwenopleidingen, werden automatisch inrangschikt. Zelfs na handmatige aanpassingen aan het algoritme om de meest voor de hand liggende vooroordelen te voorkomen, verloren de leidinggevenden van Amazon uiteindelijk het vertrouwen en stopten ze het project.
Dit voorbeeld is een hoog geprofileerde fout van het “competente eikel” soort. Hoewel de AI-recruitingtool van Amazon zijn taken mogelijk trouw uitvoerde, versterkte het uiteindelijk de vooroordelen van mensen, wat leidde tot een onaanvaardbaar resultaat volgens welke maatstaf dan ook. Amazon is trouwens niet het enige slachtoffer van een dergelijk project. Ik ken tientallen ondernemingen die momenteel AI-projecten draaien met resultaten die even teleurstellend zijn omdat hun AI-tools “competente eikels” zijn.
Erger nog, veel van deze initiatieven zijn klantgericht. Stel je voor dat een “competente eikel” AI-tool losgelaten wordt op een decennium aan reacties van je ondersteuningsagenten op klantvragen en tickets. Als de tool optimaliseert voor het zo snel mogelijk beantwoorden van klantvragen en ervoor zorgt dat ze van je af komen, zal het volledig alle kansen negeren om je klanten op te leiden en hen misschien meer te verkopen. Het zal ook de emoties van klanten negeren en kan ertoe leiden dat meer van je klanten vertrekken.
Er zijn veel andere faalmodes naast de hierboven genoemde. Ben je bereid om de omzet van je bedrijf te riskeren op een stel “competente eikels” AI-tools?
De 'Liefdevolle Dwaas' AI Tool
Hoewel “competente eikels” er niet geweldig uitzien, kunnen “liefdevolle dwazen” AI-tools nog erger zijn. In een poging om chatbots menselijker te laten lijken, hebben veel bedrijven inspanningen geleverd om hun chatbots “persoonlijkheden” te geven. Helaas komt deze inspanning met een kosten voor de effectiviteit van de AI-tool en de waarde die deze aan klanten levert. Aan het extreme einde van de “liefdevolle dwaas” AI-tools is dit voorbeeld van twee bots vast in een oneindige lus die elkaar op Twitter beantwoorden. Het is de moderne tegenhanger van de twee dorpsidioten die tegen elkaar schreeuwen op het dorpsplein.
Een realistischer (maar even frustrerend) voorbeeld is het toenemende aantal keer dat ik een klantenservice telefoonnummer heb gebeld en alleen maar hoorde: “Hallo daar! Hopelijk heb je een geweldige dag! Zeg alstublieft hardop het probleem dat je hebt.” Hoopvol gezien de aangename “persoonlijkheid” van de bot, geef ik gevolg en spreek ik in mijn telefoon, alleen om de bot te laten begrijpen dat ik niet geaccepteerd wordt en mijn oproep om te leiden.
Een voorbeeld uit het echte leven hiervan is Vodafone’s commerce chatbot genaamd TOBi, die blijkbaar klanten naar het team voor rouwverwerking leidde wanneer ze meldden dat hun telefoons “dood” waren. Ondanks de steek van verdriet die we allemaal voelen wanneer een geliefde telefoon zijn weg vindt naar de grote leverancier in de lucht, geloof ik niet dat het team voor rouwverwerking is waar de meeste klanten willen worden geleid.
Je zou kunnen beweren dat deze bots niet “echt AI” zijn, en ik zou het met je eens zijn. Echter, in mijn ervaring worden ze zeker zo gemarkeerd aan senior executives in bedrijven over de hele wereld die ervoor willen zorgen dat ze de boot van de volgende grote innovatiegolf niet missen. En gezien het hoge volume van klantendienstoproepen die plaatsvinden, zijn deze geweldige leergangen voor de volgende generatie “liefdevolle dwaze” AI-tools.
Een Betere Manier — Misschien
Een les voor mij persoonlijk, gebaseerd op de verhalen die ik heb gehoord van klanten en de tools die ik persoonlijk gebruik als consument, is dat AI-tools nog niet klaar zijn om menselijke wezens te vervangen. We doen zoveel goed, van het begrijpen van context en emotie en colloquialisme tot effectief communiceren en ons aanpassen op het moment dat de omstandigheden veranderen.
Een bedrijf dat dit echt begrijpt is een stille gigant in de fintech-industrie, PrecisionLender. De AI-technologie stelt banken in staat om de meest optimale lening voor potentiële klanten te schrijven. Tegelijkertijd stelt het banken die de leningen schrijven in staat om beter geïnformeerde, betere relaties met hun klanten te hebben en tegelijkertijd meer datagestuurd en meer menselijk te zijn dan de eerdere benadering die de nadruk legde op een binaire, ja/nee uitkomst.
Stel je een toekomstige situatie voor waarin je elke keer dat je hun ondersteuningshotline belt, leert hoe je de producten van een bedrijf beter kunt gebruiken. We zijn zeker binnen handbereik van deze toekomst. Waarom zouden we ons tevreden moeten stellen met een competente eikel of een liefdevolle dwaas als we iets heel anders kunnen hebben: een werkelijk voordelige samenwerking?
Ervaar de kracht van het Guru-platform uit de eerste hand - maak onze interactieve producttour
