Is Your AI Tool A Competent Jerk Or A Lovable Fool?
Współzałożyciel i CEO Guru, Rick Nucci, zaobserwował dużą i rosnącą różnicę między hype'em AI a rzeczywistością AI, co zwykle prowadzi do porażek AI. Porażki te zazwyczaj dotyczą narzędzi AI 'Kompetentny Dupek' i narzędzi AI 'Uroczy Głupiec'. Które rozwiązanie AI wybierzesz?
Ten artykuł pierwotnie ukazał się w imieniu Forbes Technology Council, społeczności dla klasowych CIO, CTO i menedżerów technologii. Przeczytaj oryginalny post tutaj.
Zgodnie z Ankieta PwC CEO opublikowaną pod koniec zeszłego miesiąca, 45% organizacji w Ameryce Północnej wprowadziło inicjatywy związane ze sztuczną inteligencją (AI), a kolejne 37% planuje to zrobić w ciągu najbliższych trzech lat. Nie jest zaskoczeniem, że tak wielu dyrektorów generalnych przyjmuje narzędzia sztucznej inteligencji, biorąc pod uwagę obiecane korzyści. Jako dyrektor generalny, który współpracuje z seniorami w szybko rozwijających się przedsiębiorstwach, aby wzmocnić ich zespoły obsługujące klientów, obserwuję dużą i rosnącą różnicę między hype'em związanym ze sztuczną inteligencją a rzeczywistością sztucznej inteligencji. Nie tylko to, widzę dwie kategorie „porażek AI” — inicjatywy, które nie zbliżają się do osiągnięcia oczekiwanych wyników. Zazwyczaj dotyczą one narzędzi AI „Kompetentny Dupek” i narzędzi AI „Uroczy Głupiec”.
Narzędzie AI 'Kompetentny Dupek'
W 2014 roku zespół zajmujący się uczeniem maszynowym w Amazonie stworzył algorytm zaprojektowany w celu przyspieszenia procesu przeglądania CV z zamiarem ominięcia tradycyjnie wolnego i kosztownego procesu prowadzonego przez ludzi. Komputer może przeskanować tysiące CV szybciej niż nawet najlepiej wykwalifikowany, czytający w błyskawicznym tempie rekruter. Wykorzystanie AI w tej sytuacji było strzałem w dziesiątkę — na papierze.
Jednak w ciągu roku Amazon zdał sobie sprawę, że AI nie działało tak, jak się spodziewali. Trenując AI na wzorcach zatrudnienia i CV przesyłanych w ciągu ostatniej dekady — które zazwyczaj były zdominowane przez mężczyzn — system postanowił, że kandydaci muszą być mężczyznami, aby być uważani za najlepszych kandydatów. CV, które zawierały słowo „kobieta” lub „kobiety”, lub które wymieniały kandydatów jako absolwentów niektórych uczelni kobiecych, były automatycznie niżej klasyfikowane. Nawet po ręcznych dostosowaniach do algorytmu w celu zapobiegania najbardziej oczywistym stronniczościom, dyrektorzy Amazonu ostatecznie stracili wiarę i zamknęli projekt.
Ten przykład jest głośnym błędem typu „kompetentny dupek”. Choć narzędzie rekrutacyjne AI Amazonu mogło sprawnie wykonywać swoje obowiązki, w końcu wzmacniało uprzedzenia ludzi, co prowadziło do nieakceptowalnych wyników w żadnym zakresie wyobraźni. Amazon nie jest jedyną ofiarą takiego projektu. Znam dziesiątki przedsiębiorstw, które aktualnie prowadzą projekty AI z wynikami, które są równie rozczarowujące, ponieważ ich narzędzia AI są „kompetentnymi dupkami”.
Co gorsza, wiele z tych inicjatyw jest związanych z obsługą klienta. Wyobraź sobie narzędzie AI „kompetentny dupek” spuszczone na dziesięcioletnią ilość odpowiedzi twoich agentów wsparcia na pytania i zgłoszenia klientów. Jeśli narzędzie optymalizuje odpowiedzi na pytania klientów jak najszybciej, to całkowicie zignoruje wszelkie możliwości edukacji twoich klientów i być może zaoferowania im dodatkowych produktów. Zignoruje też emocje klientów i być może doprowadzi do tego, że więcej twoich klientów odejdzie.
Istnieją inne tryby pomyłek, o których mowa powyżej. Czy jesteś gotów postawić przychody swojej firmy na garstce „kompetentnych dupków” AI?
Narzędzie AI 'Uroczy Głupiec'
Choć „kompetentne dupki” nie wydają się takie straszne, narzędzia AI „urocze głupki” mogą być jeszcze gorsze. W staraniach, aby sprawić, by chatboty wydawały się bardziej ludzkie, wiele firm podjęło wysiłki, aby nadać swoim chatbotom „osobowość”. Niestety, wysiłek ten pociąga za sobą koszty dla efektywności narzędzia AI oraz wartości, jaką dostarcza klientom. Na skraju narzędzi AI „uroczy głupiec” znajduje się ten przykład dwóch botów utknęły w nieskończonej pętli odpowiadających sobie nawzajem na Twitterze. To nowoczesny odpowiednik dwóch wiejskich idiotów krzyczących na siebie na rynku.
Bardziej realistyczny (ale równie frustrujący) przykład to coraz większa liczba przypadków, gdy dzwoniłem pod numer telefonu obsługi klienta, tylko po to, by usłyszeć: „Cześć! Mam nadzieję, że masz wspaniały dzień! Proszę powiedzieć głośno o problemie, z którym się zmagasz.” Mając nadzieję, że dzięki przyjemnej „osobowości” bota, spełniam prośbę i mówię do telefonu, tylko po to, by bot mnie źle zrozumiał i przekierował moje połączenie.
Rzeczywistym przykładem tego jest chatbot handlowy Vodafone'a o nazwie TOBi, który podobno przekierowywał klientów do zespołu ds. żałoby, gdy zgłaszali, że ich telefony są „martwe”. Pomimo smutku, który wszyscy czujemy, gdy ukochany telefon znika do wielkiego dostawcy na niebie, nie wierzę, że zespół ds. żałoby jest tam, gdzie większość klientów chce być przekierowanych.
Możesz argumentować, że te boty nie są „prawdziwą AI”, a ja bym się z tobą zgodził. Jednak według moich doświadczeń, są one na pewno w ten sposób reklamowane przed wysokimi kierownictwami w firmach na całym świecie, które pragną upewnić się, że nie przegapią następnej wielkiej fali innowacji. A biorąc pod uwagę dużą liczbę połączeń obsługi klienta, są to świetne pola treningowe dla następnej generacji narzędzi AI „urocze głupki”.
Lepszy sposób - może
Jednym z moich wniosków, na podstawie historii, które słyszałem od klientów i narzędzi, których sam używam jako konsument, jest to, że narzędzia AI nie są gotowe, aby zastąpić ludzi. Robimy tak wiele rzeczy dobrze, od rozumienia kontekstu, emocji i kolokwializmów, po skuteczną komunikację i dostosowywanie się w momencie, gdy okoliczności się zmieniają.
Jedna firma, która naprawdę to rozumie, jest cichym gigantem w branży fintechowej, PrecisionLender. Jej technologia AI pozwala bankom stworzyć najbardziej optymalne pożyczki dla potencjalnych klientów. Jednocześnie wspiera bankierów, którzy przygotowują pożyczki, aby mieć lepsze, bardziej poinformowane relacje z klientami, a jednocześnie być jednocześnie bardziej opartymi na danych i bardziej ludzkimi niż w poprzednim modelu, który podkreślał binarny, tak/nie wynik.
Wyobraź sobie przyszłość, w której za każdym razem, gdy dzwonisz na infolinię wsparcia, faktycznie nauczysz się lepiej korzystać z produktów firmy. Z pewnością jesteśmy w zasięgu tej przyszłości. W końcu, dlaczego osiedlić się na kompetentnym dupku lub uroczym głupku, gdy można mieć coś zupełnie innego: naprawdę korzystne partnerstwo?
Ten artykuł pierwotnie ukazał się w imieniu Forbes Technology Council, społeczności dla klasowych CIO, CTO i menedżerów technologii. Przeczytaj oryginalny post tutaj.
Zgodnie z Ankieta PwC CEO opublikowaną pod koniec zeszłego miesiąca, 45% organizacji w Ameryce Północnej wprowadziło inicjatywy związane ze sztuczną inteligencją (AI), a kolejne 37% planuje to zrobić w ciągu najbliższych trzech lat. Nie jest zaskoczeniem, że tak wielu dyrektorów generalnych przyjmuje narzędzia sztucznej inteligencji, biorąc pod uwagę obiecane korzyści. Jako dyrektor generalny, który współpracuje z seniorami w szybko rozwijających się przedsiębiorstwach, aby wzmocnić ich zespoły obsługujące klientów, obserwuję dużą i rosnącą różnicę między hype'em związanym ze sztuczną inteligencją a rzeczywistością sztucznej inteligencji. Nie tylko to, widzę dwie kategorie „porażek AI” — inicjatywy, które nie zbliżają się do osiągnięcia oczekiwanych wyników. Zazwyczaj dotyczą one narzędzi AI „Kompetentny Dupek” i narzędzi AI „Uroczy Głupiec”.
Narzędzie AI 'Kompetentny Dupek'
W 2014 roku zespół zajmujący się uczeniem maszynowym w Amazonie stworzył algorytm zaprojektowany w celu przyspieszenia procesu przeglądania CV z zamiarem ominięcia tradycyjnie wolnego i kosztownego procesu prowadzonego przez ludzi. Komputer może przeskanować tysiące CV szybciej niż nawet najlepiej wykwalifikowany, czytający w błyskawicznym tempie rekruter. Wykorzystanie AI w tej sytuacji było strzałem w dziesiątkę — na papierze.
Jednak w ciągu roku Amazon zdał sobie sprawę, że AI nie działało tak, jak się spodziewali. Trenując AI na wzorcach zatrudnienia i CV przesyłanych w ciągu ostatniej dekady — które zazwyczaj były zdominowane przez mężczyzn — system postanowił, że kandydaci muszą być mężczyznami, aby być uważani za najlepszych kandydatów. CV, które zawierały słowo „kobieta” lub „kobiety”, lub które wymieniały kandydatów jako absolwentów niektórych uczelni kobiecych, były automatycznie niżej klasyfikowane. Nawet po ręcznych dostosowaniach do algorytmu w celu zapobiegania najbardziej oczywistym stronniczościom, dyrektorzy Amazonu ostatecznie stracili wiarę i zamknęli projekt.
Ten przykład jest głośnym błędem typu „kompetentny dupek”. Choć narzędzie rekrutacyjne AI Amazonu mogło sprawnie wykonywać swoje obowiązki, w końcu wzmacniało uprzedzenia ludzi, co prowadziło do nieakceptowalnych wyników w żadnym zakresie wyobraźni. Amazon nie jest jedyną ofiarą takiego projektu. Znam dziesiątki przedsiębiorstw, które aktualnie prowadzą projekty AI z wynikami, które są równie rozczarowujące, ponieważ ich narzędzia AI są „kompetentnymi dupkami”.
Co gorsza, wiele z tych inicjatyw jest związanych z obsługą klienta. Wyobraź sobie narzędzie AI „kompetentny dupek” spuszczone na dziesięcioletnią ilość odpowiedzi twoich agentów wsparcia na pytania i zgłoszenia klientów. Jeśli narzędzie optymalizuje odpowiedzi na pytania klientów jak najszybciej, to całkowicie zignoruje wszelkie możliwości edukacji twoich klientów i być może zaoferowania im dodatkowych produktów. Zignoruje też emocje klientów i być może doprowadzi do tego, że więcej twoich klientów odejdzie.
Istnieją inne tryby pomyłek, o których mowa powyżej. Czy jesteś gotów postawić przychody swojej firmy na garstce „kompetentnych dupków” AI?
Narzędzie AI 'Uroczy Głupiec'
Choć „kompetentne dupki” nie wydają się takie straszne, narzędzia AI „urocze głupki” mogą być jeszcze gorsze. W staraniach, aby sprawić, by chatboty wydawały się bardziej ludzkie, wiele firm podjęło wysiłki, aby nadać swoim chatbotom „osobowość”. Niestety, wysiłek ten pociąga za sobą koszty dla efektywności narzędzia AI oraz wartości, jaką dostarcza klientom. Na skraju narzędzi AI „uroczy głupiec” znajduje się ten przykład dwóch botów utknęły w nieskończonej pętli odpowiadających sobie nawzajem na Twitterze. To nowoczesny odpowiednik dwóch wiejskich idiotów krzyczących na siebie na rynku.
Bardziej realistyczny (ale równie frustrujący) przykład to coraz większa liczba przypadków, gdy dzwoniłem pod numer telefonu obsługi klienta, tylko po to, by usłyszeć: „Cześć! Mam nadzieję, że masz wspaniały dzień! Proszę powiedzieć głośno o problemie, z którym się zmagasz.” Mając nadzieję, że dzięki przyjemnej „osobowości” bota, spełniam prośbę i mówię do telefonu, tylko po to, by bot mnie źle zrozumiał i przekierował moje połączenie.
Rzeczywistym przykładem tego jest chatbot handlowy Vodafone'a o nazwie TOBi, który podobno przekierowywał klientów do zespołu ds. żałoby, gdy zgłaszali, że ich telefony są „martwe”. Pomimo smutku, który wszyscy czujemy, gdy ukochany telefon znika do wielkiego dostawcy na niebie, nie wierzę, że zespół ds. żałoby jest tam, gdzie większość klientów chce być przekierowanych.
Możesz argumentować, że te boty nie są „prawdziwą AI”, a ja bym się z tobą zgodził. Jednak według moich doświadczeń, są one na pewno w ten sposób reklamowane przed wysokimi kierownictwami w firmach na całym świecie, które pragną upewnić się, że nie przegapią następnej wielkiej fali innowacji. A biorąc pod uwagę dużą liczbę połączeń obsługi klienta, są to świetne pola treningowe dla następnej generacji narzędzi AI „urocze głupki”.
Lepszy sposób - może
Jednym z moich wniosków, na podstawie historii, które słyszałem od klientów i narzędzi, których sam używam jako konsument, jest to, że narzędzia AI nie są gotowe, aby zastąpić ludzi. Robimy tak wiele rzeczy dobrze, od rozumienia kontekstu, emocji i kolokwializmów, po skuteczną komunikację i dostosowywanie się w momencie, gdy okoliczności się zmieniają.
Jedna firma, która naprawdę to rozumie, jest cichym gigantem w branży fintechowej, PrecisionLender. Jej technologia AI pozwala bankom stworzyć najbardziej optymalne pożyczki dla potencjalnych klientów. Jednocześnie wspiera bankierów, którzy przygotowują pożyczki, aby mieć lepsze, bardziej poinformowane relacje z klientami, a jednocześnie być jednocześnie bardziej opartymi na danych i bardziej ludzkimi niż w poprzednim modelu, który podkreślał binarny, tak/nie wynik.
Wyobraź sobie przyszłość, w której za każdym razem, gdy dzwonisz na infolinię wsparcia, faktycznie nauczysz się lepiej korzystać z produktów firmy. Z pewnością jesteśmy w zasięgu tej przyszłości. W końcu, dlaczego osiedlić się na kompetentnym dupku lub uroczym głupku, gdy można mieć coś zupełnie innego: naprawdę korzystne partnerstwo?
