Is Your AI Tool A Competent Jerk Or A Lovable Fool?
Guru 공동 창립자이자 CEO인 Rick Nucci는 AI의 과대 선전과 현실 사이의 큰 격차를 목격했으며, 이는 AI 실패로 이어지는 경향이 있습니다. 이러한 실패는 일반적으로 '유능한 괴짜' AI 도구와 '사랑스러운 바보' AI 도구와 관련이 있습니다. 어느 AI 솔루션이 당신에게
이 기사는 세계적인 CIO, CTO 및 기술 경영진을 위한 커뮤니티인 Forbes Technology Council을 대신하여 처음 발표되었습니다. 원래 게시물을 읽으려면 여기를 클릭하십시오.
지난달 말에 발표된 PwC CEO 설문조사에 따르면, 북미의 45% 조직이 인공지능(AI) 이니셔티브를 도입했으며, 37%는 향후 3년 이내에 도입할 계획입니다. 이처럼 많은 CEO들이 인공지능 도구를 채택하는 것은 놀라운 일이 아닙니다. 이는 찬사받는 이점들이 있기 때문입니다. 고객 대면 팀을 강화하기 위해 빠르게 성장하는 기업의 경영진과 협력하는 CEO로서 AI의 과대 선전과 현실 간의 큰 격차를 목격하고 있습니다. 또한, 저는 두 가지 범주의 "AI 실패"를 보고 있습니다 — 예상 결과를 달성하는데 실패한 이니셔티브들입니다. 이들은 보통 "유능한 괴짜" AI 도구와 "사랑스러운 바보" AI 도구를 포함합니다.
'유능한 괴짜' AI 도구
2014년, 아마존의 기계 학습 팀은 이력서 검토 프로세스를 가속화하기 위해 사람에 의해 전통적으로 느리고 고비용인 과정을 우회하는 알고리즘을 구축했습니다. 컴퓨터는 가장 숙련된 속독 채용 담당자보다 이력서를 수천 개 더 빠르게 걸러낼 수 있습니다. 이 상황에서 AI를 사용하는 것은 이론상으로는 완벽한 선택이었습니다.
그러나 1년 후, 아마존은 AI가 희망했던 대로 작동되지 않음을 깨달았습니다. 지난 10년 간 제출된 이력서와 채용 패턴에 따라 AI를 교육함으로써 — 이는 남성 중심으로 왜곡되는 경향이 있었습니다 — 시스템은 최고의 후보자로 인정받기 위해서는 남성이어야 한다고 결정했습니다. “여성” 또는 “여자”라는 단어가 포함된 이력서, 또는 여성 대학의 졸업생이라고 명시된 후보자는 자동으로 하위 목록으로 분류되었습니다. 가장 명백한 편견을 방지하기 위해 알고리즘에 수동 조정을 하였음에도 불구하고, 아마존 경영진은 결국 신뢰를 잃고 프로젝트를 중단했습니다.
이 예시는 "유능한 괴짜" 유형의 고위험 실수입니다. 아마존의 AI 채용 도구가 직무를 충실히 수행했을지라도, 이는 결국 인간의 편견을 증폭시켜 결과적으로 불만족스러운 결과를 낳았습니다. 참고로 아마존만이 이러한 프로젝트의 피해자는 아닙니다. 저는 지금 AI 프로젝트를 운영 중인 수십 개의 기업을 알고 있으며 그 결과는 실망스럽습니다. 그들의 AI 도구는 "유능한 괴짜"입니다.
더 나쁠 것은 이러한 이니셔티브의 대다수가 고객 대면이라는 점입니다. 상상해 보십시오. "유능한 괴짜" AI 도구가 고객 질문 및 티켓에 대한 지원 직원의 10년간의 응답을 바탕으로 최적화되어 있다면. 이 도구가 고객 질문에 최대한 빨리 답변하고 고객의 공격성을 없애는 것을 목표로 한다면, 교육 기회를 완전히 무시하고 아마도 추가 매출을 놓칠 것입니다. 고객의 감정도 무시할 것이며, 아마도 더 많은 고객이 이탈하게 될 것입니다.
위와 같은 실패 모드는 많습니다. 여러분의 회사 수익을 "유능한 괴짜" AI 도구에 걸어도 괜찮으신가요?
'사랑스러운 바보' AI 도구
"유능한 괴짜"가 그리 훌륭해 보이지 않는다면, "사랑스러운 바보" AI 도구는 더 나쁠 수 있습니다. 많은 기업들이 챗봇을 더욱 인간적으로 보이게 하려고 노력하고 있습니다. 불행히도 이러한 노력은 AI 도구의 효율성과 고객에게 제공하는 가치에 비용을 치르게 됩니다. "사랑스러운 바보" AI 도구의 극단적인 예시는 서로에게 응답하는 두 개의 봇이 무한 루프에 갇힌 경우입니다. 이는 마을 광장에서 서로 소리 지르는 두 마을 바보의 현대적 equivalent입니다.
보다 현실적이고(그러나 똑같이 답답한) 예시는 고객 지원 전화번호로 전화를 할 때마다 제가 듣게 되는 빈번한 인사입니다: 좋은 하루 되시길 바랍니다! 당신이 겪고 있는 문제를 소리 내어 말씀해 주세요.” 봇의 쾌활한 "개성" 덕분에 저는 수긍하고 전화로 말하지만, 봇이 저를 잘못 이해하여 통화가 연결되지 않게 됩니다.
이것의 실제 예시는 Vodafone의 상업용 챗봇 TOBi로, 고객이 "전원이 꺼졌다"고 보고할 때 슬픔 팀으로 고객을 연결했다고 합니다. 사랑하는 핸드폰이 하늘의 위대한 제공자에게 가는 과정에서 우리가 느끼는 슬픔의 찌릿함에도 불구하고, 저는 대부분의 고객이 슬픔 팀으로 연결되기를 원하지 않을 것이라고 생각합니다.
여러분은 이런 봇들이 "진정한 AI"가 아니라고 주장할 수 있으며, 저도 그 주장에 동의합니다. 그러나 제 경험상 이들은 전 세계의 기업의 고위 경영진에게 다음 큰 혁신의 물결을 놓치지 않도록 보장하고 싶어하는 방식으로 마케팅되고 있습니다. 고객 서비스 통화의 높은 볼륨을 감안할 때, 이는 "사랑스러운 바보" AI 도구의 다음 세대를 위한 훌륭한 훈련장입니다.
더 나은 방법 — 아마도
개인적으로, 고객의 이야기와 제가 소비자로서 사용하는 도구에 대해 느낀 점은 AI 도구는 인간을 대체하도록 설계되지 않았다는 것입니다. 우리는 상황과 감정, 구어체를 이해하고, 효과적으로 의사소통하며, 상황이 변할 때 즉각적인 조정을 할 수 있는 많은 일을 잘 수행합니다.
이를 잘 이해하는 회사 중 하나는 핀테크 산업의 조용한 거인, PrecisionLender입니다. 정확한 대출을 작성할 수 있도록 은행에게 이 AI 기술을 제공합니다. 동시에 대출을 작성하는 은행원을 지원하여 보다 세밀하고 더 나은 고객 관계를 구축하도록 하며, 이전 접근 방식보다 데이터 기반이면서도 인간적일 수 있습니다.
상상해 보십시오, 고객 지원 핫라인에 전화를 할 때마다 회사 제품을 사용하는 방법을 더 잘 배우는 미래를. 우리는 확실히 이 미래에 가까워지고 있습니다. 결국, 유능한 괴짜나 사랑스러운 바보의 확립에 정착할 이유가 뭐가 있겠습니까? 완전히 유익한 파트너십을 누리세요?
이 기사는 세계적인 CIO, CTO 및 기술 경영진을 위한 커뮤니티인 Forbes Technology Council을 대신하여 처음 발표되었습니다. 원래 게시물을 읽으려면 여기를 클릭하십시오.
지난달 말에 발표된 PwC CEO 설문조사에 따르면, 북미의 45% 조직이 인공지능(AI) 이니셔티브를 도입했으며, 37%는 향후 3년 이내에 도입할 계획입니다. 이처럼 많은 CEO들이 인공지능 도구를 채택하는 것은 놀라운 일이 아닙니다. 이는 찬사받는 이점들이 있기 때문입니다. 고객 대면 팀을 강화하기 위해 빠르게 성장하는 기업의 경영진과 협력하는 CEO로서 AI의 과대 선전과 현실 간의 큰 격차를 목격하고 있습니다. 또한, 저는 두 가지 범주의 "AI 실패"를 보고 있습니다 — 예상 결과를 달성하는데 실패한 이니셔티브들입니다. 이들은 보통 "유능한 괴짜" AI 도구와 "사랑스러운 바보" AI 도구를 포함합니다.
'유능한 괴짜' AI 도구
2014년, 아마존의 기계 학습 팀은 이력서 검토 프로세스를 가속화하기 위해 사람에 의해 전통적으로 느리고 고비용인 과정을 우회하는 알고리즘을 구축했습니다. 컴퓨터는 가장 숙련된 속독 채용 담당자보다 이력서를 수천 개 더 빠르게 걸러낼 수 있습니다. 이 상황에서 AI를 사용하는 것은 이론상으로는 완벽한 선택이었습니다.
그러나 1년 후, 아마존은 AI가 희망했던 대로 작동되지 않음을 깨달았습니다. 지난 10년 간 제출된 이력서와 채용 패턴에 따라 AI를 교육함으로써 — 이는 남성 중심으로 왜곡되는 경향이 있었습니다 — 시스템은 최고의 후보자로 인정받기 위해서는 남성이어야 한다고 결정했습니다. “여성” 또는 “여자”라는 단어가 포함된 이력서, 또는 여성 대학의 졸업생이라고 명시된 후보자는 자동으로 하위 목록으로 분류되었습니다. 가장 명백한 편견을 방지하기 위해 알고리즘에 수동 조정을 하였음에도 불구하고, 아마존 경영진은 결국 신뢰를 잃고 프로젝트를 중단했습니다.
이 예시는 "유능한 괴짜" 유형의 고위험 실수입니다. 아마존의 AI 채용 도구가 직무를 충실히 수행했을지라도, 이는 결국 인간의 편견을 증폭시켜 결과적으로 불만족스러운 결과를 낳았습니다. 참고로 아마존만이 이러한 프로젝트의 피해자는 아닙니다. 저는 지금 AI 프로젝트를 운영 중인 수십 개의 기업을 알고 있으며 그 결과는 실망스럽습니다. 그들의 AI 도구는 "유능한 괴짜"입니다.
더 나쁠 것은 이러한 이니셔티브의 대다수가 고객 대면이라는 점입니다. 상상해 보십시오. "유능한 괴짜" AI 도구가 고객 질문 및 티켓에 대한 지원 직원의 10년간의 응답을 바탕으로 최적화되어 있다면. 이 도구가 고객 질문에 최대한 빨리 답변하고 고객의 공격성을 없애는 것을 목표로 한다면, 교육 기회를 완전히 무시하고 아마도 추가 매출을 놓칠 것입니다. 고객의 감정도 무시할 것이며, 아마도 더 많은 고객이 이탈하게 될 것입니다.
위와 같은 실패 모드는 많습니다. 여러분의 회사 수익을 "유능한 괴짜" AI 도구에 걸어도 괜찮으신가요?
'사랑스러운 바보' AI 도구
"유능한 괴짜"가 그리 훌륭해 보이지 않는다면, "사랑스러운 바보" AI 도구는 더 나쁠 수 있습니다. 많은 기업들이 챗봇을 더욱 인간적으로 보이게 하려고 노력하고 있습니다. 불행히도 이러한 노력은 AI 도구의 효율성과 고객에게 제공하는 가치에 비용을 치르게 됩니다. "사랑스러운 바보" AI 도구의 극단적인 예시는 서로에게 응답하는 두 개의 봇이 무한 루프에 갇힌 경우입니다. 이는 마을 광장에서 서로 소리 지르는 두 마을 바보의 현대적 equivalent입니다.
보다 현실적이고(그러나 똑같이 답답한) 예시는 고객 지원 전화번호로 전화를 할 때마다 제가 듣게 되는 빈번한 인사입니다: 좋은 하루 되시길 바랍니다! 당신이 겪고 있는 문제를 소리 내어 말씀해 주세요.” 봇의 쾌활한 "개성" 덕분에 저는 수긍하고 전화로 말하지만, 봇이 저를 잘못 이해하여 통화가 연결되지 않게 됩니다.
이것의 실제 예시는 Vodafone의 상업용 챗봇 TOBi로, 고객이 "전원이 꺼졌다"고 보고할 때 슬픔 팀으로 고객을 연결했다고 합니다. 사랑하는 핸드폰이 하늘의 위대한 제공자에게 가는 과정에서 우리가 느끼는 슬픔의 찌릿함에도 불구하고, 저는 대부분의 고객이 슬픔 팀으로 연결되기를 원하지 않을 것이라고 생각합니다.
여러분은 이런 봇들이 "진정한 AI"가 아니라고 주장할 수 있으며, 저도 그 주장에 동의합니다. 그러나 제 경험상 이들은 전 세계의 기업의 고위 경영진에게 다음 큰 혁신의 물결을 놓치지 않도록 보장하고 싶어하는 방식으로 마케팅되고 있습니다. 고객 서비스 통화의 높은 볼륨을 감안할 때, 이는 "사랑스러운 바보" AI 도구의 다음 세대를 위한 훌륭한 훈련장입니다.
더 나은 방법 — 아마도
개인적으로, 고객의 이야기와 제가 소비자로서 사용하는 도구에 대해 느낀 점은 AI 도구는 인간을 대체하도록 설계되지 않았다는 것입니다. 우리는 상황과 감정, 구어체를 이해하고, 효과적으로 의사소통하며, 상황이 변할 때 즉각적인 조정을 할 수 있는 많은 일을 잘 수행합니다.
이를 잘 이해하는 회사 중 하나는 핀테크 산업의 조용한 거인, PrecisionLender입니다. 정확한 대출을 작성할 수 있도록 은행에게 이 AI 기술을 제공합니다. 동시에 대출을 작성하는 은행원을 지원하여 보다 세밀하고 더 나은 고객 관계를 구축하도록 하며, 이전 접근 방식보다 데이터 기반이면서도 인간적일 수 있습니다.
상상해 보십시오, 고객 지원 핫라인에 전화를 할 때마다 회사 제품을 사용하는 방법을 더 잘 배우는 미래를. 우리는 확실히 이 미래에 가까워지고 있습니다. 결국, 유능한 괴짜나 사랑스러운 바보의 확립에 정착할 이유가 뭐가 있겠습니까? 완전히 유익한 파트너십을 누리세요?
Experience the power of the Guru platform firsthand – take our interactive product tour
