Is Your AI Tool A Competent Jerk Or A Lovable Fool?
Nhà đồng sáng lập và CEO của Guru, Rick Nucci đã quan sát thấy một khoảng cách lớn và ngày càng rộng giữa sự thổi phồng về AI và thực tế về AI, điều này thường dẫn đến những thất bại của AI. Những thất bại này thường liên quan đến các công cụ AI 'Người thông thái tệ hại' và 'Kẻ ngốc dễ thương'. Giải pháp AI nào bạn
Bài viết này ban đầu xuất hiện thay mặt cho Hội đồng Công nghệ Forbes, một cộng đồng cho các giám đốc công nghệ thông tin, giám đốc công nghệ và các giám đốc điều hành công nghệ hàng đầu. Đọc bài viết gốc tại đây.
Theo Khảo sát Giám đốc điều hành PwC được phát hành vào cuối tháng trước, 45% tổ chức Bắc Mỹ đã triển khai các sáng kiến trí tuệ nhân tạo (AI), với 37% khác có kế hoạch làm như vậy trong ba năm tới. Thật không ngạc nhiên khi nhiều giám đốc điều hành áp dụng các công cụ trí tuệ nhân tạo vì những lợi ích được quảng cáo. Là một giám đốc điều hành làm việc với các nhà lãnh đạo cấp cao tại các doanh nghiệp tăng trưởng nhanh để trao quyền cho các nhóm liên hệ với khách hàng, tôi đang quan sát thấy một khoảng cách lớn và ngày càng rộng giữa sự thổi phồng về AI và thực tế về AI. Không chỉ vậy, tôi thấy có hai loại “AI thất bại” — các sáng kiến không đạt được kết quả như mong đợi. Chúng thường liên quan đến các công cụ AI “Người thông thái tệ hại” và “Kẻ ngốc dễ thương”.
Công cụ AI 'Người thông thái tệ hại'
Vào năm 2014, đội ngũ máy học của Amazon đã xây dựng một thuật toán nhằm tăng tốc quá trình xem xét sơ yếu lý lịch với mục tiêu là vượt qua quy trình do con người điều hành chậm chạp và tốn kém. Một máy tính có thể sàng lọc hàng nghìn sơ yếu lý lịch nhanh hơn cả những nhà tuyển dụng dày dạn kinh nghiệm nhất. Việc sử dụng AI trong tình huống này thì lý tưởng — trên giấy.
Tuy nhiên, chỉ trong vòng một năm, Amazon đã nhận ra rằng AI không hoạt động như họ mong đợi. Bằng cách đào tạo AI dựa trên các mẫu tuyển dụng và những sơ yếu lý lịch đã được nộp trong suốt thập kỷ qua - thứ thường nghiêng về phía nam giới - hệ thống đã quyết định rằng các ứng viên phải là nam giới để được xem xét là ứng viên hàng đầu. Những sơ yếu lý lịch có chứa từ “người phụ nữ” hoặc “phụ nữ”, hoặc có danh sách các ứng viên tốt nghiệp từ một số trường cao đẳng chỉ dành cho phụ nữ, đã bị xếp hạng thấp. Ngay cả sau khi điều chỉnh thủ công thuật toán để ngăn chặn những thiên kiến rõ ràng nhất, các giám đốc điều hành của Amazon cuối cùng đã mất niềm tin và ngừng dự án.
Ví dụ này là một sai lầm nổi bật thuộc dạng “người thông thái tệ hại”. Trong khi công cụ tuyển dụng AI của Amazon có thể đã thực hiện nhiệm vụ của mình một cách trung thực, nó đã khuếch đại thiên kiến của con người, dẫn đến một kết quả không thể chấp nhận được theo bất kỳ nghĩa nào. Amazon không phải là nạn nhân duy nhất của một dự án như vậy, cũng nhân tiện nói thêm. Tôi biết hàng chục doanh nghiệp đang thực hiện các dự án AI ngay bây giờ với kết quả cũng thất vọng không kém vì các công cụ AI của họ là “người thông thái tệ hại”.
Tệ hơn, nhiều sáng kiến trong số này là tiếp xúc với khách hàng. Hãy tưởng tượng một công cụ AI “người thông thái tệ hại” được thả lỏng trên một thập kỷ dữ liệu phản hồi từ các đại lý hỗ trợ của bạn đối với các câu hỏi và phiếu yêu cầu của khách hàng. Nếu công cụ này tối ưu hóa việc trả lời các câu hỏi của khách hàng nhanh nhất có thể và loại bỏ họ khỏi sự phiền phức, nó sẽ hoàn toàn bỏ qua bất kỳ cơ hội nào để giáo dục khách hàng và có thể là để bán hàng kèm. Nó cũng sẽ bỏ qua cảm xúc của khách hàng và có thể dẫn đến nhiều khách hàng hơn rời bỏ.
Có nhiều hình thức thất bại khác ngoài những điều trên. Bạn có sẵn sàng đánh cược doanh thu của công ty mình vào một đống công cụ AI “người thông thái tệ hại” không?
Công cụ AI 'Kẻ ngốc dễ thương'
Trong khi “người thông thái tệ hại” có vẻ không tốt lắm, các công cụ AI “kẻ ngốc dễ thương” có thể còn tệ hơn. Trong nỗ lực làm cho chatbot có vẻ giống người hơn, nhiều công ty đã thực hiện các nỗ lực để đưa “tính cách” vào các chatbot của họ. Thật không may, nỗ lực này xảy ra với cái giá phải trả cho hiệu quả của công cụ AI và giá trị mà nó mang lại cho khách hàng. Tại nơi cực đoan nhất của các công cụ AI “kẻ ngốc dễ thương” là ví dụ này về hai bot bị kẹt trong một vòng lặp vô tận trả lời lẫn nhau trên Twitter. Đó là tương đương hiện đại với hai kẻ ngốc làng kêu la với nhau ở quảng trường thị trấn.
Một ví dụ thực tế hơn (nhưng cũng gây thất vọng) là số lần gia tăng mà tôi đã gọi đến một số điện thoại hỗ trợ khách hàng chỉ để nghe, “Chào bạn! Hy vọng bạn có một ngày tuyệt vời! Vui lòng nói to vấn đề bạn đang gặp phải.” Hy vọng rằng với “tính cách” dễ chịu của bot, tôi đã tuân theo và nói vào điện thoại của mình, chỉ để bot hiểu nhầm tôi và chuyển hướng cuộc gọi của tôi.
Một ví dụ thực tế về điều này là chatbot thương mại của Vodafone có tên TOBi, mà rõ ràng đã từng hướng khách hàng đến đội ngũ hỗ trợ tang lễ khi họ báo cáo rằng điện thoại của họ đã “chết”. Mặc dù có cảm giác buồn bã mà tất cả chúng ta đều cảm thấy khi một chiếc điện thoại yêu thích rời bỏ chúng ta đến với một nhà cung cấp vĩ đại trên bầu trời, tôi không tin rằng đội ngũ tang lễ là nơi mà hầu hết khách hàng muốn được hướng dẫn đến.
Bạn có thể lập luận rằng những bot này không phải là “AI thực sự,” và tôi đồng ý với bạn. Tuy nhiên, theo kinh nghiệm của tôi, chúng chắc chắn đang được tiếp thị theo cách đó cho các nhà điều hành cấp cao tại các công ty trên khắp thế giới, những người muốn đảm bảo rằng họ không bỏ lỡ cơn sóng đổi mới lớn tiếp theo. Và với số lượng cuộc gọi dịch vụ khách hàng diễn ra rất cao, đây là những môi trường đào tạo tuyệt vời cho thế hệ tiếp theo của các công cụ AI “kẻ ngốc dễ thương.”
Một Cách Tốt Hơn — Có thể
Một điều tôi rút ra được cho riêng mình, dựa trên những câu chuyện mà tôi đã nghe từ khách hàng và các công cụ mà tôi sử dụng làm người tiêu dùng, là các công cụ AI vẫn chưa sẵn sàng để thay thế con người. Chúng tôi thực hiện rất nhiều việc tốt, từ việc hiểu ngữ cảnh và cảm xúc đến tiếng lóng đến việc giao tiếp hiệu quả và điều chỉnh khi có sự thay đổi bất ngờ.
Một công ty làm rất tốt việc này là một gã khổng lồ khiêm tốn trong ngành fintech, PrecisionLender. Công nghệ AI của nó cho phép các ngân hàng viết khoản vay tối ưu nhất cho khách hàng tiềm năng. Cùng lúc đó, nó trao quyền cho những nhân viên ngân hàng viết các khoản vay có mối quan hệ thông tin tốt hơn với khách hàng của họ, và đồng thời trở nên dựa trên dữ liệu hơn và vẫn mang tính người hơn so với cách tiếp cận trước đó nhấn mạnh vào kết quả nhị phân, có/không.
Hãy tưởng tượng một tương lai mà bạn thực sự học cách sử dụng các sản phẩm của một công ty tốt hơn mỗi khi bạn gọi đến đường dây hỗ trợ của họ. Chúng tôi chắc chắn đang ở trong tầm với của tương lai này. Sau cùng, tại sao phải chấp nhận một người thông thái tệ hại hay một kẻ ngốc dễ thương khi bạn có thể có một điều gì đó hoàn toàn khác: một mối quan hệ đối tác thực sự có lợi?
Bài viết này ban đầu xuất hiện thay mặt cho Hội đồng Công nghệ Forbes, một cộng đồng cho các giám đốc công nghệ thông tin, giám đốc công nghệ và các giám đốc điều hành công nghệ hàng đầu. Đọc bài viết gốc tại đây.
Theo Khảo sát Giám đốc điều hành PwC được phát hành vào cuối tháng trước, 45% tổ chức Bắc Mỹ đã triển khai các sáng kiến trí tuệ nhân tạo (AI), với 37% khác có kế hoạch làm như vậy trong ba năm tới. Thật không ngạc nhiên khi nhiều giám đốc điều hành áp dụng các công cụ trí tuệ nhân tạo vì những lợi ích được quảng cáo. Là một giám đốc điều hành làm việc với các nhà lãnh đạo cấp cao tại các doanh nghiệp tăng trưởng nhanh để trao quyền cho các nhóm liên hệ với khách hàng, tôi đang quan sát thấy một khoảng cách lớn và ngày càng rộng giữa sự thổi phồng về AI và thực tế về AI. Không chỉ vậy, tôi thấy có hai loại “AI thất bại” — các sáng kiến không đạt được kết quả như mong đợi. Chúng thường liên quan đến các công cụ AI “Người thông thái tệ hại” và “Kẻ ngốc dễ thương”.
Công cụ AI 'Người thông thái tệ hại'
Vào năm 2014, đội ngũ máy học của Amazon đã xây dựng một thuật toán nhằm tăng tốc quá trình xem xét sơ yếu lý lịch với mục tiêu là vượt qua quy trình do con người điều hành chậm chạp và tốn kém. Một máy tính có thể sàng lọc hàng nghìn sơ yếu lý lịch nhanh hơn cả những nhà tuyển dụng dày dạn kinh nghiệm nhất. Việc sử dụng AI trong tình huống này thì lý tưởng — trên giấy.
Tuy nhiên, chỉ trong vòng một năm, Amazon đã nhận ra rằng AI không hoạt động như họ mong đợi. Bằng cách đào tạo AI dựa trên các mẫu tuyển dụng và những sơ yếu lý lịch đã được nộp trong suốt thập kỷ qua - thứ thường nghiêng về phía nam giới - hệ thống đã quyết định rằng các ứng viên phải là nam giới để được xem xét là ứng viên hàng đầu. Những sơ yếu lý lịch có chứa từ “người phụ nữ” hoặc “phụ nữ”, hoặc có danh sách các ứng viên tốt nghiệp từ một số trường cao đẳng chỉ dành cho phụ nữ, đã bị xếp hạng thấp. Ngay cả sau khi điều chỉnh thủ công thuật toán để ngăn chặn những thiên kiến rõ ràng nhất, các giám đốc điều hành của Amazon cuối cùng đã mất niềm tin và ngừng dự án.
Ví dụ này là một sai lầm nổi bật thuộc dạng “người thông thái tệ hại”. Trong khi công cụ tuyển dụng AI của Amazon có thể đã thực hiện nhiệm vụ của mình một cách trung thực, nó đã khuếch đại thiên kiến của con người, dẫn đến một kết quả không thể chấp nhận được theo bất kỳ nghĩa nào. Amazon không phải là nạn nhân duy nhất của một dự án như vậy, cũng nhân tiện nói thêm. Tôi biết hàng chục doanh nghiệp đang thực hiện các dự án AI ngay bây giờ với kết quả cũng thất vọng không kém vì các công cụ AI của họ là “người thông thái tệ hại”.
Tệ hơn, nhiều sáng kiến trong số này là tiếp xúc với khách hàng. Hãy tưởng tượng một công cụ AI “người thông thái tệ hại” được thả lỏng trên một thập kỷ dữ liệu phản hồi từ các đại lý hỗ trợ của bạn đối với các câu hỏi và phiếu yêu cầu của khách hàng. Nếu công cụ này tối ưu hóa việc trả lời các câu hỏi của khách hàng nhanh nhất có thể và loại bỏ họ khỏi sự phiền phức, nó sẽ hoàn toàn bỏ qua bất kỳ cơ hội nào để giáo dục khách hàng và có thể là để bán hàng kèm. Nó cũng sẽ bỏ qua cảm xúc của khách hàng và có thể dẫn đến nhiều khách hàng hơn rời bỏ.
Có nhiều hình thức thất bại khác ngoài những điều trên. Bạn có sẵn sàng đánh cược doanh thu của công ty mình vào một đống công cụ AI “người thông thái tệ hại” không?
Công cụ AI 'Kẻ ngốc dễ thương'
Trong khi “người thông thái tệ hại” có vẻ không tốt lắm, các công cụ AI “kẻ ngốc dễ thương” có thể còn tệ hơn. Trong nỗ lực làm cho chatbot có vẻ giống người hơn, nhiều công ty đã thực hiện các nỗ lực để đưa “tính cách” vào các chatbot của họ. Thật không may, nỗ lực này xảy ra với cái giá phải trả cho hiệu quả của công cụ AI và giá trị mà nó mang lại cho khách hàng. Tại nơi cực đoan nhất của các công cụ AI “kẻ ngốc dễ thương” là ví dụ này về hai bot bị kẹt trong một vòng lặp vô tận trả lời lẫn nhau trên Twitter. Đó là tương đương hiện đại với hai kẻ ngốc làng kêu la với nhau ở quảng trường thị trấn.
Một ví dụ thực tế hơn (nhưng cũng gây thất vọng) là số lần gia tăng mà tôi đã gọi đến một số điện thoại hỗ trợ khách hàng chỉ để nghe, “Chào bạn! Hy vọng bạn có một ngày tuyệt vời! Vui lòng nói to vấn đề bạn đang gặp phải.” Hy vọng rằng với “tính cách” dễ chịu của bot, tôi đã tuân theo và nói vào điện thoại của mình, chỉ để bot hiểu nhầm tôi và chuyển hướng cuộc gọi của tôi.
Một ví dụ thực tế về điều này là chatbot thương mại của Vodafone có tên TOBi, mà rõ ràng đã từng hướng khách hàng đến đội ngũ hỗ trợ tang lễ khi họ báo cáo rằng điện thoại của họ đã “chết”. Mặc dù có cảm giác buồn bã mà tất cả chúng ta đều cảm thấy khi một chiếc điện thoại yêu thích rời bỏ chúng ta đến với một nhà cung cấp vĩ đại trên bầu trời, tôi không tin rằng đội ngũ tang lễ là nơi mà hầu hết khách hàng muốn được hướng dẫn đến.
Bạn có thể lập luận rằng những bot này không phải là “AI thực sự,” và tôi đồng ý với bạn. Tuy nhiên, theo kinh nghiệm của tôi, chúng chắc chắn đang được tiếp thị theo cách đó cho các nhà điều hành cấp cao tại các công ty trên khắp thế giới, những người muốn đảm bảo rằng họ không bỏ lỡ cơn sóng đổi mới lớn tiếp theo. Và với số lượng cuộc gọi dịch vụ khách hàng diễn ra rất cao, đây là những môi trường đào tạo tuyệt vời cho thế hệ tiếp theo của các công cụ AI “kẻ ngốc dễ thương.”
Một Cách Tốt Hơn — Có thể
Một điều tôi rút ra được cho riêng mình, dựa trên những câu chuyện mà tôi đã nghe từ khách hàng và các công cụ mà tôi sử dụng làm người tiêu dùng, là các công cụ AI vẫn chưa sẵn sàng để thay thế con người. Chúng tôi thực hiện rất nhiều việc tốt, từ việc hiểu ngữ cảnh và cảm xúc đến tiếng lóng đến việc giao tiếp hiệu quả và điều chỉnh khi có sự thay đổi bất ngờ.
Một công ty làm rất tốt việc này là một gã khổng lồ khiêm tốn trong ngành fintech, PrecisionLender. Công nghệ AI của nó cho phép các ngân hàng viết khoản vay tối ưu nhất cho khách hàng tiềm năng. Cùng lúc đó, nó trao quyền cho những nhân viên ngân hàng viết các khoản vay có mối quan hệ thông tin tốt hơn với khách hàng của họ, và đồng thời trở nên dựa trên dữ liệu hơn và vẫn mang tính người hơn so với cách tiếp cận trước đó nhấn mạnh vào kết quả nhị phân, có/không.
Hãy tưởng tượng một tương lai mà bạn thực sự học cách sử dụng các sản phẩm của một công ty tốt hơn mỗi khi bạn gọi đến đường dây hỗ trợ của họ. Chúng tôi chắc chắn đang ở trong tầm với của tương lai này. Sau cùng, tại sao phải chấp nhận một người thông thái tệ hại hay một kẻ ngốc dễ thương khi bạn có thể có một điều gì đó hoàn toàn khác: một mối quan hệ đối tác thực sự có lợi?
Trải nghiệm sức mạnh của nền tảng Guru trực tiếp - tham gia tour sản phẩm tương tác của chúng tôi
