Is Your AI Tool A Competent Jerk Or A Lovable Fool?
המייסד ומנכ"ל גוּרוּ ריק נוקי ראה פער גדול שמתרחב בין השאיפות של AI לבין מציאות ה-AI, מה שגורם לעיתים להכללים של AI. כשלי AI אלה בדרך כלל כוללים את כלים של 'רמאי מועיל' וכלים של 'טיפש חביב'. איזה פתרון AI יש לך
המאמר הזה הופיע לראשונה מטעם מועצת הטכנולוגיה של פורבס, קהילה עבור CIOs, CTOs ומנהלי טכנולוגיה ברמה עולמית. קראו את הפוסט המקורי כאן.
על פי סקר ה-CEO של PwC שפורסם בקרוב בסוף החודש שעבר, 45% מהארגונים בצפון אמריקה הציגו יוזמות של אינטליגנציה מלאכותית (AI), עם 37% נוספים שמתכננים לעשות זאת בשלוש השנים הבאות. אין זה מפתיע ש tantos CEO לאמץ כלים של אינטליגנציה מלאכותית לאור היתרונות המפורסמים. כ-CEO העובד עם מנהיגים בכירים בעסקים בצמיחה מהירה כדי להעצים את הצוותים המול פנים ללקוחות, אני עדים לפער גדול שמתרחב בין השאיפות של AI לבין המציאות. לא רק זאת, אני רואה שתי קטגוריות של "כשלי AI" - יוזמות שלא מתקרבות להשגת תוצאות צפויות. בדרך כלל מדובר בכלים של AI מסוג "רמאי מועיל" ואילו "טיפש חביב".
כלי ה-AI של 'רמאי מועיל'
בשנת 2014, צוות הלמידה המכונה של אמזון בנה אלגוריתם שנועד לזרז את תהליך סקירת קורות החיים במטרה לעקוף את תהליך האנוש המסורבל והיקר. מחשב יכול לסנן אלפי קורות חיים מהר יותר אפילו מהמלווים המיומנים ביותר. שימוש ב-AI בסיטואציה הזו היה ברווז פיצוץ — על הנייר.
אך בתוך שנה, אמזון הבינה שה-AI לא עבד כפי שקיוו. באמצעות אימון ה-AI על דפוסי שכירה וקורות חיים שהוגשו בעשור הקודם - שהיו נוטים להטות באופן לנשאים גברים - המערכת קבעה כי מועמדים חייבים להיות גברים כדי להיחשב כמועמדים מובילים. קורות חיים שכללו את המילה "אישה" או "נשים", או שציינו מועמדים בוגרי מכללות לנשים, נותרו בדרך כלל מדורגים נמוך יותר. אפילו לאחר שמותמות ידניות לאלגוריתם כדי למנוע את ההטיית הברורה ביותר, המנהלים של אמזון לבסוף איבדו אמון וסגרו את הפרויקט.
דוגמה זו היא טעות בולטת מהסוג של "רמאי מועיל". בעוד שהכלי המגייס של אמזון עשוי היה למלא את תפקידיו ביעילות, הוא בסופו של דבר האיץ הטיות של בני אדם שהובילו לתוצאה שאינה מקובלת בשום מובן. אמזון איננה הקורבן היחיד של פרויקט כזה, אגב. אני מכיר עשרות עסקים שרצים עם פרויקטי AI כרגע עם תוצאות שוות הערכה כי הכלים של AI שלהם הם 'רמאיים מועילים.'
גרוע מכך, רבים מהיוזמות הללו הן מול פנים ללקוח. תדמיינו כלי AI "רמאי מועיל" משתחרר על פני עשור של תגובות מצוותי התמיכה שלך לשאלות ואסמכתאות לקוח. אם הכלי אופטימיזציה למענה על שאלות לקוחות במהירות האפשרית ומקבל אותם מכתפך, הוא יתעלם לחלוטין מכל הזדמנויות לחנך את הלקוחות שלך ואולי לשפר את מכירותיהם. הוא גם יתעלם מרגשות הלקוחות ואולי יוביל לעזיבת יותר לקוחות שלך.
ישנם עוד הרבה מצבים של כשלות מעבר ללעיל. האם אתה מוכן להמר על הכנסות החברה שלך על גבי שלל כלים של "רמאים מועילים"?
כלי ה-AI של 'טיפש חביב'
בעוד ש"רמאים מועילים" לא נראים כל כך גדולים, כלים של "טיפש חביב" יכולים להיות אפילו גרועים יותר. בניסיון לגרום לבוטים להיראות יותר אנושיים, חברות רבות נקטו צעדים לתת לבוטים "אישיות." לצערי, מאמצים אלו מגיעים במחיר של האפקטיביות של כלי ה-AI והערך שהוא מספק ללקוחות. בקצה הקיצור של כלים של 'טיפש חביב' היא דוגמה זו של שני בוטים stuck in infinite loop שמגיבים זה לזה בטוויטר. זו המקבילה המודרנית של שני טיפשיים בכפר שמתקטים זה על זה בכיכר העיר.
דוגמה נוספת ריאליסטית (אך מעצבנת באותה מידה) היא המספר ההולך ומתרומם של הפעמים שהתקשרתי למספר שירות לקוחות רק כדי לשמוע, "שלום! מקווה שאתה חווה יום נהדר! בבקשה אמור בקול את הבעיה שאתה נתקל בו.” מקווה ש- bot’s pleasant “אישיות” יגרום לי לעמוד ולדבר לתוך הטלפון שלי, רק שהבוט לא יבין אותי ויפנה את השיחה שלי.
דוגמה חיה של זה היא ה-chatbot של Vodafone בשם TOBi, שכנראה נהג להפנות לקוחות לצוות העצבות כאשר הם דיווחו ש הטלפונים שלהם “מתים.” למרות הצביטה של עצב שאנחנו כולם מרגישים כאשר טלפון אהוב עושה את דרכו לספק הגדול בשמים, אני לא מאמין שצוות העצבות הוא המקום שבו רוב הלקוחות רוצים להיות מופנים.
אתה יכול לטעון שהבוטים האלה לא "באמת הם AI" ואני מסכים איתך. עם זאת, מניסיוני, הם בהחלט משווקים כך למנהיגים בכירים בחברות ברחבי העולם שמעוניינים לוודא שאינם מפסידים מההזדמנות על הגל הבא של חדשנות. ובחינת הקצב הגבוה של שיחות שירות לקוחות שמתבצעות, אלה הם ביסודו עגרות הכשרה לגרסה הבאה של כלים של "טיפש חביב".
דרך טובה יותר — אולי
לקח אחד עבורי אישית, בהתבסס על הסיפורים ששמעתי מלקוחות והכלים שאני בעצמי משתמש כצרכן, הוא שכלי AI אינם מוכנים להחליף את בני האדם. אנחנו עושים כל כך הרבה דברים טובים, החל מהבנה של הקשר ורגש ועד לתקשורת יעילה והתאמה בהתראה קצרה כאשר התנאים משתנים.
חברה אחת שבאמת מבינה את זה היא ענק שקט בתעשיית הפינטק, PrecisionLender. הטכנולוגיה של AI שלה מאפשרת לבנקים לכתוב את ההלוואה האופטימלית ביותר עבור לקוחות פוטנציאליים. במקביל, זה empowers בנקים שכותבים את ההלוואות להחזיק קשרים טובים יותר ומודעים יותר עם לקוחותיהם, וליהנות להיות יותר מונחה נתונים והרבה יותר אנושי מול הגישה הקודמת שהדגישה תוצאה בינארית, כן/לא.
תארו לכם עתיד שבו אתם באמת לומדים כיצד להשתמש במוצרים של חברה הרבה יותר טוב בכל פעם שאתם מתקשרים לקו התמיכה שלהם. אנחנו בהחלט בהישג יד לעתיד הזה. אחרי הכל, מדוע להסתפק ברמאי מועיל או טיפש חביב כשאתם יכולים לקבל משהו אחר לגמרי: שותפות מועילה באמת?
המאמר הזה הופיע לראשונה מטעם מועצת הטכנולוגיה של פורבס, קהילה עבור CIOs, CTOs ומנהלי טכנולוגיה ברמה עולמית. קראו את הפוסט המקורי כאן.
על פי סקר ה-CEO של PwC שפורסם בקרוב בסוף החודש שעבר, 45% מהארגונים בצפון אמריקה הציגו יוזמות של אינטליגנציה מלאכותית (AI), עם 37% נוספים שמתכננים לעשות זאת בשלוש השנים הבאות. אין זה מפתיע ש tantos CEO לאמץ כלים של אינטליגנציה מלאכותית לאור היתרונות המפורסמים. כ-CEO העובד עם מנהיגים בכירים בעסקים בצמיחה מהירה כדי להעצים את הצוותים המול פנים ללקוחות, אני עדים לפער גדול שמתרחב בין השאיפות של AI לבין המציאות. לא רק זאת, אני רואה שתי קטגוריות של "כשלי AI" - יוזמות שלא מתקרבות להשגת תוצאות צפויות. בדרך כלל מדובר בכלים של AI מסוג "רמאי מועיל" ואילו "טיפש חביב".
כלי ה-AI של 'רמאי מועיל'
בשנת 2014, צוות הלמידה המכונה של אמזון בנה אלגוריתם שנועד לזרז את תהליך סקירת קורות החיים במטרה לעקוף את תהליך האנוש המסורבל והיקר. מחשב יכול לסנן אלפי קורות חיים מהר יותר אפילו מהמלווים המיומנים ביותר. שימוש ב-AI בסיטואציה הזו היה ברווז פיצוץ — על הנייר.
אך בתוך שנה, אמזון הבינה שה-AI לא עבד כפי שקיוו. באמצעות אימון ה-AI על דפוסי שכירה וקורות חיים שהוגשו בעשור הקודם - שהיו נוטים להטות באופן לנשאים גברים - המערכת קבעה כי מועמדים חייבים להיות גברים כדי להיחשב כמועמדים מובילים. קורות חיים שכללו את המילה "אישה" או "נשים", או שציינו מועמדים בוגרי מכללות לנשים, נותרו בדרך כלל מדורגים נמוך יותר. אפילו לאחר שמותמות ידניות לאלגוריתם כדי למנוע את ההטיית הברורה ביותר, המנהלים של אמזון לבסוף איבדו אמון וסגרו את הפרויקט.
דוגמה זו היא טעות בולטת מהסוג של "רמאי מועיל". בעוד שהכלי המגייס של אמזון עשוי היה למלא את תפקידיו ביעילות, הוא בסופו של דבר האיץ הטיות של בני אדם שהובילו לתוצאה שאינה מקובלת בשום מובן. אמזון איננה הקורבן היחיד של פרויקט כזה, אגב. אני מכיר עשרות עסקים שרצים עם פרויקטי AI כרגע עם תוצאות שוות הערכה כי הכלים של AI שלהם הם 'רמאיים מועילים.'
גרוע מכך, רבים מהיוזמות הללו הן מול פנים ללקוח. תדמיינו כלי AI "רמאי מועיל" משתחרר על פני עשור של תגובות מצוותי התמיכה שלך לשאלות ואסמכתאות לקוח. אם הכלי אופטימיזציה למענה על שאלות לקוחות במהירות האפשרית ומקבל אותם מכתפך, הוא יתעלם לחלוטין מכל הזדמנויות לחנך את הלקוחות שלך ואולי לשפר את מכירותיהם. הוא גם יתעלם מרגשות הלקוחות ואולי יוביל לעזיבת יותר לקוחות שלך.
ישנם עוד הרבה מצבים של כשלות מעבר ללעיל. האם אתה מוכן להמר על הכנסות החברה שלך על גבי שלל כלים של "רמאים מועילים"?
כלי ה-AI של 'טיפש חביב'
בעוד ש"רמאים מועילים" לא נראים כל כך גדולים, כלים של "טיפש חביב" יכולים להיות אפילו גרועים יותר. בניסיון לגרום לבוטים להיראות יותר אנושיים, חברות רבות נקטו צעדים לתת לבוטים "אישיות." לצערי, מאמצים אלו מגיעים במחיר של האפקטיביות של כלי ה-AI והערך שהוא מספק ללקוחות. בקצה הקיצור של כלים של 'טיפש חביב' היא דוגמה זו של שני בוטים stuck in infinite loop שמגיבים זה לזה בטוויטר. זו המקבילה המודרנית של שני טיפשיים בכפר שמתקטים זה על זה בכיכר העיר.
דוגמה נוספת ריאליסטית (אך מעצבנת באותה מידה) היא המספר ההולך ומתרומם של הפעמים שהתקשרתי למספר שירות לקוחות רק כדי לשמוע, "שלום! מקווה שאתה חווה יום נהדר! בבקשה אמור בקול את הבעיה שאתה נתקל בו.” מקווה ש- bot’s pleasant “אישיות” יגרום לי לעמוד ולדבר לתוך הטלפון שלי, רק שהבוט לא יבין אותי ויפנה את השיחה שלי.
דוגמה חיה של זה היא ה-chatbot של Vodafone בשם TOBi, שכנראה נהג להפנות לקוחות לצוות העצבות כאשר הם דיווחו ש הטלפונים שלהם “מתים.” למרות הצביטה של עצב שאנחנו כולם מרגישים כאשר טלפון אהוב עושה את דרכו לספק הגדול בשמים, אני לא מאמין שצוות העצבות הוא המקום שבו רוב הלקוחות רוצים להיות מופנים.
אתה יכול לטעון שהבוטים האלה לא "באמת הם AI" ואני מסכים איתך. עם זאת, מניסיוני, הם בהחלט משווקים כך למנהיגים בכירים בחברות ברחבי העולם שמעוניינים לוודא שאינם מפסידים מההזדמנות על הגל הבא של חדשנות. ובחינת הקצב הגבוה של שיחות שירות לקוחות שמתבצעות, אלה הם ביסודו עגרות הכשרה לגרסה הבאה של כלים של "טיפש חביב".
דרך טובה יותר — אולי
לקח אחד עבורי אישית, בהתבסס על הסיפורים ששמעתי מלקוחות והכלים שאני בעצמי משתמש כצרכן, הוא שכלי AI אינם מוכנים להחליף את בני האדם. אנחנו עושים כל כך הרבה דברים טובים, החל מהבנה של הקשר ורגש ועד לתקשורת יעילה והתאמה בהתראה קצרה כאשר התנאים משתנים.
חברה אחת שבאמת מבינה את זה היא ענק שקט בתעשיית הפינטק, PrecisionLender. הטכנולוגיה של AI שלה מאפשרת לבנקים לכתוב את ההלוואה האופטימלית ביותר עבור לקוחות פוטנציאליים. במקביל, זה empowers בנקים שכותבים את ההלוואות להחזיק קשרים טובים יותר ומודעים יותר עם לקוחותיהם, וליהנות להיות יותר מונחה נתונים והרבה יותר אנושי מול הגישה הקודמת שהדגישה תוצאה בינארית, כן/לא.
תארו לכם עתיד שבו אתם באמת לומדים כיצד להשתמש במוצרים של חברה הרבה יותר טוב בכל פעם שאתם מתקשרים לקו התמיכה שלהם. אנחנו בהחלט בהישג יד לעתיד הזה. אחרי הכל, מדוע להסתפק ברמאי מועיל או טיפש חביב כשאתם יכולים לקבל משהו אחר לגמרי: שותפות מועילה באמת?
חוויית הפלטפורמה של Guru מהלך ראשון – קח את סיור המוצר האינטראקטיבי שלנו
