Is Your AI Tool A Competent Jerk Or A Lovable Fool?

Bu makale, dünya çapında CIO'lar, CTO'lar ve teknoloji yöneticileri için bir topluluk olan Forbes Teknoloji Konseyi adına yayınlanmıştır. Orijinal gönderiyi okumak için buraya.

Geçen ayın sonunda yayımlanan PwC CEO Anketi

'Yeterli Şeytan' AI Aracı

2014 yılında, Amazon'daki makine öğrenimi ekibi, özgeçmiş inceleme sürecini hızlandırmak için tasarlanmış bir algoritma geliştirdi; amaç geleneksel olarak yavaş ve maliyetli olan insan odaklı sürecin aşılmasıydı. Bir bilgisayar, en deneyimli ve hızlı okuyucuların bile gerçekleştiremeyeceği şekilde binlerce özgeçmişi daha hızlı bir şekilde tarayabilir. Bu durumda yapay zeka kullanmak kağıt üzerinde mükemmel bir çözüm gibiydi.

Bir yıl içinde, ancak Amazon AI'nin bekledikleri gibi çalışmadığını fark etti. AIyi daha önceki on yılda sunulan işe alım örüntüleri ve özgeçmişler üzerinden eğiterek – ki bunlar genellikle aşırı erkek odaklıydı – sistem, adayların en iyi adaylar olarak değerlendirilmesi için erkek olması gerektiğine karar verdi. "Kadın" veya "kadınlar" kelimesini içeren özgeçmişler ya da bazı kadın kolejlerinin mezunları olarak listelenen adaylar otomatik olarak düşük puan aldı. En belirgin yanlılıkları önlemek için algoritmaya manuel ayarlamalar yapılsa bile, Amazon yöneticileri en sonunda umudu kaybetti ve projeyi kapattılar.

Bu örnek, “yeterli şeytan” türünden yüksek profilli bir hatadır. Amazon’un AI işe alım aracı görevlerini sadakatle yerine getirse de, insanlardan gelen yanlılıkları artırarak, herhangi bir şekilde kabul edilemez bir sonuca yol açtı. Bu proje kurbanı olan tek şirket Amazon değil bu arada. Şu anda yapay zeka projeleri yürütmekte olan ve AI araçlarının “yeterli şeytan” olduğu için eşit derecede hayal kırıklığına uğramış sonuçlarla tanıdığım onlarca işletme var.

Daha kötüsü, bu girişimlerin birçoğu müşteri odaklıdır. Bir “yeterli şeytan” yapay zeka aracının destek görevlisinin müşterilere sorularına ve taleplerine verdiği yanıtların on yıl boyunca kaydedildiğini hayal edin. Eğer bu aracı müşteri sorularını mümkün olan en hızlı şekilde yanıtlamak ve onları başınızdan atmak için optimize ederse, müşterilerinizi eğitmek için her türlü fırsatı tamamen yoksayacak ve belki de onlara daha fazla satış yapma şansını tamamen kaçıracaktır. Ayrıca müşteri duygularını da göz ardı edecek ve belki de daha fazla müşterinizin ayrılmasına yol açacaktır.

Yukarıdakilerin ötesinde birçok başka başarısızlık modu vardır. Bir grup “yeterli şeytan” AI araçları üzerine şirketinizin gelirini bahse yatırmaya istekli misiniz?

'Sevimli Aptal' AI Aracı

“Yeterli şeytanlar” pek de hoş görünmüyorsa, “sevimli aptal” AI araçları daha kötü olabilir. Chatbot’ların daha insana benzeyen bir görünüm kazanmasını sağlamak için birçok şirket çabalar göstermiştir. Ne yazık ki, bu çaba AI aracının etkinliği ile ve müşterilere sağladığı değerle ilgili bir bedel gerektirmektedir. “Sevimli aptal” AI araçlarının en uç örneği de bu iki botun sonsuz bir döngüde birbirine yanıt verdiği örnektir. Bu, günümüzde kasabanın meydanında birbiriyle bağıran iki köy delisinin modern eşdeğeri.

Daha gerçekçi ve aynı zamanda rahatsız edici bir örnek, müşteri destek telefon numarasını aradığımdaki artan sayıdır; sadece “Merhaba! Umarım harika bir gün geçiriyorsunuz! Lütfen sorununuzu yüksek sesle söyleyin.” Botun hoş “kişiliğinden” umutlu olup, telefonuma konuşuyorum ama bot beni yanlış anlıyor ve aramayı yönlendiriyor.

Gerçek hayattaki bir örnek, Vodafone’un TOBi adlı ticaret chatbot’u, müşterilerinin “ölü” olduğunu rapor ettiğinde onları yas ekibine yönlendirdiği iddia ediliyor. Sevdiğimiz bir telefonun gökyüzündeki büyük sağlayıcıya doğru yola çıkmasıyla hissettiğimiz hüzün, çoğu müşterinin yönlendirilmek istemeyeceği bir durumdur.

Bu botların “gerçekten yapay zeka” olmadığına itiraz edebilirsiniz ve bu konuda size katılırım. Ancak deneyimime göre, kesinlikle dünyadaki şirketlerin üst düzey yöneticilerine, bir sonraki büyük yenilik dalgasını kaçırmamaları için bu şekilde pazarlanıyorlar. Ve gerçekleşen yüksek müşteri hizmetleri aramaları sayesinde, bunlar “sevimli aptal” AI araçlarının bir sonraki nesli için harika bir eğitim alanıdır.

Belki de daha iyi bir yol

Kişisel olarak benim için bir çıkarım, müşteri hikayelerinden ve kendim bir tüketici olarak kullandığım araçlardan elde ettiğim bilgilerden, AI araçlarının insanları yerinden etme konusunda hazır olmadıklarıdır. Bağlamı, duyguyu ve deyimleri anlama gibi birçok şeyi iyi yapıyoruz; başlamakta olan durumlardaki değişikliklere anında uyum sağlıyoruz.

Gerçekten bunu anlayan bir şirket de fintech endüstrisindeki sessiz bir dev olan PrecisionLender'dır. Yapay zeka teknolojisi, bankaların potansiyel müşterilere en uygun krediyi yazabilmelerini sağlıyor. Aynı zamanda, kredi veren bankacıların müşterileriyle daha bilgilendirici, daha iyi ilişkiler kurmalarını ve önceki yaklaşımda vurgulanan ikili, evet/hayır sonucu daha veri odaklı ve insani bir şekilde olmalarını sağlıyor.

Bir şirketin ürünlerini her aradığınızda daha iyi kullanmayı öğrendiğinizi hayal edin. Kesinlikle bu geleceğin eşiğindeyiz. Sonuçta, neden “yeterli şeytan” veya “sevimli aptal”la yetinmelisiniz ki, tamamen başka bir şey elde edebilirsiniz: gerçekten faydalı bir ortaklığı?