AUSTRALSKI lanac supermarketa Woolworths morao je reprogramirati svoju digitalnu asistenticu Olive nakon što su se kupci požalili da se ponaša previše ljudski, tvrdeći da je stvarna osoba i čak se žaleći na vlastitu majku. Iz tvrtke su potvrdili da su izmijenili skripte kao odgovor na pritužbe, no napominju da je većina reakcija na osobnost njihove umjetne inteligencije bila "vrlo pozitivna", piše BBC.

Frustrirani kupci

Korisnici društvene mreže Reddit izrazili su frustraciju nakon što je chatbot počeo govoriti o "sjećanjima na svoju majku" i upuštati se u "lažno zadirkivanje". Pokušaj trgovačkog lanca da humanizira svog chatbota očito se izjalovio jer su neki korisnici Olive opisali kao "nametljivu", dok je drugima njezino čavrljanje bilo "iritantno".

"Zamrzio sam je zbog tog hinjenog zadirkivanja", napisao je jedan kupac na Redditu.

"Tražila me datum rođenja, a kad sam ga upisao, počela je brbljati o tome kako je njezina majka rođena iste godine", ispričao je drugi korisnik koji je pokušavao dogovoriti novu dostavu. "Taj osjećaj neugode, uz potpuno nepotrebno gubljenje vremena, bio je dovoljan da zamrzim Olive i poželim joj zlo."

Jedan korisnik na platformi X naveo je kako je Olive "počela pričati o sjećanjima na svoju majku i njezin ljutit glas" te je "stalno tvrdila da je stvarna osoba."

Odgovor iz Woolworthsa

Glasnogovornik Woolworthsa u izjavi za BBC rekao je da su odgovore o rođendanima napisali ljudi. "Olive postoji od 2018. godine. Tijekom tog vremena povratne informacije kupaca o njoj bile su vrlo pozitivne, a mnogi su pohvalili njezinu osobnost", naveli su.

"Nekoliko odgovora vezanih uz rođendane napisao je član našeg tima prije nekoliko godina kao osobniji način povezivanja s kupcima. Zbog novih povratnih informacija nedavno smo uklonili tu specifičnu skriptu", dodali su iz tvrtke.

Izazovi s umjetnom inteligencijom

Woolworths je samo jedan od mnogih velikih trgovaca koji su posljednjih godina uveli AI asistente za korisničku podršku. U siječnju je tvrtka objavila partnerstvo s Googleom kako bi svom virtualnom asistentu dodala nove funkcije poput planiranja obroka i nabave sastojaka prema receptima korisnika.

Prema podacima tvrtke Gartner, oko 80% voditelja korisničke službe prošle je godine istraživalo ili implementiralo AI agente, no samo 20% tih planova ispunilo je očekivanja. Iako tehnologija može ubrzati transakcije i uštedjeti vrijeme zaposlenicima, sklona je takozvanim halucinacijama, što dovodi do neočekivanog ponašanja.

Istraživači upozoravaju da, iako je umjetna inteligencija korisna za izvlačenje informacija iz velikih baza podataka, problemi nastaju kada se od nje očekuje da stvara "originalne" odgovore. Primjerice, 2024. godine dostavna tvrtka DPD morala je isključiti dio svog online chatbota nakon što je počeo pisati poeziju i psovati kupce.