Cavalcare l’onda dell’intelligenza artificiale può essere un’arma a doppio taglio. Lo sta imparando a sue spese Taco Bell, il colosso americano del fast food, la cui implementazione di un assistente vocale AI nei suoi drive-thru si è trasformata in un inaspettato fenomeno social, tra ordini surreali e crash di sistema. Una situazione che ora spinge l’azienda a “riconsiderare” l’intero progetto. Introdotta nel 2023 in almeno 500 ristoranti negli Stati Uniti, l’AI di Taco Bell aveva uno scopo preciso: ridurre gli errori e velocizzare le ordinazioni ai drive-thru. Ma non aveva fatto i conti con la creatività e, a volte, la semplice goliardia dei clienti.
Sui social media, in particolare su TikTok, sono diventati virali numerosi video in cui gli utenti si divertono a sfidare e mandare in tilt il “povero assistente digitale”: c’è l’uomo che ha mandato in crash il software ordinando 18.000 bicchieri d’acqua; quello che ha ordinato centinaia di hamburger e patatine; e, ancora, una giovane che, con un “linguaggio colorito”, ha chiesto un suggerimento per un ordine che le impedisse di avere “disordini intestinali”, costringendo un’operatrice umana a intervenire per assisterla.
Di fronte a questa ondata di video virali, l’azienda si è trovata costretta a rivedere l’utilizzo dell’intelligenza artificiale. Dane Mathews, Chief Digital and Technology Officer di Taco Bell, ha dichiarato al Wall Street Journal che l’implementazione dell’AI vocale ha presentato delle sfide inattese: “A volte mi delude, ma altre volte mi sorprende davvero”, ha ammesso. Mathews ha poi aggiunto che la compagnia sta “imparando molto” da questi episodi ed è in una “fase di riflessione circa il prosieguo nell’utilizzo dell’intelligenza artificiale per prendere nota degli ordini”. Nonostante i problemi, l’azienda fa sapere che sono stati due milioni gli ordini tramite AI che hanno avuto successo, anche se non è chiaro quale sia il numero di errori commessi dal software.
La parziale marcia indietro di Taco Bell non è un caso isolato: segue di pochi mesi una decisione analoga di McDonald’s, che ha interrotto i test con la sua AI dopo tre anni, anche in quel caso a seguito di errori diventati virali. La visione originale di Taco Bell, come aveva spiegato lo stesso Mathews alla CBS lo scorso gennaio, non era quella di eliminare il personale: “L’AI non serve a sostituire il nostro team umano, ma per offrire un’esperienza umana migliore”. Un’esperienza che, a quanto pare, per ora si rivela “migliore” soprattutto per chi cerca un modo divertente per ottenere qualche migliaio di visualizzazioni sui social, dimostrando che l’imprevedibilità umana è ancora un ostacolo insormontabile per l’algoritmo.
