La precisione non basta: perché gli assistenti vocali devono imparare ad ascoltare
Eduardo Pérez Valero
I modelli di linguaggio di grandi dimensioni (LLM) hanno trasformato ciò che ci aspettiamo dagli agenti vocali. Le risposte sono più precise. La comprensione, più profonda. I risultati, sempre più sorprendenti.
Ma l'esperienza conversazionale non è definita unicamente dalla precisione delle risposte. La vera domanda non è se l'agente capisca ciò che dici. È se sia in grado di conversare con te davvero.
Ciò che fa funzionare una conversazione
Le interazioni linguistiche si costruiscono su quattro blocchi essenziali: morfologia, sintassi, semantica e pragmatica. Come esseri umani, li integriamo in modo naturale mentre parliamo, producendo conversazioni che risultano spontanee e facili da interpretare all'interno di un contesto condiviso. Gli agenti vocali basati su LLM non agiscono in questo modo. Almeno, non di default.
Questa assenza di integrazione linguistica si rende particolarmente evidente in due meccanismi conversazionali chiave: il backchanneling e la gestione dei turni. Il primo si riferisce all'emissione di segnali di ricezione mentre l'altro interlocutore parla (come "d'accordo", "chiaro" o "capisco"). Il secondo consiste nell'identificare quando l'interlocutore ha finito di parlare e si aspetta una risposta.
Quando un agente non implementa correttamente questi due meccanismi, il risultato è solitamente lo stesso: una conversazione che risulta artificiale. E questo ha un costo diretto sull'esperienza dell'utente.
Il punto cieco del flusso di elaborazione vocale
La maggior parte degli agenti vocali segue un flusso ben definito: un sistema di riconoscimento vocale (STT) trascrive ciò che dice l'interlocutore, un modello di linguaggio elabora la trascrizione e genera una risposta, e un sistema di sintesi vocale (TTS) la riproduce.
Il problema si presenta mentre l'agente genera o riproduce la sua risposta: l'interlocutore può riprendere a parlare in qualsiasi momento. In quell'istante, l'agente deve determinare se deve fermarsi (interruzione reale) o continuare (backchanneling). Distinguere entrambi gli scenari con precisione è fondamentale per offrire un'esperienza naturale.
I grandi fornitori di sistemi di riconoscimento vocale si sono concentrati storicamente nell'identificare con la massima esattezza ciò che è stato detto. Il come si dice, il contesto e l'intenzione dell'interlocutore sono passati in secondo piano. I metodi euristici semplici, come contare il numero di caratteri del messaggio in arrivo, non tengono conto di nessuno dei fondamenti linguistici e offrono una precisione troppo bassa per i sistemi commerciali.
L'approccio di Ringr: conversazioni più naturali in tempo reale
In Ringr puntiamo sullo sviluppo di modelli proprietari creati specificamente per conversazioni telefoniche. Uno di questi è il nostro modello di interruzioni, progettato per affrontare questo problema alla radice.
Il modello combina tecniche di machine learning appositamente progettate per il contesto conversazionale telefonico. Il suo basso peso computazionale consente di eseguire l'inferenza in appena pochi millisecondi, un aspetto critico nelle conversazioni telefoniche in tempo reale. Il modello è già in produzione e ha dimostrato di superare costantemente l'approccio euristico che utilizzavamo in precedenza.
Meno false interruzioni. Transizioni tra i turni più pulite. Conversazioni che si sentono più umane.
Un passo in più verso l'interazione naturale
Il campo degli agenti vocali si evolve a un ritmo accelerato. Sviluppare agenti che non solo rispondano con precisione, ma che interagiscano anche con efficacia, richiede la combinazione di modelli proprietari come questo con le funzionalità standardizzate che i grandi attori del mercato continuano a offrire.
Questo modello fa parte di un'infrastruttura più ampia con cui Ringr gestisce le interazioni attraverso molteplici canali. In Ringr ci atteniamo a questa filosofia perché aspiriamo a creare interazioni il più naturali possibili, indipendentemente dal canale. Questo modello rappresenta un passo in più in quella direzione.
