La demo funziona sempre. È la produzione che rimette in discussione tutto.
Collegate un LLM a un paio di API, gli date qualche strumento e in due settimane avete un agente AI che fa un figurone in riunione. Tutti annuiscono e qualcuno dice «impressionante».
Poi, con l’assistente AI agentico in produzione, arrivano i clienti veri: conversazioni a ciclo continuo, nessuno che guarda, appuntamenti da prendere e dati da scrivere in un CRM che non è vostro.
Lì si scopre che il modello è la parte più piccola del problema.
Racconto i cinque punti in cui si rompe tutto e cosa conviene fare diversamente. Non è una guida teorica: è la lista delle cose che avrei voluto sapere prima.
L’architettura, in due righe
Un LLM per il ragionamento, un motore di sintesi vocale, un layer RAG per la conoscenza specifica del cliente, un’integrazione CRM per leggere e scrivere lo stato reale e, sotto, un’infrastruttura cloud.
Detta così sembra un problema di integrazione. È invece un problema di controllo: ogni componente aggiunge un nuovo modo in cui il sistema può comportarsi diversamente dal previsto. E in produzione l’inatteso non è un caso limite: è il martedì.
I guardrail non sono globali. Sono per cliente.
Il primo istinto è scrivere un insieme di regole valido per tutti. Regge fino al terzo cliente.
Ogni azienda ha vincoli diversi su cosa l’assistente può dire, cosa può promettere, quali informazioni può rivelare e come deve comportarsi quando la conversazione degenera. Un assistente che gestisce lead per un’officina e uno che li gestisce per uno studio professionale non possono avere lo stesso perimetro. Non è una preferenza: è responsabilità legale del cliente.
La conseguenza architetturale è netta: i guardrail sono configurazione, non codice. Devono essere versionati per cliente, testabili in isolamento e modificabili senza un rilascio.
E soprattutto: vanno imposti fuori dal prompt.
Un vincolo scritto solo nelle istruzioni è un vincolo negoziabile: basta la richiesta giusta dall’altra parte. I limiti che contano si applicano a livello di sistema: strumenti che l’agente semplicemente non possiede, azioni che richiedono un secondo passaggio, output validati prima di uscire.
Se il vostro unico guardrail è una frase nel system prompt, non avete un guardrail. Avete una speranza.
La voce non è un modulo. Cambia l’architettura.
Aggiungere la voce sembra un’estensione. È una riscrittura dei vincoli.
In una conversazione scritta, due secondi di attesa passano inosservati. In una conversazione vocale sono un silenzio imbarazzante: l’interlocutore pensa che sia caduta la linea oppure inizia a parlare sopra.
Questo mette sotto pressione ogni scelta a monte:
- Quanto contesto recuperare dal RAG prima di rispondere;
- Quanti passaggi di ragionamento concedere al modello;
- Quando iniziare a sintetizzare l’audio, prima che il testo sia completo.
La latenza smette di essere una metrica di prestazione e diventa un vincolo di progettazione del prodotto.
Poi c’è il barge-in: le persone interrompono. Un sistema che continua a parlare mentre l’altro parla suona artificiale in pochi secondi, per quanto realistica sia la voce sintetica.
Il CRM non perdona
Finché l’agente conversa, un errore è recuperabile. Nel momento in cui scrive all’interno del CRM, l’errore diventa un dato sbagliato dentro il sistema di qualcun altro.
Da qui, due lezioni:
- Le scritture devono essere idempotenti. Un agente che ritenta dopo un timeout non deve creare un secondo appuntamento. Sembra ovvio, ma è la prima cosa che si scopre in produzione, di solito con una telefonata del cliente;
- Intenzione e azione vanno separate. L’agente decide cosa fare; un layer deterministico decide se quell’azione è ammissibile, in quel momento, su quei dati. Delegare al modello anche la validazione dello stato significa affidare a un componente probabilistico una decisione che deve essere binaria.
State misurando la cosa sbagliata
All’inizio tutti guardano la qualità della conversazione: è interessante, ma non è la metrica che conta.
Quello che conta sta a valle:
- Quanti contatti diventano appuntamenti;
- Quanti appuntamenti diventano vendite;
- Quanti casi vengono ridirezionati verso un operatore umano.
Sono numeri noiosi, ma sono gli unici che raccontano la verità.
Uno dei casi più eclatanti è quello di conversazioni soggettivamente migliori a fronte di una conversione in calo: l’assistente diventa più cortese e meno diretto, e chiude meno appuntamenti. Senza la metrica a valle, un peggioramento passa per un successo.
Il fallimento va progettato prima
Un agente in produzione fallirà: non è un’ipotesi. La domanda è solo come.
Tre cose da decidere prima del rilascio, non dopo il primo incidente:
- Quando l’agente deve dichiarare di non sapere invece di tentare;
- Quando deve passare la conversazione a una persona;
- Cosa succede al contesto in quel passaggio.
L’ultimo punto è quello che sbagliano quasi tutti. Un cliente costretto a ripetere tutto da capo all’operatore vive un’esperienza peggiore di quella che avrebbe parlando subito con un umano. Si aggiunge attrito invece di ridurlo.
Il passaggio di consegne è la parte meno affascinante del progetto ed è quella su cui si gioca la percezione di qualità.
Dove si vede la differenza
Un assistente di questo tipo, quando regge davvero la produzione, arriva a gestire in autonomia interi flussi: generazione di contatti, appuntamenti, assistenza.
Ma il punto è che nessuno di quei risultati arriva dalla parte intelligente del sistema. Arrivano dai guardrail, dall’idempotenza, dalla gestione della latenza, da un’escalation fatta bene.
La demo la fa il modello. La produzione la fa tutto il resto.
Da dove partirei
Se state portando un agente oltre la demo, questo è l’ordine di investimento che consiglio:
- Guardrail come configurazione per cliente, imposti a livello di sistema;
- Latenza trattata come vincolo di prodotto, non come metrica tecnica;
- Scritture idempotenti e validazione deterministica separata dal modello;
- Metriche di business a valle, non qualità percepita della conversazione;
- Escalation progettata prima del rilascio, contesto incluso.
Se avete già superato questa soglia, dove si è rotto per primo il vostro sistema? Le risposte a questa domanda valgono più di qualsiasi documentazione.




