Un agente AI prepara una risposta a un cliente, aggiorna il CRM, modifica un file, apre una richiesta di rimborso e programma l’invio di un’email. A quale passaggio deve fermarsi e chiedere il permesso? E quando, invece, può continuare mentre una persona controlla dall’alto?
È qui che entra in gioco la differenza tra human-in-the-loop e human-on-the-loop, IN da una parte e ON dall’altra. Nel primo modello l’essere umano è un passaggio obbligatorio del processo: senza la sua approvazione l’azione non parte. Nel secondo l’agente lavora in autonomia entro limiti prestabiliti, mentre una persona osserva indicatori, controlla campioni e può intervenire o fermare il sistema. Non è una scelta ideologica tra controllo e libertà: dipende dal rischio, dalla reversibilità dell’azione e dalla capacità di accorgersi in tempo di un errore.
La distinzione è particolarmente importante nei sistemi agentici usati in azienda. Un chatbot propone parole; un agente può usare strumenti e produrre effetti nel mondo: inviare, acquistare, modificare, pubblicare, cancellare. Più l’AI passa dal “dire” al “fare”, più occorre progettare con precisione il ruolo umano.
Che cosa significa human-in-the-loop
Human-in-the-loop (HITL) significa che una persona è dentro il flusso operativo. L’agente può analizzare dati, formulare una proposta o preparare un’azione, ma incontra un punto di controllo obbligatorio. L’umano approva, corregge o respinge; soltanto dopo il sistema può proseguire.
È il modello adatto quando una decisione può produrre conseguenze economiche, legali, sanitarie, reputazionali o difficili da annullare. Non basta mostrare un pulsante “Approva”: la persona deve ricevere il contesto necessario, avere tempo sufficiente e poter davvero cambiare la decisione.
Per esempio, un agente classifica ogni notte centinaia di documenti interni. Il responsabile non conferma ogni etichetta, ma controlla un campione, osserva il tasso di errore e riceve un avviso se cresce oltre la soglia. Le classificazioni restano tracciate e correggibili.
Human-in-the-loop vs human-on-the-loop: la differenza in tabella
| Aspetto | Human-in-the-loop | Human-on-the-loop |
|---|---|---|
| Ruolo umano | Approva o corregge prima dell’azione | Supervisiona il sistema mentre opera |
| Flusso predefinito | L’agente si ferma | L’agente continua |
| Controllo | Su ogni caso sensibile | Su metriche, anomalie e campioni |
| Velocità | Più bassa e legata alla disponibilità umana | Più alta e scalabile |
| Uso tipico | Decisioni ad alto impatto o poco reversibili | Attività a basso rischio, osservabili e reversibili |
| Rischio principale | Approvazioni frettolose e “fatica da conferma” | Accorgersi troppo tardi di una deriva |
| Strumenti necessari | Gate, spiegazioni, confronto e possibilità di rifiuto | Log, soglie, alert, audit e arresto immediato |
Attenzione: on-the-loop non significa out-of-the-loop
Esiste una terza condizione: human-out-of-the-loop. L’AI decide e agisce senza approvazione puntuale, senza supervisione operativa efficace o senza una reale possibilità di intervento. Non è un sinonimo di human-on-the-loop.
La differenza sembra sottile finché non arriva un incidente. Se il supervisore riceve un report il giorno dopo, quando l’agente ha già inviato mille comunicazioni sbagliate, non era davvero “sopra il circuito”: era fuori dal circuito.
Il tema è noto da molto prima dell’AI generativa. Nel paper “Ironies of automation” del 1983, Lisanne Bainbridge osservava un paradosso ancora attuale: più il sistema automatizza il lavoro ordinario, più alla persona restano i casi rari e difficili, proprio quelli per cui è complicato mantenere allenamento e consapevolezza. Mica Endsley ha poi analizzato il problema nel lavoro “From Here to Autonomy”, collegandolo alla perdita di consapevolezza situazionale quando l’essere umano viene allontanato troppo dal processo.
La matrice pratica: rischio, reversibilità, osservabilità e tempo
L’articolo di Bajara Notes da cui nasce questa riflessione propone un criterio molto concreto per i team di sviluppo: guardare il costo dell’errore e la reversibilità dell’azione. È una buona base, che possiamo estendere a qualsiasi progetto agentico con quattro domande.
- Quanto è grave un errore? Una bozza imperfetta non equivale a un bonifico errato.
- L’azione è reversibile? Rinominare un file con cronologia è diverso dal cancellare dati o inviare una comunicazione pubblica.
- L’errore è osservabile? Possiamo accorgercene con test, metriche o controlli automatici?
- Quanto tempo abbiamo per intervenire? Un alert utile dopo un’ora può essere inutile in un processo che produce danni in pochi secondi.
| Rischio e reversibilità | Modello consigliato | Esempio |
|---|---|---|
| Basso rischio, facile annullamento | Human-on-the-loop | Ordinare documenti interni con cronologia delle modifiche |
| Rischio medio, errore rilevabile prima dell’impatto | On-the-loop con soglie ed escalation | Aggiornare campi non critici del CRM e isolare i casi incerti |
| Rischio alto o annullamento costoso | Human-in-the-loop | Concedere un rimborso, pubblicare un listino, inviare un contratto |
| Impatto critico o irreversibile | Più controlli umani e separazione dei ruoli | Pagamento, terapia, rilascio in produzione o decisione sul personale |
Otto esempi concreti di human-in-the-loop
1. Email a clienti e comunicazioni pubbliche
L’agente raccoglie i dati, prepara il testo e suggerisce i destinatari. Una persona verifica tono, fatti, allegati e lista di invio. È un controllo necessario soprattutto per crisi, reclami, variazioni di prezzo e comunicazioni legali.
2. Rimborsi, pagamenti e ordini
L’AI può controllare policy e documenti, ma l’azione che muove denaro richiede autorizzazione. Si può introdurre una soglia: piccoli rimborsi standardizzati vengono gestiti automaticamente; quelli anomali o sopra un importo definito arrivano a un responsabile.
3. Selezione del personale
Un agente può riordinare candidature e mettere in evidenza competenze dichiarate. Non dovrebbe trasformare un punteggio opaco in un rifiuto automatico. Il recruiter deve poter vedere i dati usati, correggere il risultato e valutare elementi che il sistema non conosce.
4. Sanità e percorsi di cura
L’AI può segnalare una possibile anomalia o preparare un riepilogo clinico; diagnosi e terapia richiedono giudizio professionale. Nel mio approfondimento su AI e ruolo del medico il punto centrale è proprio questo: supporto e sostituzione non sono la stessa cosa.
5. Contratti e pareri legali
L’agente confronta clausole, segnala differenze e propone una bozza. Un professionista controlla interpretazione, giurisdizione e rischio prima che il documento venga condiviso o firmato.
6. Deploy e modifiche a database di produzione
L’agente può scrivere codice, test e documentazione in un ambiente isolato. Il passaggio in produzione, una migrazione di dati o la modifica di credenziali richiedono un gate umano, spesso con una seconda approvazione.
7. Decisioni su credito, assicurazioni e frodi
Il sistema può ordinare i casi per rischio. Se blocca un conto, rifiuta una pratica o modifica un premio, serve un riesame effettivo: non una firma automatica su un punteggio incomprensibile.
8. Pubblica amministrazione e servizi essenziali
Un agente può verificare la completezza di una domanda e preparare l’istruttoria. La decisione che incide su diritti, benefici o accesso a un servizio deve restare contestabile e attribuita a un responsabile. È un’applicazione concreta del tema affrontato nell’articolo sull’intelligenza artificiale nella Pubblica Amministrazione.
Otto esempi concreti di human-on-the-loop
1. Classificazione di documenti interni
L’agente assegna cartelle e metadati. Il supervisore controlla campioni settimanali e riceve un alert se aumenta la percentuale di documenti classificati con bassa confidenza.
2. Arricchimento del CRM in modalità reversibile
L’agente completa settore, dimensione e informazioni pubbliche sulle aziende, senza modificare campi critici. Ogni variazione è registrata e può essere annullata; i conflitti vengono inviati a una persona.
3. Preparazione di report ricorrenti
L’AI raccoglie dati da più fonti e genera una sintesi interna. Il responsabile non approva ogni report, ma controlla indicatori di qualità, citazioni e anomalie. Se il documento deve uscire dall’azienda, si aggiunge un gate.
4. Ricerca documentale con escalation
L’agente cerca informazioni, confronta fonti e produce una risposta con link verificabili. Se le fonti sono insufficienti o in conflitto, non improvvisa: chiede aiuto.