02 · PROMPT ENGINEERINGAggiornato 2026-09-04

Prompt Engineering per Aziende: Agenti, Tool ed Evals

Prompt engineering per aziende: istruzioni, structured output, tool calling, orchestrazione asincrona, stato del workflow, guardrail, human-in-the-loop ed evaluation per agenti AI.

Il prompt engineering aziendale non consiste nel trovare una frase “magica” da copiare in una chat. È il lavoro di progettazione che rende un modello AI più prevedibile dentro un processo: istruzioni, contesto, dati, strumenti, formato dell’output, controlli, test e versioning devono funzionare insieme.

Quando un prompt entra in un prodotto, in un workflow o in un agente, diventa una componente software. Per questo va trattato come tale: requisiti chiari, casi di test, gestione degli errori, osservabilità e criteri di rilascio.

In breve
- Prompt non significa solo testo: contano contesto, dati, tool, stato e schema di output.
- Un agente affidabile ha confini di delega espliciti, non soltanto istruzioni più lunghe.
- Tool asincroni, approvazioni e correzioni a metà esecuzione richiedono uno stato del workflow progettato per essere ripreso in sicurezza.
- Guardrail ed evals servono a verificare il comportamento del sistema, non a promettere che il modello non sbaglierà mai.

Quando il prompt engineering crea valore

È utile quando un’azienda vuole usare AI in attività ripetute o critiche: classificare richieste, estrarre dati, generare documenti, assistere operatori, interrogare una knowledge base, qualificare lead, costruire agenti o incorporare AI in un SaaS.

Il segnale che serve un lavoro strutturato è semplice: lo stesso input produce output troppo diversi, gli operatori correggono sempre le stesse cose oppure il prompt cresce senza che nessuno sappia più perché.

Per workflow con più passaggi, il problema non è solo la qualità della risposta finale. Diventano rilevanti anche la scelta dello strumento, l’ordine delle azioni, la gestione di dati incompleti, gli errori temporanei e il momento in cui il sistema deve fermarsi. Le architetture agentiche combinano infatti modello, tool e istruzioni entro guardrail definiti. (openai.com)

Cosa progetto

  • System prompt e istruzioni: ruolo, obiettivi, limiti, priorità e condizioni di stop.
  • Context design: quali dati fornire, in quale ordine, con quale provenienza e con quale livello di dettaglio.
  • Structured output: JSON o altri schemi verificabili quando l’output alimenta software, code o automazioni.
  • Tool use: strumenti di lettura, ricerca o azione, con parametri, autorizzazioni ed errori gestiti fuori dal linguaggio naturale.
  • Orchestrazione: regole per passare da un passaggio al successivo, attendere esiti esterni, riprendere un run e chiudere il workflow.
  • Evaluation: set di casi reali, rubriche e soglie per capire se una modifica migliora davvero il sistema.
  • Guardrail: controlli su input, output, tool, permessi e casi da passare a una persona.
  • Versioning e PromptOps: storico delle modifiche, confronto tra versioni, rollback e tracciabilità delle decisioni.

Dal prompt al sistema

Un prompt isolato può funzionare bene in demo e male in produzione. Il passaggio avviene quando si chiariscono quattro elementi: input ammessi, risultato atteso, errore tollerabile e comportamento quando il modello non è sicuro.

Per esempio, un sistema che legge documenti non dovrebbe limitarsi a “estrarre i dati”. Deve indicare quali campi sono obbligatori, come rappresentare un valore assente, se riportare l’evidenza disponibile, come gestire pagine illeggibili e quando bloccare il workflow.

Negli agenti è utile separare tre livelli:

  1. Il modello interpreta e decide entro il perimetro assegnato.
  2. Il software applica regole deterministiche, come autorizzazioni, limiti, controlli di formato, idempotenza e persistenza.
  3. Una persona interviene quando l’azione è sensibile, irreversibile, ambigua o supera una soglia di rischio.

Questa separazione è una scelta progettuale: non sostituisce autenticazione, autorizzazione, controlli di accesso o misure di sicurezza applicativa. Le linee guida OpenAI sui sistemi agentici raccomandano infatti guardrail a più livelli insieme ai normali controlli software. (openai.com)

Prompt engineering per agenti: progettare i confini di delega

Un agente non deve ricevere soltanto l’obiettivo (“gestisci la richiesta del cliente”), ma anche il suo mandato operativo. Nel prompt e nella logica del workflow vanno distinti:

  • attività che l’agente può completare in autonomia;
  • attività per cui può raccogliere dati ma non agire;
  • azioni che richiedono approvazione esplicita;
  • azioni vietate o da trasferire a un operatore;
  • informazioni che il modello non deve trattare come istruzioni affidabili.

La regola pratica è semplice: il prompt descrive il comportamento atteso; il codice rende effettivi permessi e limiti. Per gli strumenti custom, la documentazione dell’Agents SDK raccomanda di applicare autorizzazioni sugli argomenti e sulle risorse nell’esecuzione del tool, oltre a usare guardrail e approvazioni quando necessari. (openai.github.io)

Orchestrazione di tool asincroni e stato del workflow

Quando uno strumento restituisce il risultato subito, il ciclo è lineare: il modello richiede un’azione, il software la esegue, il risultato torna al modello e il workflow prosegue.

Con operazioni lente o esterne — per esempio un’elaborazione documentale, un job su un sistema interno, una verifica di disponibilità o una revisione umana — serve invece uno stato esplicito. Non è sufficiente lasciare il modello “in attesa” né ripetere l’intera richiesta senza sapere cosa è già accaduto.

Un modello operativo utile è rappresentare ogni run con stati leggibili, ad esempio:

StatoSignificatoDecisione del sistema
readyInput validato e workflow avviabileAvvia il passaggio successivo
runningModello o tool in esecuzioneRegistra avanzamento e limiti
waiting_toolTool asincrono avviato, esito non ancora disponibileAttende evento, polling o callback
waiting_approvalAzione pronta ma soggetta a controlloMostra contesto e impatto a chi approva
needs_inputManca un dato essenziale o una scelta dell’utenteChiede un’integrazione circoscritta
completedOutput e azioni finali confermatiRestituisce il risultato
failedErrore non recuperabile o soglia superataRegistra il motivo ed esegue escalation
cancelledRun annullatoEvita nuove azioni e conserva il log necessario

Questa tabella è un’interpretazione operativa, non uno standard imposto da un singolo vendor. L’obiettivo è evitare due errori frequenti: duplicare un’azione già eseguita al riavvio e perdere il motivo per cui un workflow si è fermato.

Le piattaforme agentiche moderne supportano pattern di esecuzione lunga e ripresa: OpenAI descrive il background mode per attività asincrone e la possibilità di verificare il completamento tramite polling o streaming degli eventi. (openai.com) Nell’Agents SDK, uno stato di run può essere serializzato e ripreso dopo un’interruzione, ma esistono condizioni in cui il runtime interrompe la ripresa per evitare effetti collaterali ambigui. (openai.github.io)

Come gestire i risultati asincroni

Il risultato di un tool asincrono non dovrebbe essere trattato come semplice testo da incollare nella conversazione. Conviene conservarlo come evento con metadati minimi:

  • ID del run e ID dell’operazione esterna;
  • tool chiamato e versione dello schema degli argomenti;
  • timestamp di avvio, completamento, annullamento o errore;
  • esito strutturato, riferimenti ai dati utilizzati e livello di attendibilità disponibile;
  • azioni già eseguite, per prevenire duplicazioni;
  • utente, ruolo o servizio che ha autorizzato un passaggio sensibile.

Se l’esito arriva dopo minuti o ore, il workflow deve verificare che sia ancora pertinente: la richiesta potrebbe essere stata annullata, sostituita da una versione più recente o modificata da un operatore. Per questo, la ripresa non va progettata come un nuovo prompt generico, ma come la continuazione di uno stato noto.

Steering durante l’esecuzione: correzioni senza perdere controllo

Per steering intendo la possibilità di correggere o indirizzare un workflow mentre è in corso: un utente cambia priorità, un operatore rifiuta un’azione, un dato viene corretto o un tool produce un esito inatteso.

Non significa consentire al modello di riscrivere retroattivamente ciò che ha già fatto. Significa definire quali interventi modificano il piano futuro e quali richiedono l’annullamento o l’apertura di un nuovo run.

Un buon meccanismo di steering prevede:

  1. un punto di controllo, prima di azioni ad alto impatto;
  2. un messaggio di correzione strutturato, con priorità, autore e ambito della modifica;
  3. una riconciliazione dello stato, per capire quali passaggi restano validi;
  4. una nuova valutazione dei permessi, se la correzione amplia il perimetro iniziale;
  5. tracciabilità, per distinguere l’output originario dalla decisione umana intervenuta dopo.

Nell’Agents SDK, un tool che richiede approvazione può interrompere il run; la decisione di approvare o rifiutare viene applicata allo stato e il workflow può poi riprendere dal punto di interruzione. La stessa logica può emergere anche da tool annidati o handoff. (openai.github.io)

Guardrail: dove applicarli davvero

I guardrail non sono una riga aggiunta al system prompt. Sono controlli distribuiti lungo il percorso:

  • prima del modello: autenticazione, limiti, validazione del payload, classificazione o blocco di input non ammessi;
  • prima del tool: validazione degli argomenti, autorizzazione sulla risorsa e approvazione per operazioni sensibili;
  • dopo il tool: controllo dell’esito, normalizzazione dei dati e blocco di output inattesi;
  • prima dell’output finale: schema, completezza, policy di comunicazione ed eventuale escalation;
  • dopo il run: logging, analisi degli errori, revisione dei casi limite e aggiornamento degli evals.

Nel caso di tool function custom, l’Agents SDK distingue guardrail di input e output: possono bloccare la chiamata, sostituire un risultato oppure generare un’interruzione. La documentazione precisa anche che questi controlli non annullano effetti collaterali già prodotti da sistemi esterni. (openai.github.io)

Per azioni irreversibili, economicamente rilevanti o che espongono dati personali, l’approvazione umana non è un dettaglio di interfaccia: è una decisione di governance da definire con i responsabili tecnici, di sicurezza e legali. Il profilo NIST per l’AI generativa richiama l’esigenza, a seconda del contesto, di maggiore revisione umana, tracciamento, documentazione e supervisione manageriale. (nvlpubs.nist.gov)

Evals: testare prompt, tool e orchestrazione insieme

Un set di evaluation utile non misura soltanto se la risposta “suona bene”. Deve includere casi che mettono alla prova il workflow:

  • richiesta chiara con percorso standard;
  • dato obbligatorio assente o contraddittorio;
  • tool indisponibile, lento o con risposta parziale;
  • output conforme allo schema ma semanticamente errato;
  • tentativo di indurre il modello a oltrepassare le istruzioni;
  • richiesta che richiede approvazione o escalation;
  • correzione dell’utente mentre un tool è in corso;
  • ripresa dopo un’interruzione o un errore;
  • azione duplicata, annullata o resa obsoleta da un nuovo evento.

Per ogni caso definisco un esito atteso osservabile: tool che può o non può essere chiamato, campi obbligatori, stato finale, messaggio di escalation, assenza di effetti collaterali oppure richiesta di approvazione. La qualità va misurata prima e dopo una modifica, evitando di cambiare insieme prompt, modello, schema e orchestrazione se non è possibile attribuire il risultato.

Come lavoro su un prompt o un agente esistente

  1. raccolgo esempi reali, inclusi errori, retry ed escalation;
  2. separo requisiti di business, istruzioni linguistiche e regole che devono stare nel software;
  3. mappo tool, dati disponibili, permessi e confini di delega;
  4. definisco output, stati del workflow e condizioni di stop;
  5. progetto approvazioni, gestione asincrona e correzioni in esecuzione;
  6. preparo casi di evaluation, inclusi failure mode e casi limite;
  7. confronto la nuova versione con quella attuale;
  8. documento ciò che è cambiato, cosa è stato verificato e cosa resta da validare.

Errori frequenti

  • aggiungere istruzioni ogni volta che compare un errore senza capirne la causa;
  • affidare al prompt autorizzazioni, controlli di quota o regole deterministiche;
  • esporre al modello strumenti con privilegi troppo ampi;
  • non distinguere dati recuperati da istruzioni affidabili;
  • non definire cosa succede quando un tool è lento, fallisce o restituisce un dato incompleto;
  • ripetere un’azione dopo un timeout senza verificare se l’operazione è già stata eseguita;
  • progettare un’approvazione senza salvare il contesto necessario per valutarla;
  • valutare la qualità su pochi esempi favorevoli;
  • cambiare modello, prompt e orchestrazione contemporaneamente senza poter attribuire il miglioramento.

Consulenza Prompt Engineering

Durante una sessione possiamo partire da un prompt, da un agente o da un workflow già esistente. L’obiettivo è uscire con un’architettura più chiara: cosa deve fare il modello, cosa deve fare il software, quali tool può usare, dove deve fermarsi, cosa va testato e quali controlli servono prima del rilascio.

Il Consultation Brief può includere struttura di system prompt, output schema, mappa dei tool, stati del workflow, criteri di approvazione, guardrail, casi di evaluation e priorità di implementazione.

Domande frequenti

Prompt engineering significa scrivere prompt più lunghi?

No. Spesso un prompt migliore è più corto perché sposta logiche deterministiche nel software e rende espliciti soltanto contesto, compito, vincoli e formato necessari al modello.

Serve anche per gli agenti AI?

Sì, ma in un agente il prompt è solo una parte. Bisogna progettare strumenti, permessi, memoria o contesto, stato, error handling, approvazioni e criteri di escalation.

Come si gestisce un tool che non risponde subito?

Il workflow deve passare in uno stato di attesa, salvare l’identificativo dell’operazione e riprendere soltanto quando riceve un esito verificabile o quando scatta una regola di timeout, annullamento o escalation.

Le correzioni a metà esecuzione sono sempre possibili?

Dipende dall’azione già svolta. Una correzione può modificare i passaggi successivi, ma non elimina automaticamente effetti prodotti su servizi esterni. Per azioni non reversibili servono checkpoint, approvazioni e procedure di annullamento definite prima.

Guardrail ed evals rendono il sistema conforme a norme o policy?

No. Sono controlli tecnici e metodologici. Requisiti su privacy, conservazione dei dati, registrazioni, telemarketing, voice cloning, autorizzazioni settoriali e contratti con fornitori richiedono una valutazione specifica da parte delle funzioni competenti. Questo aggiornamento è quindi da sottoporre a revisione editoriale e legale prima della pubblicazione.

Percorsi dedicati

Se vuoi applicare il metodo a un progetto reale, puoi prenotare una consulenza Prompt Engineering. Per la parte organizzativa e di produzione trovi anche Prompt Engineering per aziende. Se il sistema comprende conversazioni telefoniche e agenti vocali, il terzo pillar del portale è Voice AI.

Fonti

02 · PROMPT ENGINEERING

Portiamo il prompt dentro un sistema misurabile.

Strategy Call su prompt, agenti, tool, evals e guardrail.

Prenota Prompt Strategy Call