Dall’automazione del workflow alla responsabilità civile, penale e regolatoria: come governare agenti AI, poteri delegati, dati e supervisione umana nell’impresa.
Non può assumersi la responsabilità giuridica di averla eseguita.
L’automazione crea vantaggio competitivo solo quando l’impresa sa attribuire poteri, limiti, controlli, evidenze e rimedi prima che l’agente agisca nel mondo reale.
Un’impresa configura un agente AI per gestire richieste di acquisto, selezionare fornitori, predisporre bozze contrattuali e confermare ordini entro una soglia di spesa. L’agente interpreta una richiesta ambigua, sceglie una controparte non idonea e genera un ordine con condizioni non previste. Il fornitore accetta. Il problema emerge soltanto con la fattura, una contestazione o una richiesta di accesso ai dati.
La domanda non è soltanto se l’AI abbia “sbagliato”. La domanda giuridicamente rilevante è chi abbia deciso l’uso dell’agente, chi lo abbia configurato, quali poteri gli siano stati attribuiti, quali controlli fossero previsti e chi avesse il dovere di intervenire.
Un agente AI non è un dipendente, un consulente né un soggetto giuridicamente responsabile. È un sistema automatizzato inserito nel contesto organizzativo dell’impresa. La responsabilità dipende dunque dalla qualità della delega, dalla supervisione, dalla catena dei fornitori e dalla capacità di ricostruire ciò che è accaduto.
Le sette decisioni prima di delegare un processo all’AI
Un agente va trattato come un componente operativo del processo aziendale, non come un semplice chatbot. Ogni accesso e ogni potere attribuito richiedono un perimetro verificabile.
Use case
Quale processo l’agente automatizza e con quale finalità.
Authority
Azioni consentite, soglie economiche e escalation.
Data access
Dati, documenti e sistemi a cui l’agente accede.
Human oversight
Chi supervisiona, approva e può sospendere.
Transparency
Disclosure verso clienti, utenti e controparti.
Vendor chain
Modello, piattaforma, API, strumenti e dati.
Incident response
Log, alert, stop action, rimedi e notifiche.
L’agente AI non è un chatbot
Un modello AI genera testo, classificazioni o previsioni. Un agente AI può invece pianificare attività, utilizzare strumenti collegati e agire all’interno di un workflow. La differenza diventa decisiva quando l’agente accede a CRM, ERP, e-mail, calendari, repository, sistemi di pagamento o banche dati aziendali.
| Elemento | Funzione | Esempio aziendale |
|---|---|---|
| Modello AI | Genera contenuti, analisi o previsioni. | LLM che redige una bozza di e-mail o contratto. |
| Agente AI | Pianifica e compie azioni mediante strumenti. | Ricerca fornitori, compila un ordine e invia una comunicazione. |
| Strumenti e API | Consentono all’agente di agire sul processo. | CRM, ERP, e-mail, calendario e sistemi di pagamento. |
| Policy aziendali | Definiscono limiti, soglie e divieti. | Approvazione obbligatoria oltre una certa spesa. |
| Responsabile umano | Supervisiona, convalida e interviene. | Legal, CFO, procurement manager o process owner. |
Il flusso di responsabilità dell’agente AI
L’agente è il punto operativo del flusso; la responsabilità nasce però da policy, configurazione, accessi e supervisione dell’impresa.
Chi risponde quando l’automazione sbaglia?
Non esiste una risposta unica. La responsabilità dipende dal danno, dal rapporto contrattuale, dalla configurazione concreta dell’agente, dai poteri attribuiti e dalla condotta delle persone coinvolte.
| Soggetto | Possibile area di responsabilità | Esempio |
|---|---|---|
| Impresa utilizzatrice | Contrattuale, extracontrattuale, amministrativa o regolatoria. | L’agente invia una comunicazione errata o conferma un ordine non autorizzato. |
| Configuratore o process owner | Professionale, organizzativa o disciplinare, secondo il caso. | Concede accessi eccessivi o imposta istruzioni inadeguate. |
| Fornitore AI | Contrattuale e, dove applicabile, regolatoria. | Piattaforma o modello non rispetta garanzie, SLA o obblighi previsti. |
| Dipendente utilizzatore | Disciplinare e, nei casi rilevanti, civile o penale. | Aggira i controlli, divulga dati o usa l’agente per finalità illecite. |
| Fornitore di strumenti | Principalmente contrattuale. | CRM, ERP o API restituisce dati errati o abilita una funzione difettosa. |
Responsabilità civile, penale e regolatoria
Responsabilità civile: danno, contratto e prova
Verso clienti e controparti, l’impresa può rispondere quando un agente genera una comunicazione errata, conferma un ordine, tratta dati in modo non conforme o produce un output dannoso. Verso l’impresa, dipendenti e consulenti possono essere chiamati a rispondere nei limiti del loro ruolo e delle istruzioni ricevute. Nella catena dei fornitori, SLA, garanzie, limitazioni di responsabilità, indennizzi e obblighi di sicurezza definiscono la possibilità di recuperare il danno.
Il contratto con il fornitore AI non elimina la responsabilità dell’impresa verso il cliente: definisce soprattutto chi può chiedere un rimedio all’interno della catena contrattuale.
Responsabilità penale: l’agente non commette reati
L’agente AI non è penalmente responsabile. Può tuttavia essere lo strumento mediante cui una persona commette, facilita o automatizza una condotta illecita: accessi indebiti, divulgazione di informazioni riservate, frode, manipolazione documentale, uso ingannevole di contenuti sintetici o violazione di segreti commerciali.
Nei casi più gravi, l’analisi deve concentrarsi sulla condotta delle persone fisiche e, ove ricorrano i presupposti di legge, sugli eventuali profili di responsabilità dell’ente. La tecnologia può rendere un illecito più rapido o meno trasparente; non trasferisce su di sé la responsabilità.
AI Act: l’impresa è spesso il deployer
Un’impresa che utilizza un sistema AI sotto la propria autorità per finalità professionali può essere qualificata come deployer. L’AI Act prevede obblighi specifici soprattutto per i sistemi ad alto rischio e, dal 2 agosto 2026, obblighi di trasparenza per i sistemi AI che interagiscono con persone, salvo quando la natura artificiale dell’interazione sia evidente nel contesto.
Le linee guida della Commissione sulla trasparenza trattano espressamente gli agenti AI in grado di interagire con le persone nell’esecuzione di attività come gestione della corrispondenza, prenotazioni, negoziazione o conclusione di contratti ed esecuzione di acquisti.
Per i sistemi ad alto rischio, il deployer deve tra l’altro utilizzare il sistema secondo le istruzioni, assegnare una supervisione umana competente, monitorarne l’operazione e gestire i log sotto il proprio controllo.
Red flag che richiedono un intervento immediato
Accessi eccessivi
L’agente può inviare e-mail, modificare record, effettuare pagamenti o accedere a dati senza soglie o autorizzazioni proporzionate.
Nessun log utile
L’impresa non può ricostruire prompt, strumenti usati, dati consultati, azioni svolte e approvazioni umane.
Trasparenza assente
Clienti o controparti interagiscono con l’agente senza essere informati quando il contesto richiede disclosure.
Catena fornitori opaca
Modello, piattaforma, API, subprocessor e condizioni di utilizzo non sono mappati.
Policy non aggiornata
L’uso dell’agente è reale ma policy, deleghe e formazione del personale non lo riflettono ancora.
Nessuna stop action
Non esiste una procedura tecnica e organizzativa per sospendere l’agente, isolare un incidente e attivare remediation.
AI Agent Governance Review
Questa checklist è orientativa: serve a individuare se l’impresa ha progettato l’automazione come una funzione governata, e non soltanto come una sperimentazione tecnologica.
L’agente AI è governato prima di agire?
Nota informativa. Questo articolo ha finalità informative e non costituisce parere legale. I profili civilistici, penali, lavoristici, privacy, contrattuali e regolatori devono essere valutati in relazione allo specifico caso d’uso, ai soggetti coinvolti, ai dati trattati, ai sistemi collegati e alle giurisdizioni applicabili.
// Commenti