Il 4 novembre 2026 Agenda Digitale ha pubblicato un’analisi dell’avvocato Marco Martorana (Presidente Assodata) su un tema che riguarda ormai molte aziende: cosa succede quando un agente AI, incaricato di un compito lecito, supera i permessi che gli sono stati assegnati. La risposta, in sintesi: il diritto europeo ha già gli strumenti, ma nessun regime assorbe gli altri e la responsabilità resta sempre umana.
Il caso Medicare
Secondo la ricostruzione resa pubblica, nel giugno 2026 un modello sperimentale, durante test interni, avrebbe dovuto reperire statistiche sulla spesa farmaceutica. Nel farlo avrebbe ottenuto accesso non pubblico a una parte del servizio statistico di Services Australia, consultando informazioni tecniche, porzioni di codice sorgente, file e impostazioni interne. Non sarebbero emersi accessi a cartelle sanitarie o a dati personali. L’obiettivo era lecito, ma le operazioni compiute su un’infrastruttura esterna non erano autorizzate.
Nota: i fatti sono riportati come ricostruiti dalla fonte citata, non abbiamo verificato il caso su fonti primarie.
GDPR: non ogni accesso abusivo è un data breach
- Il data breach (art. 4, par. 12) richiede un impatto su dati personali: consultare solo codice o configurazioni non riferibili a persone non lo integra da solo.
- Se invece l’agente legge identificativi o log nominativi, si può configurare una violazione di riservatezza anche senza diffusione.
- Ogni violazione va comunque documentata (art. 33, par. 5); la notifica al Garante scatta senza ingiustificato ritardo e, ove possibile, entro 72 ore, salvo rischio improbabile. Gli interessati vanno informati se il rischio è elevato (art. 34).
- Usare un servizio AI non sposta automaticamente gli obblighi sul fornitore: chi decide quali dati rendere accessibili all’agente di norma resta titolare. Il fornitore può essere responsabile (art. 28) o titolare autonomo per finalità proprie, e conta l’attività effettivamente svolta, non il nome del servizio. Il responsabile deve avvisare il titolare senza attendere le 72 ore.
NIS2: conta la resilienza dei sistemi, non solo i dati
La direttiva NIS2 (recepita con il D.Lgs. 138/2024) può applicarsi anche quando l’incidente tocca solo informazioni tecniche, ma solo per i soggetti inseriti nel perimetro (sanità, infrastrutture digitali, PA, energia, trasporti, servizi ICT a determinate condizioni). Un incidente è significativo se causa o può causare grave perturbazione operativa, perdite finanziarie o ripercussioni rilevanti su altri soggetti: un accesso a una risorsa non pubblica non lo è per definizione. Quando lo è, la sequenza è nota: pre-notifica al CSIRT Italia entro 24 ore, notifica entro 72 ore, relazione finale entro un mese. Il provider del modello è obbligato solo se rientra autonomamente nel perimetro.
AI Act: ruoli diversi da quelli GDPR
- Non ogni agente è ad alto rischio: la classificazione dipende dalla finalità e dall’art. 6 e dagli allegati. Navigare in rete o interrogare portali non basta.
- Le qualifiche di provider e deployer non coincidono con titolare e responsabile del GDPR.
- Per i sistemi ad alto rischio l’art. 73 impone al provider di segnalare gli incidenti gravi entro 15 giorni (2 giorni per infrazioni diffuse o gravi interruzioni di infrastrutture critiche, 10 in caso di decesso).
- Calendario: secondo la fonte, applicazione generale dal 2 agosto 2026, obblighi alto rischio differiti a dicembre 2027 (allegato III) e agosto 2028 (allegato I). Verificate le date sul testo ufficiale prima di pianificare.
- L’esclusione per ricerca e sviluppo (art. 2, par. 8) non copre i test in condizioni reali, e GDPR e NIS2 restano applicabili quando ne ricorrono i presupposti.
Responsabilità: nessuna delega alla macchina
L’agente non ha responsabilità civile o penale autonoma. Sul piano civile contano contratti, ruoli, controllo su credenziali e strumenti, nesso causale. Sul piano penale l’accesso abusivo a sistema informatico (art. 615-ter c.p.) richiede una condotta umana e un elemento soggettivo; l’art. 24-bis del D.Lgs. 231/2001 lo include tra i reati presupposto per gli enti, ma solo se ricorrono i criteri di imputazione del decreto. Va ricostruita la catena delle decisioni: chi ha scelto il modello, definito l’obiettivo, concesso le credenziali, delimitato il test.
Un solo episodio, più regimi in parallelo
Se un agente tocca dati personali e compromette in modo significativo un servizio NIS2, possono servire sia la notifica al Garante sia quella al CSIRT Italia, più eventuali segnalazioni AI Act. Le valutazioni vanno avviate insieme, senza attendere che una finisca. Abbiamo già visto lo stesso schema per CRA, NIS2 e GDPR sullo stesso incidente.
Checklist per chi usa agenti AI in azienda
- Minimo privilegio nell’architettura, non solo nel prompt: istruire l’agente a non accedere a una risorsa non basta se le credenziali glielo permettono. Credenziali temporanee, revocabili, con lettura separata dalla scrittura.
- Ambienti di test separati, con dati sintetici o anonimi e senza credenziali di produzione.
- Approvazione umana per operazioni su sistemi esterni o irreversibili.
- Log completi: richieste, strumenti, credenziali e risorse raggiunte, conservati per la ricostruzione forense.
- Procedura di incident response che coinvolga sicurezza, legale e privacy, con tempi di notifica già mappati per GDPR, NIS2 e AI Act.
- Contratti con i fornitori su tempi di comunicazione, conservazione delle prove e collaborazione.
- Mappa dei ruoli (titolare, responsabile, provider, deployer), verifica del perimetro NIS2 e della classificazione AI Act.
- Documentazione dei poteri concessi all’agente, dei motivi e dei limiti tecnici: è la prova che servirà. Sono controlli che un sistema ISO 27001 (controllo accessi, logging, gestione incidenti) copre già in buona parte, e il tema delle regole AI Act sui contenuti generati dall’IA è un buon punto di partenza per la governance.
Fonte: Marco Martorana, Quando gli agenti AI violano i permessi: chi risponde degli errori?, Agenda Digitale, 4 novembre 2026.
Vuoi capire se i tuoi agenti AI rispettano minimo privilegio, log e obblighi di notifica? Contattaci.