AI agentica: cosa sapere prima di portarla in azienda

Il vademecum sull’AI Act dalla nostra chiacchierata con l’Avvocato Battistella

L’Europa è stata la prima grande area economica a darsi un quadro organico sull’uso dell’intelligenza artificiale, e per molte aziende questa scelta suona ancora come un costo. Nella nostra ultima diretta con l’avvocato Andrea Battistella abbiamo provato a guardarla da un’altra angolazione, e l’AI Act si è rivelato soprattutto una mappa: indica in anticipo dove si nascondono i problemi che ogni progetto di AI agentica, prima o poi, finisce per incontrare. Ecco cosa ne abbiamo ricavato.

Il rinvio non è una pausa

Quest’estate il Digital Omnibus ha spostato in avanti le scadenze più impegnative dell’AI Act: gli obblighi per i sistemi ad alto rischio scatteranno dal 2 dicembre 2027 e, per quelli integrati in prodotti già regolamentati, dal 2 agosto 2028.

In molti l’hanno letta come una pausa, ma non è proprio così. Abbiamo chiesto all’avvocato Battistella che cosa ne pensasse, e lui ha invitato a leggerla al contrario: il divieto dei sistemi a rischio inaccettabile, l’obbligo di formare chi usa l’AI in azienda e l’articolo 50 sulla trasparenza dei contenuti generati sono già in vigore, e soprattutto l’impianto della norma non cambierà. Chi userà questi mesi per costruire una governance dell’AI arriverà alle scadenze con processi rodati e fornitori scelti con criterio, mentre chi aspetterà rischia di dover smontare soluzioni adottate di fretta. L’Italia, del resto, ha già indicato la strada: con la legge 132/2025 è stato il primo Paese europeo a dotarsi di un quadro nazionale completo sull’intelligenza artificiale.

Il primo rischio è già in casa

Prima di pensare agli agenti, vale la pena guardare cosa succede oggi nei browser dei dipendenti. Lo Stanford AI Index 2026 rileva che l’88% delle organizzazioni usi l’AI in almeno una funzione aziendale, e una buona parte di quell’uso passa da chatbot gratuiti in cui finiscono contratti, report e liste clienti senza che nessuno se ne accorga. Battistella l’ha riassunta con una frase che vale per tutto il digitale, “nessuno regala nulla”: un servizio gratuito si paga con i dati, e un contratto con clausola di riservatezza incollato in una chat esterna è, a tutti gli effetti, un contratto condiviso con un terzo.

Il problema raramente è la cattiva fede, quasi sempre è la mancanza di regole chiare. Un censimento degli strumenti in uso e una policy che dica cosa può entrare in questi sistemi e cosa no costano poco e chiudono la falla più comune.

Il rischio sta nel processo, non nello strumento

L’errore più frequente, quando si valuta una soluzione AI, è chiedersi se il software sia “sicuro” in astratto. L’AI Act ragiona diversamente: lo stesso sistema può essere a basso rischio in un’azienda e ad alto rischio in un’altra, perché a fare la differenza sono il processo in cui viene inserito, i dati che tratta e le persone su cui ricadono le sue decisioni. Un agente che smista ticket di assistenza e uno che seleziona curriculum possono girare sulla stessa piattaforma, ma il secondo tocca diritti fondamentali e porta con sé obblighi ben diversi.

Per questo il punto di partenza non dovrebbe essere il catalogo dei fornitori, ma la lista dei processi che si vorrebbero affidare agli agenti, letti uno per uno con questa lente. Un’avvertenza utile: l’alto rischio non vieta nulla, chiede solo più attenzione e una supervisione umana ben progettata.

Un agente che non sa spiegarsi non è pronto per la produzione

Come abbiamo visto poi nell’articolo precedente “AI locale: dove devono vivere i dati quando a trattarli è un agente?”, secondo Stanford meno di un’organizzazione su dieci ha portato l’AI a pieno regime anche in una sola funzione, e l’adozione degli agenti in ambito enterprise è ancora ferma a una cifra. Significa che la maggior parte delle scelte di piattaforma deve ancora essere fatta, ed è il momento giusto per pretendere una cosa che spesso viene data per scontata: la possibilità di ricostruire, anche a distanza di un anno, come un agente ha preso una certa decisione, con quali dati e attraverso quali sistemi.

Durante la diretta l’abbiamo paragonato ai verbali di una riunione, che raccontano perché si è deciso in un certo modo, mentre i semplici log si consultano solo quando qualcosa è già andato storto. Lo stesso vale per l’human-in-the-loop, che non ha niente a che fare con il “fare da baby-sitter agli agenti”: riguarda le responsabilità, e stabilisce oltre quale soglia di impatto serve una persona che dia il via libera e ne risponda.

La sovranità è una questione di continuità operativa

Abbiamo poi toccato l’argomento un po’ scottante della sovranità digitale. Vi ricordate quando quest’estate, per alcune settimane, l’accesso a un modello di frontiera americano è stato sospeso per controlli all’export, poi revocati? Dieci anni fa una notizia simile riferita a un foglio di calcolo avrebbe fatto scalpore, oggi è passata quasi in sordina, eppure un’azienda che ha legato i propri processi a un unico modello può ritrovarsi ferma da un giorno all’altro.

Scegliere tra hyperscaler, cloud sovrano e on-premise è quindi anche una decisione di continuità operativa, oltre che di conformità. E di costi: tra un modello di frontiera e uno di fascia media la differenza può arrivare a due ordini di grandezza, abbastanza da far ritirare progetti che funzionavano benissimo ma non reggevano su scala. La scelta più lungimirante è una piattaforma che consenta di cambiare dove girano dati e modelli senza ricostruire tutto da capo.

Una demo non è una prova di affidabilità

Battistella ci ha poi raccontato di un esperto di robotica secondo cui la domanda giusta non è se un robot sappia svolgere un compito, ma quante volte lo sbaglia: su una linea da mille pezzi l’ora, un errore nel 15% dei casi vuol dire 150 pezzi da buttare. Gli agenti funzionano allo stesso modo. Stanford registra un salto notevole, da circa il 12% a circa il 66% di successo su compiti reali al computer in due anni, ma resta un fallimento ogni tre tentativi, e un proof of concept brillante non dice nulla su come si comporterà il sistema dopo sei mesi di produzione.

Conviene allora decidere prima quale margine d’errore è accettabile in ciascun processo, e valutare i fornitori su quello, contratto e accordo sul trattamento dei dati compresi.

Cinque domande da portare al tavolo con un fornitore

Per chiudere il nostro intervento con qualcosa di immediatamente utilizzabile, abbiamo raccolto le cinque domande che, nella nostra esperienza con i sistemi agentici, aiutano a capire in fretta se una piattaforma è pensata per durare o solo per partire veloce.

1. Dove risiedono fisicamente i dati e la memoria degli agenti, e sotto quale giurisdizione? Un server in Europa non basta se il fornitore risponde a ordinamenti extraeuropei.
2. Posso eseguire i modelli on-premise, se un domani servisse? Anche se oggi non è una priorità, è l’opzione che tiene aperte tutte le altre.
3. Come dimostro, in caso di controllo, che una decisione dell’agente è ricostruibile? La risposta dovrebbe arrivare con esempi concreti, non con rassicurazioni generiche.
4. Il fornitore distingue davvero un chatbot, che risponde, da un agente che agisce sui sistemi? Chi li tratta come la stessa cosa sta sottovalutando la complessità del progetto.
5. La piattaforma è pronta per gli obblighi dell’alto rischio? Una soluzione che porta agenti in produzione in sessanta giorni è interessante solo se non andrà rifatta al primo controllo.

Rispondere richiede competenze tecniche, organizzative e giuridiche insieme, quella che Battistella ha chiamato cultura digitale, ed è proprio su questo terreno che il quadro europeo smette di essere un vincolo e diventa un vantaggio competitivo.

Vi siete persi il nostro intervento e volete approfondire? Potete riguardare la diretta sulla pagina LinkedIn di Dazerolab. Ringraziamo l’avvocato Battistella e tutte le persone che ci hanno seguito e hanno partecipato, e invitiamo a scriverci per domande e dubbi sull’argomento. Vi aspettiamo al prossimo appuntamento, seguiteci su LinkedIn per non perdervelo.