AI Act, il rischio nascosto per le aziende che usano l’intelligenza artificiale senza controllarla
L’intelligenza artificiale è già dentro le aziende. Il problema è che molte aziende non sanno esattamente dove.
Non sempre entra da un grande progetto approvato dal consiglio di amministrazione. Più spesso arriva attraverso una piattaforma SaaS che aggiunge nuove funzioni, un reparto marketing che usa strumenti generativi, un commerciale che carica documenti su un servizio esterno, un team HR che sperimenta sistemi di screening, un ufficio legale che sintetizza contratti con un assistente AI.
È un’adozione rapida, frammentata, spesso utile. Ma non sempre governata. Con l’avvicinarsi della piena applicazione dell’AI Act, prevista dal 2 agosto 2026, questa zona grigia diventa meno sostenibile. Il regolamento europeo sull’intelligenza artificiale non riguarda solo etica, diritti fondamentali e trasparenza. Per imprese, pubbliche amministrazioni e fornitori tecnologici apre anche una questione di cybersecurity: sapere quali sistemi AI sono in uso, quali dati trattano, chi li controlla e cosa può accadere se vengono manipolati.
La domanda, per le aziende, non è più se usare l’intelligenza artificiale. In molti casi la stanno già usando. La domanda vera è se siano ancora in grado di controllarla.
Il problema non è l’AI, è l’AI invisibile
L’intelligenza artificiale viene raccontata soprattutto come uno strumento di efficienza. Automatizza attività, accelera analisi, genera testi, supporta decisioni, riduce tempi operativi. Tutto vero. Ma incompleto.
Un sistema AI non è un software qualunque. Lavora su dati, interpreta input, produce risposte probabilistiche, può essere integrato in processi aziendali e può influenzare decisioni operative. In alcuni casi assiste una persona. In altri casi orienta una scelta. In altri ancora viene percepito come affidabile solo perché produce risposte rapide e ben formulate.
Qui nasce il rischio.
Un dipendente può caricare un documento riservato su una piattaforma esterna per ottenere una sintesi. Un chatbot interno può restituire informazioni che non avrebbe dovuto esporre. Un sistema integrato nel customer care può generare risposte sbagliate a clienti o utenti. Un fornitore può introdurre componenti AI in un servizio senza che l’azienda cliente abbia piena visibilità su dati, logiche, conservazione e responsabilità.
Non serve immaginare scenari estremi. Basta guardare a ciò che accade ogni giorno nelle organizzazioni: strumenti adottati prima delle policy, funzioni attivate prima dei controlli, dati condivisi prima di una valutazione del rischio.
L’AI invisibile è questa. Non il grande progetto strategico, ma l’insieme di usi dispersi che entrano nei processi senza una mappa, senza un inventario e senza una responsabilità chiara.
Perché l’AI Act riguarda anche la cybersecurity
L’AI Act introduce un principio semplice: non tutti gli usi dell’intelligenza artificiale producono lo stesso rischio. Alcuni impieghi sono vietati, altri sono considerati ad alto rischio, altri richiedono obblighi di trasparenza, altri ancora restano soggetti a regole meno pesanti.
Questo significa che non ogni uso dell’AI comporta gli stessi adempimenti. Sarebbe sbagliato trasformare il regolamento in un allarme generico. Ma sarebbe altrettanto sbagliato leggerlo come una norma che interessa solo uffici legali, compliance o data protection officer.
Il punto è operativo. Se un sistema AI tratta dati aziendali, interagisce con processi interni, supporta decisioni, coinvolge fornitori o viene integrato in servizi digitali, entra anche nel perimetro della sicurezza.
Per i sistemi AI ad alto rischio, il regolamento richiama espressamente requisiti di accuratezza, robustezza e cibersicurezza lungo il ciclo di vita. Ma anche fuori da quei casi, la questione resta concreta: un sistema non censito, non monitorato o usato senza regole può diventare un punto debole dell’organizzazione.
L’AI Act costringe quindi le aziende a fare ciò che molte non hanno ancora fatto: passare dall’entusiasmo per lo strumento alla capacità di dimostrare controllo.
La nuova superficie d’attacco
L’intelligenza artificiale cambia anche il modo in cui le aziende possono essere attaccate.
Gli strumenti generativi rendono più credibili email di phishing, messaggi fraudolenti, impersonificazioni e campagne di social engineering. Abbassano il costo di alcune attività offensive e aumentano la qualità apparente dell’inganno. Un attacco scritto bene, personalizzato e coerente con il linguaggio aziendale è più difficile da riconoscere rispetto a una vecchia email piena di errori.
Ma il rischio non riguarda solo gli attaccanti che usano l’AI. Riguarda anche l’AI usata dalle aziende.
Un modello può essere sollecitato con input costruiti per alterarne il comportamento. Può restituire dati che non dovrebbe mostrare. Può essere alimentato con informazioni contaminate. Può dipendere da API esterne, ambienti cloud, plugin, dataset, componenti software e fornitori che l’azienda non controlla direttamente. Per i team tecnici, questo significa considerare scenari come prompt injection, data leakage, model poisoning, abuso delle API, gestione debole degli accessi, assenza di logging sugli input e sugli output, scarsa separazione dei dati e mancanza di procedure specifiche di incident response.
Non sono sempre vulnerabilità tradizionali. Non sempre assomigliano a una porta aperta, a una patch mancante o a una configurazione errata. Ma producono lo stesso effetto: perdita di controllo su dati, processi e decisioni.
Il board non può delegare alla moda del momento
Per il management il tema è ancora più diretto. L’AI non è più solo una leva di innovazione. È un rischio operativo.
Questo non significa che il board debba conoscere il funzionamento interno di ogni modello. Significa però che deve pretendere risposte chiare.
Quali sistemi AI sono in uso? Quali sono stati autorizzati? Quali sono entrati attraverso fornitori esterni? Quali dati trattano? Sono dati riservati, personali, industriali, finanziari o strategici? Gli output vengono verificati da persone competenti? Esistono regole sull’uso da parte dei dipendenti? È possibile ricostruire cosa è accaduto in caso di incidente?
Sono domande elementari solo in apparenza. In molte aziende, rispondere richiede un lavoro trasversale tra IT, cybersecurity, legal, compliance, acquisti, risk management, data protection e business unit.
Ed è proprio qui che si misura la maturità. Non nel numero di strumenti AI adottati, ma nella capacità di sapere chi li usa, per fare cosa, con quali dati e sotto quale responsabilità.
La responsabilità non nasce quando un sistema sbaglia. Nasce prima, quando viene adottato senza sapere quale rischio introduce.
Provider, deployer e utilizzatori non hanno lo stesso ruolo
Un altro punto spesso trascurato è la distinzione tra i diversi attori della catena dell’AI.
C’è chi sviluppa sistemi di intelligenza artificiale. C’è chi li immette sul mercato. C’è chi li integra in prodotti e servizi. C’è chi li usa nei propri processi. C’è chi li distribuisce o li rende disponibili ad altri soggetti.
Per un’azienda, questa distinzione è decisiva. Gli obblighi non sono identici per tutti. Un fornitore tecnologico che sviluppa o integra sistemi AI avrà responsabilità diverse rispetto a un’impresa che usa una piattaforma acquistata da terzi. Ma anche l’utilizzatore non può limitarsi a dire: “Lo gestisce il fornitore”.
Se un sistema AI entra in un processo aziendale, l’organizzazione deve sapere come viene usato, che dati tratta, quali garanzie contrattuali esistono, quali audit sono possibili, quali log sono disponibili, dove vengono conservate le informazioni e cosa accade in caso di errore o incidente.
La supply chain digitale, già centrale nella cybersecurity, diventa ancora più delicata quando nei servizi acquistati compaiono componenti AI. Il rischio non sta solo nella tecnologia, ma nella dipendenza da ciò che non si vede.
Governance non significa burocrazia
Il rischio, adesso, è rispondere all’AI Act con documenti formalmente corretti e operativamente inutili.
Una policy sull’intelligenza artificiale serve, ma non basta. Un inventario serve, ma deve essere aggiornato. Una valutazione del rischio serve, ma deve incidere sulle scelte. Una clausola contrattuale serve, ma deve essere verificabile.
La governance dell’AI deve diventare un controllo reale, non un archivio di procedure.
Questo significa censire i sistemi in uso, distinguere quelli approvati dagli usi non autorizzati, classificare i dati trattati, definire regole per dipendenti e fornitori, limitare gli accessi, monitorare input e output, prevedere supervisione umana, stabilire responsabilità, preparare scenari di incidente e aggiornare i controlli quando cambiano strumenti, processi o fornitori.
Per i tecnici, il tema è integrare l’AI nei processi di sicurezza già esistenti: identity and access management, logging, vulnerability management, incident response, data loss prevention, vendor risk management, business continuity.
Per i decisori, il tema è evitare che l’AI diventi una zona franca. Una tecnologia usata dal business, pagata dall’azienda, alimentata con dati aziendali, ma non governata come un rischio aziendale.
Cosa dovrebbero fare le aziende adesso
La prima azione non è comprare un nuovo strumento. È fare ordine.
Le aziende dovrebbero partire da una mappatura concreta degli usi dell’AI: strumenti ufficiali, funzioni integrate nei software già in uso, servizi esterni, sperimentazioni interne, utilizzi spontanei da parte dei team. Senza questa fotografia, ogni discussione sulla compliance resta astratta.
Poi serve classificare il rischio. Non tutti gli usi dell’AI meritano la stessa attenzione. Un generatore di bozze per contenuti marketing non ha lo stesso impatto di un sistema che supporta decisioni su credito, lavoro, accesso a servizi, sicurezza o processi critici. La governance deve essere proporzionata, non cieca.
Il terzo passaggio riguarda i dati. Quali informazioni possono essere caricate? Quali devono essere escluse? Dove finiscono? Vengono conservate? Possono essere usate per addestrare modelli? Sono disponibili log e audit trail? Il contratto con il fornitore lo chiarisce davvero?
Infine, serve una catena di responsabilità. Chi autorizza un nuovo sistema AI? Chi valuta il rischio? Chi controlla i fornitori? Chi gestisce un incidente? Chi decide se un output può essere usato in un processo rilevante?
Senza queste risposte, l’intelligenza artificiale resta un acceleratore. Ma accelera anche il disordine.
L’AI Act rende visibile ciò che le aziende hanno lasciato opaco
Il merito dell’AI Act, almeno dal punto di vista della cybersecurity, è obbligare le organizzazioni a guardare l’intelligenza artificiale per quello che è diventata: non una sperimentazione laterale, ma una componente dei processi digitali.
La fase dell’adozione spontanea sta finendo. Non perché l’AI smetterà di diffondersi, ma perché sarà sempre più difficile usarla senza tracciabilità, senza ruoli, senza controlli e senza una valutazione del rischio.
Per le imprese questo passaggio può essere letto come un peso regolatorio. Sarebbe una lettura miope. Il problema non è la norma in sé. Il problema è scoprire troppo tardi che strumenti già usati in azienda trattano dati sensibili, influenzano decisioni, dipendono da fornitori esterni e non lasciano tracce sufficienti per capire cosa sia accaduto quando qualcosa va storto.
L’AI può migliorare la sicurezza, la produttività e la capacità decisionale. Ma solo se viene governata. Altrimenti diventa l’ennesima tecnologia adottata più velocemente della capacità dell’organizzazione di controllarla.
La domanda per le aziende, quindi, non è quanta intelligenza artificiale possano introdurre nei processi. È quanta ne abbiano già introdotta senza saperlo.
