Il nuovo articolo 437-bis introduce pene fino a dieci anni per chi omette cautele o altera sistemi di intelligenza artificiale ad alto rischio, anche senza danni.
Chi sviluppa, addestra, produce o mette in commercio un sistema di intelligenza artificiale ad alto rischio senza dotarlo delle misure necessarie a renderlo sicuro e controllabile rischia da uno a cinque anni di reclusione. È la pena base del nuovo articolo 437-bis del Codice penale, che prevede poi sanzioni più alte per le condotte più gravi, fino a dieci anni quando è in gioco la sicurezza dello Stato.
Le cautele previste dalla norma sono di due tipi. Da una parte ci sono quelle che servono a evitare malfunzionamenti o manomissioni, dall’altra quelle di sorveglianza umana, che devono permettere a una persona di seguire il funzionamento del sistema, accorgersi di anomalie o risultati inattesi e, se serve, correggere l’output o fermare l’utilizzo. Per rispondere non è necessario aver agito di proposito: la punibilità arriva anche per colpa grave, cioè quando la mancanza dipende da trascuratezza, imprudenza o incompetenza particolarmente marcate.
Più severa è la pena, da due a sei anni, per chi altera un sistema ad alto rischio. In questo caso il sistema era nato sicuro, e il reato sta nell’intervento di chi ne cambia il funzionamento, non in una cautela mai adottata a monte.
La norma colpisce poi anche chi il sistema lo usa. Risponde l’utilizzatore professionale che omette di proposito le misure di sorveglianza umana, impiegando lo strumento nella propria attività senza assicurarsi che sia davvero controllato da persone fisiche.
Per tutte queste condotte la soglia penale scatta solo se ne deriva un pericolo per la vita o per l’incolumità pubblica o individuale. Non serve che si sia verificato un danno o un incidente: basta che la situazione di pericolo richiesta dalla legge si sia creata. Se il pericolo riguarda la sicurezza dello Stato le pene salgono, da due a otto anni per le omissioni e da tre a dieci per l’alterazione.
Il campo di applicazione resta circoscritto ai sistemi che l’AI Act classifica come ad alto rischio, una categoria articolata che, in estrema sintesi, comprende gli strumenti usati in contesti delicati per la salute, la sicurezza o i diritti fondamentali delle persone. La Commissione europea ha chiarito il confine con degli esempi. Un sistema che governa il traffico e regola da solo i semafori è ad alto rischio, perché un suo errore può mettere in pericolo chi circola. Non lo è invece uno che si limita a elaborare dati in tempo reale per analizzare e ottimizzare i flussi, senza intervenire sulla gestione della circolazione.
Ci sono conseguenze anche per le imprese. Il decreto legislativo n. 160/2026 ha inserito l’articolo 437-bis tra i reati che, a determinate condizioni, fanno scattare la responsabilità dell’ente secondo il Dlgs 231/2001, per fatti commessi da vertici aziendali o da persone che operano sotto la loro direzione o vigilanza. Le sanzioni possono essere pecuniarie e interdittive, come la sospensione o la revoca di autorizzazioni e licenze o il divieto di contrattare con la pubblica amministrazione.
La norma è entrata in vigore il 30 settembre 2026 con il decreto legislativo 9 settembre 2026, n. 160, ed è il primo articolo del codice penale dedicato per intero alla sicurezza e alla sorveglianza dell’intelligenza artificiale, un altro passo del percorso con cui l’Italia sta adeguando l’ordinamento al regolamento europeo.