Partire con l'AI
Intelligenza artificiale e responsabilità dopo l'attacco del drone
Artificial intelligence: L'intelligenza artificiale è entrata in un campo dove le conseguenze sono immediate e irreversibili.
In breve
L'attacco del drone evidenzia che sistemi AI possono escludere l'umano dalla decisione finale; l'AI Act richiede documentazione, valutazione del rischio e supervisione concreta. Serve ridisegnare contratti, strumenti operativi, audit e collaborazioni per rendere verificabili responsabilità e controlli.
L’intelligenza artificiale è entrata in un campo dove le conseguenze sono immediate e irreversibili. Questo articolo racconta il caso concreto del drone che il 6 luglio 2026 ha colpito una stazione di servizio a Zaporizhzhia causando tre vittime dirette. Presento anche il nuovo quadro normativo europeo che richiede a pubbliche amministrazioni e organizzazioni di ripensare la propria struttura. Racconto cosa cambia per manager, consulenti e responsabili IT, quali responsabilità devono essere ridisegnate e quali azioni pratiche servono ora. Serve ridisegnare responsabilità e pratiche operative.
Quando la macchina prende la decisione cambia chi risponde
Il 6 luglio 2026 un drone russo ha effettuato un attacco senza intervento umano nella fase decisionale finale. Il dispositivo utilizzava a bordo una scheda Nvidia Jetson Orin, un modulo commerciale per elaborazione locale. Diversi esperti hanno definito l’episodio il primo caso documentato di arma completamente guidata da intelligenza artificiale. Gli esperti segnalano che l’essere umano è stato escluso dalla decisione finale. Per chi gestisce sistemi, questo fatto significa che componenti reperibili sul mercato possono trasferire responsabilità lungo tutta la filiera. Componenti commerciali possono trasferire responsabilità lungo la filiera, dal progettista al deployer e all’operatore.
Nel nuovo equilibrio, due ruoli diventano centrali e devono essere codificati nei contratti. Il provider progetta e mette a disposizione il sistema. Il deployer lo installa e lo usa in contesti operativi. L’Artificial Intelligence Act impone obblighi sia a chi costruisce sia a chi utilizza i sistemi. Le regole richiedono di documentare i processi, valutare i rischi e predisporre strumenti per una supervisione umana effettiva. La presenza fisica di un operatore non è sufficiente se quel soggetto non ha strumenti concreti per intervenire.
La presenza fisica dell’operatore non basta se quel soggetto non ha strumenti concreti per intervenire.
Per le imprese la governance dell’intelligenza artificiale diventa pratica
Il regolamento europeo non è solo un elenco di divieti tecnici. Il testo introduce un approccio basato sul rischio che lega oneri diversi alla possibile incidenza sui diritti delle persone. Questo implica che una PA o un’azienda che adotta un sistema rilevante deve valutare, documentare e monitorare continuamente il comportamento del sistema. Per le PMI fornitrici, ciò si traduce nella necessità di produrre log strutturati, effettuare audit ripetuti e fornire strumenti che permettano al deployer di mantenere il controllo operativo. Le PMI devono produrre log strutturati e audit ripetuti.
Le amministrazioni locali sono molto eterogenee. Accanto a enti grandi esistono centinaia di Comuni con risorse limitate. L’AI Act richiede competenze giuridiche, tecnologiche e organizzative. Molti enti singoli non posseggono tutte queste competenze. Per questo la collaborazione tra Comuni, Province, Regioni, Università e fornitori diventa una scelta operativa. Condividere competenze produce apprendimento. La condivisione riduce la dipendenza da soluzioni proprietarie e rende praticabile la supervisione umana richiesta dalla norma.
Clausole contrattuali, supervisione reale e costi nascosti da valutare
La supervisione umana richiesta dal regolamento deve essere concreta e misurabile. I modelli avanzati sono spesso opachi. Si vede il risultato ma non il percorso che lo genera. Inoltre si verifica il fenomeno dell’automation bias. Questo bias è la tendenza degli operatori ad affidarsi automaticamente alle indicazioni che generalmente funzionano. Se il controllo umano diventa meramente formale, aumenta il rischio di perdere responsabilità amministrativa. Aumenta anche il rischio di non intercettare errori gravi come quelli che hanno causato le tre vittime a Zaporizhzhia. La supervisione umana deve essere concreta e misurabile.
Nei contratti tra provider e deployer servono clausole precise e azionabili. Bisogna prevedere il diritto di ispezione tecnica e l’accesso ai log. Occorrono obblighi di audit con frequenza e formato definiti. Devono esistere procedure scritte per la disattivazione in caso di anomalie. Vanno introdotte clausole di responsabilità per il ciclo di vita degli aggiornamenti. Le PMI fornitori devono offrire dashboard con indicatori di anomalia, formati di log che permettano ispezioni indipendenti e supporto per l’interpretazione dei risultati. Queste misure richiedono tempo e persone. Il costo nascosto è soprattutto organizzativo e di formazione.
Chi guadagna, chi resta indietro e cosa resta da decidere
Una governance condivisa premia chi ha scala e competenze. Grandi amministrazioni e PMI che offrono servizi gestiti possono ottenere economie e accedere a nuovi mercati. Le università e i centri di ricerca possono contribuire con know-how tecnico e giuridico. Invece, i piccoli Comuni isolati rischiano di non rispettare gli obblighi per mancanza di risorse. I costi nascosti includono il tempo per costruire strumenti condivisi, il personale per audit continui e la formazione necessaria a mantenere una supervisione effettiva.
Rimane aperta la questione più complessa, la responsabilità penale e internazionale quando la decisione ultima è automatica. Il caso del 6 luglio 2026 dimostra che la tecnologia può precedere la regolazione. Spetta ora a legislatori, PA, imprese e consulenti trasformare gli obblighi astratti in pratiche verificabili. Serve trasformare obblighi astratti in pratiche verificabili, costruire contratti che distribuiscano responsabilità e strumenti che permettano alle persone di esercitare un controllo reale. Solo così si potrà trasformare il rischio operativo in responsabilità dimostrabile e ridurre la probabilità che eventi fatali tornino a ripetersi.
Solo così si potrà trasformare il rischio operativo in responsabilità dimostrabile.
Fonti:
Punti chiave
- Codificare provider e deployer nei contratti con diritti di ispezione e accesso ai log
- Implementare log strutturati e dashboard per indicatori di anomalia
- Prevedere audit ripetuti e procedure scritte per disattivazione di emergenza
- Costruire reti territoriali di competenze tra Comuni, Università e fornitori
- Formare personale e valutare i costi nascosti legati a governance e supervisione
Parti con Junto
Non sai da quale processo partire?
Un assessment con Junto Innovation Hub mette a fuoco il primo caso d'uso, i costi e gli incentivi applicabili alla tua azienda. Un'ora, senza impegno, con chi l'ha già fatto con altre PMI.