Linda Napoletano è Director e Head of Manufacturing in Deep Blue, realtà che opera da anni su sistemi complessi e safety-critical, dall’industria all’aviazione, fino alle infrastrutture. Il suo lavoro si concentra sulla progettazione ditecnologie compatibili con il funzionamento reale delle persone, mettendo al centro i fattori umani.
Nel percorso di Deep Blue, l’intelligenza artificiale viene intregrata in contesti dove l’errore ha un costo elevato, per questo progettare sistemi intelligenti significa definire ruoli, confini decisionali, modalità di controllo e condizioni che rendano l’uso dell’AI sostenibile nel tempo, sia dal punto di vista operativo che organizzativo.
In questa intervista per il blog di IntelligentIA, Napoletano ci anticipa le sfide che accompagnano l’introduzione dell’AI nei sistemi ad alta responsabilità, spiegando perché la qualità delle decisioni dipende da come la tecnologia, i processi e le persone vengono messi in relazione nella progettazione.
Deep Blue è sponsor di IntelligentIA. Linda Napoletano salirà sul palco dell’evento, il 6-7 marzo a Roma, con il talk “La fabbrica intelligente parte dalle persone”, per esplorare come l’assenza di una progettazione human-centered, anche in presenza di tecnologie mature e performanti, possa compromettere l’efficacia dell’innovazione e ostacolare l’adozione reale dei sistemi intelligenti.
Deep Blue opera da anni su sistemi complessi e safety-critical, dall’aviazione alle infrastrutture. Quando l’intelligenza artificiale entra in questi contesti, quali requisiti progettuali diventano centrali per garantire affidabilità, controllo umano e qualità delle decisioni?
Nei sistemi complessi e safety-critical, l’introduzione dell’intelligenza artificiale pone una domanda di fondo: che tipo di relazione vogliamo costruire tra persone e sistemi intelligenti? L’accuratezza tecnica, da sola, non è sufficiente. È necessario definire fin dall’inizio come l’AI si inserisce nei processi decisionali, quali margini di autonomia ha e in che modo il controllo umano resta effettivo e non solo nominale. Servono requisiti progettuali che includano governance, regolazione e competenze umane. In questi contesti è fondamentale garantire tracciabilità delle decisioni, chiarezza delle responsabilità, conformità ai requisiti normativi e processi che rendano il controllo umano sempre esercitabile e non solo formale.
Si parla sempre più spesso di collaborazione tra esseri umani e sistemi intelligenti. Cosa significa concretamente Human-AI Teaming e quale ruolo gioca nello sviluppo di sistemi di intelligenza artificiale affidabili?
Parliamo di Human-AI Teaming come visione di riferimento: una collaborazione dinamica e adattiva in cui persone e sistemi intelligenti perseguono obiettivi comuni con ruoli e responsabilità ben delineati. Ma perché funzioni davvero occorre investire anche sulla componente umana, attraverso formazione, AI literacy e sviluppo di competenze decisionali. Nei progetti che Deep Blue sta portando avanti, l’AI viene pensata come un alleato proattivo, capace di potenziare il processo decisionale umano senza sostituirlo.
Oggi si parla molto di fabbrica intelligente e Industria 5.0. Qual è l’errore che le aziende devono evitare quando introducono robotica e AI nei processi produttivi?
L’errore da evitare è considerare robotica e AI come una semplice sostituzione tecnologica, anziché come una trasformazione organizzativa. Nella Seconda Rivoluzione Industriale, ad esempio, l’aumento di produttività non avvenne grazie alle macchine ma dal taylorismo, ovvero dalla riprogettazione del lavoro. Questo significa che acquistare soluzioni tecnologiche avanzate non produce automaticamente benefici se non si ripensano i flussi di lavoro, le responsabilità e le competenze. Il rischio è di introdurre sistemi isolati o poco integrati, che le persone faticano ad adottare perché non coerenti con il contesto operativo reale. L’innovazione funziona solo quando coinvolge fin dall’inizio chi utilizzerà quei sistemi valorizzandone l’esperienza e il sapere operativo. Integrare l’AI significa riprogettare il lavoro, non solo digitalizzarlo. Quando la tecnologia è coerente con il contesto operativo e con la cultura aziendale, diventa un acceleratore; altrimenti rischia di generare complessità, resistenze e inefficienze.
Nei progetti di ricerca sull’IA spiegabile, come XMANAI, avete lavorato sul tema della trasparenza dei modelli. In che modo la spiegabilità incide sulla fiducia degli operatori e sull’adozione dell’IA nei sistemi ad alta responsabilità?
La spiegabilità è fondamentale perché la fiducia non è automatica, ma si costruisce. Nei sistemi ad alta responsabilità, le persone non possono limitarsi ad accettare le decisioni di una “scatola nera”: devono capire perché l’AI suggerisce una certa decisione, quali dati ha considerato e con quale grado di incertezza. Quando il sistema rende visibili le proprie logiche, si crea una collaborazione più matura, gli operatori usano l’AI come supporto e non come autorità incontestabile. Questo migliora la qualità delle decisioni e riduce il rischio di errori sistemici. Senza trasparenza si creano due estremi pericolosi: diffidenza totale, che porta a ignorare lo strumento, oppure over-reliance, cioè fiducia cieca. La spiegabilità, invece, favorisce un equilibrio consapevole tra giudizio umano e automazione che è uno degli obiettivi chiave dell’Industria 5.0.
Lei parla spesso di “debito di design”. Cosa significano questi concetti e perché dovrebbero interessare anche CEO e manager, non solo tecnici o progettisti?
Il mio lavoro si basa sui Fattori Umani e riguarda la progettazione di sistemi compatibili con il modo in cui le persone realmente pensano, percepiscono e prendono decisioni. Attenzione, memoria e capacità di gestione dello stress hanno limiti fisiologici: ignorarli significa costruire ambienti di lavoro che chiedono alle persone uno sforzo continuo e invisibile. Questo è ciò che definisco “debito di design”: una fatica mentale accumulata nel tempo che si traduce in errori, calo di performance, turnover e infortuni. Per i manager non è un tema teorico, ma economico. I costi di un design inadeguato emergono come inefficienze, assenteismo o bassa qualità del lavoro. Progettare in modo umano-centrico, invece, stabilizza la produttività e rende l’innovazione sostenibile nel lungo periodo.
Nel progetto europeo HARTU avete definito nuove figure professionali per la fabbrica intelligente. Perché non basta introdurre robot e tecnologie avanzate e come cambiano concretamente i ruoli delle persone?
Spesso immaginiamo l’automazione come una semplice sostituzione del lavoro umano, ma la realtà è molto diversa: quando i sistemi diventano più intelligenti, il lavoro diventa più cognitivo, decisionale e di coordinamento. Con HARTU abbiamo voluto superare l’idea generica di “uomo che lavora con il robot” e definire ruoli chiari, competenze specifiche e responsabilità nuove. Lo Smart Line Operator supervisiona e stabilizza il flusso, il Plant Flow-Keeper orchestra persone e macchine, mentre il Tech Solver gestisce configurazione e problem solving avanzato. Sono figure che combinano capacità tecniche e decisionali. Questo dimostra che l’innovazione non riguarda solo le macchine, ma soprattutto la crescita delle competenze umane. La competitività della fabbrica dipenderà da quanto i sistemi sapranno amplificare, e non impoverire, le capacità delle persone.
IntelligentIA è il primo grande evento dedicato all’IA in programma a Roma il 6-7 marzo 2026. Due giornate “full immersion” sull’intelligenza artificiale per capire come integrarla nei processi di business e come gestirla con intelligenza umana, per prendere decisioni migliori e generare valore reale per le organizzazioni, le aziende e le persone.
