Grazie al lavoro di consulenza, siamo spesso coinvolti in diverse progettualità legate alla costruzione di sistemi IA generativi proprietari. Non si tratta di semplici chatbot “preconfezionati”, ma di strumenti costruiti progressivamente attraverso documenti, procedure, basi informative interne e modalità di risposta modellate sul contesto in cui dovranno operare.
Proprio partecipando a queste attività, ho ripensato a un passaggio dantesco:
“S’io m’intuassi come tu t’inmii”
Accostare Dante all’intelligenza artificiale potrebbe sembrare una forzatura, eppure, quel neologismo si dimostra sorprendentemente utile a descrivere ciò che accade quando iniziamo a costruire sistemi IA che non si limitano a elaborare informazioni, ma vengono progressivamente istruiti anche sul nostro modo di ragionare, sintetizzare, comunicare e persino restituire “tono” alle risposte.
A un certo punto il rapporto cambia: non stiamo più semplicemente utilizzando uno strumento, stiamo trasferendo nel sistema una parte del nostro contesto, delle nostre logiche di ragionamento e del nostro modo di interpretare i problemi.
Il sistema, inevitabilmente, ci restituisce una versione rielaborata di tutto questo, ed è forse proprio qui che l’intelligenza artificiale smette di essere soltanto tecnologia. Perché un sistema IA proprietario non funziona per magia. Ha bisogno di informazioni coerenti, fonti affidabili, basi documentali solide e istruzioni comprensibili. In altre parole, eredita inevitabilmente il contesto in cui nasce.
Se le informazioni sono frammentate, il sistema tenderà a riflettere quella frammentazione. Se le fonti non sono aggiornate o verificabili, anche gli output rischieranno di esserlo meno. In questo senso l’IA non crea il caos, piuttosto lo rende visibile.
Ed è forse questo uno degli aspetti più sottovalutati, soprattutto nelle piccole e medie imprese; molte organizzazioni sono cresciute per stratificazione: un software aggiunto per necessità, un servizio cloud attivato rapidamente, una nuova piattaforma introdotta per risolvere un problema immediato.
Oggi però sistemi sempre più interconnessi — e soprattutto l’IA — iniziano a poggiarsi esattamente sopra quella stratificazione, se consideriamo anche che, sempre più spesso, le PMI entrano in ecosistemi digitali molto più ampi attraverso le filiere in cui operano. E chi si confronta quotidianamente con supply chain sempre più digitali sa bene che il punto non è più soltanto far funzionare i processi, ma riuscire a renderli coerenti, affidabili e sostenibili nel tempo.
Forse è anche per questo che temi come il data poisoning, affrontato dall’Avv. Andrea Lisi in un recente articolo, dovrebbero iniziare a preoccuparci un po’ di più. Se un sistema costruisce le proprie risposte sulla base dei contenuti che apprende o recupera, allora qualità e provenienza delle informazioni diventano parte integrante della sua affidabilità.
Anche nella cybersecurity l’intelligenza artificiale può rafforzare enormemente capacità di rilevamento, analisi degli incidenti e comprensione delle minacce, ma da sola non basta. La qualità dei dati, delle fonti e della supervisione continua a fare la differenza. Lo dimostrano bene anche le cosiddette “allucinazioni”: risposte formalmente impeccabili possono rivelarsi, in realtà, sostanzialmente errate. Per questo la verificabilità delle fonti non è un dettaglio tecnico, ma una vera condizione di affidabilità.
Senza dimenticare che la stessa IA può essere utilizzata anche dagli attaccanti per rendere più credibili campagne di phishing, social engineering e disinformazione.
Considerando questi aspetti, diventa difficile pensare all’intelligenza artificiale come a un semplice “strumento aggiuntivo”. Ed è forse anche per questo che il vero nodo non si sostanzia soltanto nella moltiplicazione di ruoli, etichette professionali o certificazioni specialistiche.
Recentemente è stata pubblicata la UNI 11621-8:2026, primo standard nazionale europeo dedicato ai profili professionali operanti nel settore dell’intelligenza artificiale, con l’introduzione di dodici ruoli specifici. Un passaggio certamente interessante e utile nel tentativo di strutturare competenze e responsabilità in un ambito destinato a incidere sempre più profondamente sulle organizzazioni.
È fondamentale osservare come, nascendo in ambito ICT, la norma restituisca una visione dell’IA ancora molto centrata sul costruire: algoritmi, dati, modelli, sicurezza, prodotto, linguaggio, ricerca. Una prospettiva certamente importante, che forse oggi inizia però a richiedere sempre più anche capacità di presidio: delle fonti, delle logiche decisionali, degli impatti e delle responsabilità che questi sistemi inevitabilmente producono.
Eppure, una domanda continua ad imporsi in questo scenario: se iniziamo davvero a trasferire nei sistemi IA parti del nostro modo di ragionare e decidere, possiamo considerare secondari diritto, etica e responsabilità? Forse, accanto ai dodici profili tecnici individuati dalla norma, prima o poi servirà anche un ideale IA Ethics Officer, Non allo scopo di rallentare l’innovazione, ma di presidiare le domande più scomode: da quali fonti apprende il sistema? Quali logiche sta incorporando? Quali bias rischia di replicare? Chi risponde delle sue decisioni e dei suoi effetti?
Domande che, a ben vedere, ricordano molto un approccio by design: interrogarsi a monte sulle regole del sistema, sulla qualità delle informazioni che lo alimentano, sui rischi prevedibili e sulle responsabilità che inevitabilmente ne derivano.
