Provate a immaginare una scena insolita: tre sistemi di IA (ChatGPT, Gemini e Claude) chiusi dentro una stanza virtuale, chiamati a comportarsi come leader di superpotenze rivali e costretti a gestire crisi internazionali, scarsità di risorse, minacce militari e tensioni geopolitiche crescenti; in altre parole, in “guerra” tra loro! Non è l’inizio di un film di fantascienza. È uno studio condotto da un professore di strategia del King’s College di Londra che ha provato a osservare cosa succede quando modelli di intelligenza artificiale avanzati vengono lasciati interagire tra loro in scenari competitivi e ad alta pressione.
L’esperimento era costruito in modo piuttosto affascinante. Ogni sistema riceveva informazioni sul contesto, doveva interpretare e prevedere le possibili mosse dell’avversario, elaborare una strategia e prendere decisioni progressive lungo un piano di escalation: dalla semplice protesta diplomatica fino ad arrivare, potenzialmente, all’opzione più estrema: la guerra nucleare. C’era, però, un elemento particolarmente interessante: nessun modello sapeva realmente cosa avrebbero fatto gli altri. Ognuno agiva cercando di massimizzare il proprio vantaggio strategico, formulando ipotesi, bluffando, adattandosi e scegliendo quando cooperare o quando irrigidirsi.
Il risultato? Piuttosto controintuitivo. In gran parte delle simulazioni i sistemi hanno progressivamente aumentato il livello dello scontro fino a raggiungere scenari estremi e le strategie di de-escalation o rinuncia sono state poco frequenti. Questo non perché i modelli “volessero” il conflitto ma perché, inseriti in ambienti complessi, competitivi e caratterizzati da incertezza, hanno privilegiato comportamenti sempre più aggressivi per mantenere vantaggi strategici.
Più che il risultato finale dell’esperimento, colpisce il meccanismo: strumenti sempre più autonomi operano in ambienti complessi, prendono decisioni e producono effetti che non sono sempre immediatamente prevedibili. È esattamente in questo spazio – tra autonomia tecnologica e necessità di controllo – che nasce il tema della governance.
Quando si parla di intelligenza artificiale, la domanda che molte organizzazioni continuano a porsi è ancora: “Questa tecnologia ci serve?”. In realtà, le domande più utili oggi sarebbero altre: “Chi la governa? Con quali regole? Con quali controlli?” e soprattutto: “Chi risponde quando qualcosa non funziona come previsto?”.
Saper “governare” l’intelligenza artificiale non coincide con la semplice compliance normativa. Ridurla a un insieme di documenti, policy o check-list significherebbe perdere il punto centrale. La governance è l’insieme delle regole organizzative, delle responsabilità, dei processi decisionali e dei meccanismi di controllo che impediscono alla tecnologia di trasformarsi in una scatola nera interna all’organizzazione. In altre parole, è il modo in cui un’impresa decide di utilizzare l’IA, chi ne supervisiona il funzionamento, come vengono monitorati gli output e quali strumenti vengono utilizzati quando emergono anomalie o rischi.
Se volessimo utilizzare una metafora semplice, potremmo dire che l’intelligenza artificiale è un motore estremamente potente. La governance, invece, rappresenta il volante e i freni. Perché un motore senza sistemi di guida non genera innovazione: genera soltanto velocità senza direzione.
Non è un caso che anche il legislatore europeo abbia adottato questa prospettiva. L’AI Act, infatti, non nasce con l’obiettivo di impedire l’utilizzo dell’intelligenza artificiale ma con quello di governarla attraverso un approccio basato sul rischio. È una scelta culturale prima ancora che normativa. Il regolatore europeo non dice che tutte le IA sono uguali, dice esattamente il contrario: sistemi differenti producono impatti differenti e, di conseguenza, richiedono livelli di controllo differenti.
Questo cambia radicalmente il modo in cui le organizzazioni devono approcciarsi alla tecnologia. Non basta più acquistare un software o attivare un servizio cloud. Diventa necessario comprendere su quali dati lavora il sistema, dove vengono salvate le informazioni, quali effetti produce, chi controlla gli output, come vengono documentate le decisioni e come intervenire quando il sistema genera errori, bias o risultati inattesi.
Ed è qui che la governance diventa molto concreta. Le aziende che stanno affrontando seriamente il tema stanno iniziando, più pragmaticamente, a chiarire ruoli e responsabilità: definiscono chi approva l’introduzione di nuovi strumenti, come vengono valutati i rischi, quali controlli applicare ai fornitori anche attraverso adeguate tutele contrattuali, chi monitora gli output e quali processi attivare quando emergono anomalie o incidenti. Senza questa chiarezza organizzativa, la governance rischia di rimanere solo teorica.
Prima ancora delle policy, inoltre, servono consapevolezza e mappatura. Sempre più aziende, infatti, stanno avviando survey interne e assessment preliminari per rispondere a una domanda apparentemente semplice, ma spesso tutt’altro che scontata: dove e come viene già utilizzata l’IA all’interno dell’organizzazione? Proprio in questo momento molte realtà scoprono che tali sistemi sono già entrati nei processi aziendali in modo spontaneo e non governato.
Una volta terminata questa fase, allora, ha senso costruire policy e procedure. Non documenti teorici destinati a rimanere in un cassetto ma regole operative che chiariscano cosa è consentito fare, quali dati non possono essere utilizzati, quando è obbligatoria la verifica umana, come documentare gli output e quali sistemi richiedono autorizzazioni preventive.
Non dimentichiamo, infine, la formazione, che rappresenta probabilmente il tassello più sottovalutato della governance IA. Le norme europee parlano apertamente di “AI literacy” ma il tema va oltre gli obblighi normativi: se le persone non comprendono limiti, bias, allucinazioni, rischi privacy o impatti organizzativi, nessuna procedura sarà realmente efficace. La governance, alla fine, non si realizza con i documenti, si realizza con le persone che devono applicarli.
In fondo, lo studio del King’s College ci lascia un messaggio molto semplice: il rischio più grande non è costruire sistemi sempre più intelligenti ma dimenticare che, anche quando la macchina sembra sapere cosa fare, qualcuno deve continuare a chiedersi se quella direzione sia davvero quella giusta.
