Ha sollevato molto interesse, in questi giorni, il blog post del CEO di Microsoft Satya Nadella che parla di un “reverse information paradox” in materia di intelligenza artificiale: per ottenere risposte migliori, le aziende affidano ai sistemi di AI dati, correzioni, criteri decisionali e competenze accumulate nel tempo. Il vero tema diventa così il controllo del processo attraverso il quale un’organizzazione impara.
Il costo dell’intelligenza artificiale non è occulto.
Forse.
In effetti in qualche misura si vede: nei contratti con i fornitori, nelle fatture cloud, nel consumo di token, negli investimenti necessari per portare i modelli dentro i processi aziendali.
Ma poi ci sono i costi che non si vedono.
Ad esempio il prezzo pagato in conoscenza. Per ottenere risposte davvero utili, infatti, le imprese finiscono per affidare ai sistemi una parte crescente del proprio sapere: dati, criteri decisionali, correzioni, eccezioni e competenze costruite nel tempo.
A sollevare il problema, in questi giorni, è stato il CEO di Microsoft Satya Nadella, che, in un intervento pubblicato sul proprio blog personale, introduce il concetto di Reverse Information Paradox, invitando le aziende a guardare con un occhio diverso al tema della protezione dei propri dati.
“You essentially pay for intelligence twice, once with money, and again with something even more valuable: the proprietary knowledge you must reveal to make that intelligence useful. The better you want the model to perform, the more of that knowledge you have to feed it!” scrive il CEO.
Il che, in sintesi, significa che l’intelligenza si pagadue volte: una volta con il denaro e una seconda volta con qualcosa di ancora più prezioso, la conoscenza proprietaria che occorre rivelare per renderla utile. Quanto più si desidera che il modello funzioni bene, tanto più bisogna alimentarlo con quella conoscenza.
Il punto riguarda il modo stesso in cui le imprese stanno adottando l’intelligenza artificiale. Un modello generico acquista valore quando entra in contatto con il linguaggio dell’organizzazione, le sue procedure, le eccezioni, le priorità, gli errori già commessi e i criteri attraverso cui vengono valutati i risultati. È in questa fase che la tecnologia comincia a conoscere l’azienda. E, contemporaneamente, è qui che l’azienda rischia di perdere il controllo su ciò che sta insegnando.
LEGGI ANCHE: Build 2026: Microsoft prepara l’infrastruttura per la prossima generazione di agenti AI
Dal paradosso dell’informazione al suo contrario
Nadella parte da un’idea formulata dall’economista Kenneth Arrow. Nel tradizionale “paradosso dell’informazione”, chi vende una conoscenza deve mostrarne almeno in parte il contenuto per dimostrarne il valore. Una volta ricevuta l’informazione, però, il compratore potrebbe averla già acquisita senza bisogno di pagarla.
L’intelligenza artificiale rovescia questa dinamica.
L’impresa acquista l’accesso a un modello, ma per utilizzarlo deve progressivamente rivelare una parte crescente del proprio sapere. Il fornitore vende la capacità di elaborazione; il cliente fornisce il contesto che permette a quella capacità di produrre valore.
“Nell’era dell’AI, il compratore rischia di cedere conoscenza semplicemente per riuscire a utilizzare ciò che ha acquistato”, osserva Satya Nadella.
A cambiare è anche la direzione dell’asimmetria informativa. Il cliente conosce poco di ciò che il fornitore apprende attraverso le interazioni, mentre il sistema può accumulare una rappresentazione sempre più precisa del cliente, dei suoi processi e delle modalità con cui valuta una risposta.
Il rischio supera quindi il trasferimento di documenti riservati o di dati personali. Riguarda la progressiva esposizione del modo in cui l’organizzazione ragiona.
Satya Nadella: il sapere aziendale si nasconde nelle correzioni
La parte più interessante della riflessione di Nadella riguarda ciò che definisce l’“exhaust” dell’intelligenza artificiale: le tracce lasciate durante il normale utilizzo dei modelli.
Ne fanno parte i prompt scritti dai dipendenti, gli strumenti richiamati dagli agenti, le sequenze operative, i risultati scartati, le valutazioni e soprattutto le correzioni apportate quando il sistema sbaglia.
“I modelli apprendono dall’exhaust: dai prompt scritti dalle persone, dagli strumenti utilizzati dagli agenti e, in particolare, dalle correzioni effettuate quando il modello commette un errore. Ogni correzione viene distillata in know-how istituzionale”, scrive il CEO di Microsoft.
Una correzione apparentemente banale può infatti contenere anni di esperienza. Spiega perché una certa clausola contrattuale vada interpretata in un determinato modo, perché un componente industriale richieda una tolleranza particolare, perché un cliente debba essere gestito diversamente dagli altri o perché un’anomalia, pur simile a molte altre, rappresenti un rischio concreto.
Queste indicazioni raramente vivono in un unico database. Si trovano nella memoria delle persone, nei passaggi informali, nelle eccezioni costruite nel tempo e nei criteri con cui gli esperti distinguono una risposta formalmente corretta da una risposta utile.
“È il tipo di conoscenza che un concorrente non potrebbe mai comprare e che, invece, può fuoriuscire quasi impercettibilmente: traccia dopo traccia, correzione dopo correzione, valutazione dopo valutazione”, sottolinea Nadella.
Quando un dipendente migliora la risposta di un modello, dunque, sta contemporaneamente utilizzando intelligenza e producendo nuova intelligenza.
LEGGI ANCHE: Microsoft AI Tour: l’intelligenza artificiale entra nella fase della “Frontier Transformation”
Dalla proprietà dei dati alla proprietà dell’apprendimento
La governance dell’AI viene spesso affrontata attraverso domande ormai familiari: dove risiedono i dati, chi può accedervi, per quanto tempo vengono conservati e se vengono impiegati per addestrare i modelli.
Nadella sposta il perimetro. Nell’era del cloud le imprese hanno accumulato dati; nell’era dell’intelligenza artificiale accumulano apprendimento.
La differenza è sostanziale. Un archivio contiene ciò che un’organizzazione sa. Un sistema di apprendimento registra anche come applica quel sapere, come giudica i risultati, quali errori considera accettabili e quali decisioni prende di fronte a situazioni ambigue.
“In consumare intelligenza, si crea intelligenza. E ciò che si crea dovrebbe appartenere a chi lo ha prodotto”, afferma Nadella.
Da qui nasce la richiesta di una nuova trust boundary, una frontiera di fiducia capace di racchiudere dati, memoria, feedback, valutazioni, tracce operative e modelli adattati. Tutti gli elementi attraverso cui il capitale umano dell’impresa viene progressivamente trasformato in capitale computazionale.
Questa frontiera dovrebbe stabilire che nessuna conoscenza prodotta dall’interazione con i sistemi possa uscire dal perimetro aziendale senza consenso. Compresi quei segnali che presi singolarmente sembrano insignificanti, ma che nel loro insieme descrivono il funzionamento profondo dell’organizzazione.
Chi controlla il ciclo di apprendimento
Secondo Nadella, ogni impresa dovrebbe costruire e mantenere il proprio learning loop, il ciclo continuo attraverso cui persone e sistemi si correggono, si valutano e migliorano.
Il primo elemento è rappresentato dagli eval, le valutazioni utilizzate per stabilire che cosa significhi “buono” all’interno di una specifica organizzazione. Un modello può produrre una risposta linguisticamente impeccabile e, allo stesso tempo, completamente inadatta alle regole, ai processi o al livello di rischio dell’azienda.
Chi controlla gli eval controlla quindi il criterio attraverso cui l’intelligenza viene orientata.
A questo si aggiunge la proprietà della memoria organizzativa: prompt, feedback, decisioni, contesto istituzionale e risultati delle attività svolte. Secondo Nadella, le imprese dovrebbero inoltre poter utilizzare gli output ottenuti dai modelli per addestrare o perfezionare sistemi propri.
Il tema tocca un nervo scoperto del mercato. I fornitori di modelli rivendicano la possibilità di addestrare i propri sistemi su grandi quantità di dati pubblici, mentre spesso impongono restrizioni sull’utilizzo degli output per la distillazione o l’addestramento di altri modelli.
“Trovo ironico che l’attuale assetto consenta ai fornitori di beneficiare del fair use per addestrare i modelli sui dati pubblici e, subito dopo, di imporre condizioni restrittive sulla distillazione, riservandosi al tempo stesso il diritto di apprendere dai dati di utilizzo e dalle interazioni dei clienti”, scrive Nadella.
Quando l’apprendimento scorre in una sola direzione, il valore tende a concentrarsi nelle mani di chi possiede l’infrastruttura su cui avviene.
Satya Nadella: l’orchestrazione come difesa dal lock-in
La risposta proposta da Satya Nadella passa anche dall’architettura tecnologica. Le imprese dovrebbero creare ambienti proprietari di apprendimento all’interno del proprio perimetro e separare il livello di orchestrazione dai singoli modelli.
L’obiettivo consiste nel permettere all’organizzazione di cambiare fornitore senza perdere la memoria, le valutazioni, i workflow e le capacità sviluppate.
La domanda indicata da Nadella è molto concreta: se domani uno dei modelli utilizzati dall’impresa diventasse indisponibile, l’azienda sarebbe ancora in grado di operare e ottimizzare i propri processi attraverso un modello differente?
Il modello può essere sostituito. La capacità maturata dall’organizzazione dovrebbe invece rimanere al suo interno.
Questa impostazione apre la strada ad architetture multimodello, gateway capaci di indirizzare le richieste verso sistemi diversi e soluzioni open source eseguite nel cloud privato o nelle infrastrutture aziendali. La scelta del modello può così dipendere dal costo, dalla sensibilità dei dati, dal livello di precisione richiesto e dal tipo di attività.
Il vantaggio riguarda la sovranità tecnologica, ma anche l’economia dell’AI. Separando contesto, orchestrazione e modello, l’impresa può assegnare ogni compito al sistema più efficiente, evitando di utilizzare l’opzione più potente e costosa per qualsiasi attività.
Microsoft avverte un mercato che contribuisce a costruire
La posizione di Satya Nadella assume un peso particolare proprio per il ruolo che Microsoft gioca nel vasto ecosistema AI. Per questo il suo intervento può essere letto anche come una precisa indicazione industriale. La prossima fase dell’AI enterprise potrebbe premiare meno il singolo modello e molto di più la piattaforma capace di garantire scelta, controllo, isolamento dei dati e continuità del patrimonio di apprendimento.
La competizione si sposterebbe così dalla semplice disponibilità di intelligenza alla possibilità di governarne l’accumulazione.
Il vero asset aziendale, nella lettura di Nadella, non coincide più soltanto con i dati utilizzati per interrogare un modello. Comprende tutto ciò che l’organizzazione insegna al sistema mentre lavora: le sue preferenze, i criteri di qualità, la memoria delle decisioni e il modo in cui trasforma l’esperienza in risultati.
È questa conoscenza, prodotta un’interazione alla volta, che le imprese dovranno imparare a proteggere.
