Quando la febbre tecnologica precede il giudizio manageriale
Poche settimane fa, i dipendenti di Tencent hanno organizzato feste di installazione massiva per un programma di intelligenza artificiale. Centinaia di persone, inclusi cappelli a forma di astice, celebravano l'arrivo di OpenClaw, l'agente autonomo open source creato dal programmatore austriaco Peter Steinberger. L'applicazione non è un chatbot. È un agente: programma riunioni, gestisce email, naviga su internet, ordina file e risponde ai messaggi senza che l'utente faccia nulla. E per fare tutto ciò, ha bisogno di accesso totale al sistema, incluse password, chiavi API e dati privati.
L'entusiasmo è stato tanto genuino quanto sproporzionato. Aziende come Tencent, Alibaba, Baidu e MiniMax hanno lanciato versioni proprie o compatibili, le loro quotazioni sono aumentate e MiniMax ha raggiunto una valutazione di 44 miliardi di dollari con soli 79 milioni di dollari di fatturato per il 2025. Il distretto di Longgang a Shenzhen è arrivato a proporre sussidi fino a due milioni di yuan per progetti che utilizzassero agenti simili a OpenClaw. In sintesi, il fervore ha superato di gran lunga qualsiasi valutazione del rischio.
La risposta del governo cinese è arrivata questa settimana con la velocità e il tono di chi spegne un incendio. Le autorità centrali hanno notificato alle aziende statali e agli enti governativi di non installare OpenClaw sui computer d’ufficio, di dichiarare le installazioni esistenti e di eliminarle se già operative. La Banca Popolare Cinese è stata più esplicita: ha istruito i dipendenti del settore bancario statale a disinstallare il programma anche dai propri dispositivi personali. La Base Nazionale delle Vulnerabilità del Ministero dell'Industria e della Tecnologia dell'informazione ha pubblicato linee guida di sicurezza puntando direttamente all'agente. Per ora non c'è un divieto totale per i cittadini o gli imprenditori, ma il messaggio istituzionale è inequivocabile.
Ciò che il cappello da astice non lascia vedere
Dietro l'aneddoto pittoresco c'è una meccanica organizzativa che merita di essere analizzata. OpenClaw non è pericoloso perché sia malevolo. È pericoloso perché i suoi utenti, inclusi i dirigenti di aziende di rilevanza sistemica, gli hanno ceduto permessi totali sui loro sistemi prima di capire cosa potesse fare con essi. Gli incidenti documentati fino ad ora includono la cancellazione della casella di posta del responsabile dell’allineamento dell’IA in Meta, l’esposizione di informazioni sensibili e l’emergere di quattordici estensioni malevole in ClawHub il mese scorso, alcune mirate specificamente a utenti di criptovalute.
Questo descrive un modello gestionale che riconosco fin troppo bene. Uno strumento arriva avvolto in una narrativa di produttività, i team lo adottano con urgenza perché c'è pressione implicita per non restare indietro, e nessuno nella catena decisionale ha avuto la conversazione necessaria: quali accessi stiamo cedendo, a quali dati, sotto quali condizioni di reversibilità e con quale protocollo di contenimento se qualcosa non funziona. Questa conversazione non è avvenuta nelle banche statali cinesi. Non è avvenuta nei festeggiamenti di installazione di Tencent. E probabilmente non sta avvenendo in questo momento in decine di organizzazioni al di fuori della Cina che stanno replicando esattamente lo stesso modello con strumenti simili.
L’omissione non è spesso negligente dal punto di vista tecnico. È solitamente il risultato di una cultura in cui la paura di sembrare lenti o conservatori silenzia il pensiero critico prima che arrivi nella sala dirigenziale. L'inerzia dell’entusiasmo collettivo fa il resto. Quando centinaia di persone indossano cappelli da astice per celebrare un'installazione, il dirigente che alza la mano per chiedere riguardo ai permessi di sistema assume un costo sociale che molti non sono disposti a pagare.
L'aritmetica di cedere il controllo a una macchina
C'è una lezione finanziaria concreta che il caso OpenClaw espone chiaramente. Gli agenti autonomi di IA non sono strumenti di produttività nel senso convenzionale. Sono architetture di delega: l'utente trasferisce la capacità di azione, non solo di consultazione, a un sistema che agisce per suo conto. Questa delega ha un prezzo che raramente appare nelle presentazioni di adozione tecnologica.
Il primo costo è quello dell'esposizione a beni intangibili. Quando OpenClaw gestisce la posta di un funzionario di una banca centrale, quell'agente elabora, classifica e potenzialmente trasmette informazioni su decisioni di politica monetaria, relazioni con controparti o strategie regolatorie. Il dato più prezioso di un'organizzazione non si trova spesso in un database protetto, ma nel flusso ordinario di comunicazioni dei suoi dirigenti. Un agente con permessi totali ha accesso a quel flusso.
Il secondo costo è quello della reversibilità. Un chatbot che dà una risposta errata genera un errore che l'utente può ignorare. Un agente che esegue azioni, cancella email, programma riunioni o completa moduli genera conseguenze che possono essere irreversibili o costose da annullare. L'asimmetria tra la velocità di azione dell'agente e la velocità di supervisione umana è precisamente il vettore di rischio che le linee guida del governo cinese cercano di contenere.
Il terzo costo, il meno visibile, è quello della dipendenza operativa silenziosa. Quando un'organizzazione delega processi quotidiani a un agente autonomo senza documentare tali processi né mantenere la capacità di eseguirli manualmente, costruisce una dipendenza che diventa visibile solo quando l'agente fallisce, viene compromesso o ritirato per ordine regolamentare, esattamente ciò che sta accadendo ora nelle aziende statali cinesi che devono auditare e disinstallare implementazioni che sono operative da settimane.
Il modello che Pechino non ha inventato
Sarebbe conveniente, ma impreciso, presentare questa storia come una peculiarità del governo cinese o della sua relazione con la tecnologia occidentale. Il ciclo descritto dal caso OpenClaw, adozione massiva spinta dalla pressione dei pari, assenza di valutazione dei rischi, incidenti di sicurezza, interventi regolatori tardivi, è lo stesso ciclo che si ripete in organizzazioni di tutto il mondo con ogni ondata tecnologica rilevante.
Ciò che Pechino sta facendo ora è, in termini strutturali, ciò che molte giunte dirigenti avrebbero dovuto fare internamente prima che il loro dipartimento IT iniziasse a ricevere richieste di installazione. L'Accademia Cinese delle Tecnologie dell'Informazione e delle Comunicazioni prevede di avviare test di affidabilità per agenti come OpenClaw entro la fine di marzo. È un tentativo di costruire standard dopo che l'adozione è già avvenuta. L’ordine corretto sarebbe inverso, ma questo ordine richiede che qualcuno in posizione di autorità abbia la conversazione scomoda prima che l'entusiasmo generi inerzia.
MiniMax, valutata 44 miliardi di dollari con 79 milioni di fatturato, illustra l'altro lato del problema. Quel divario tra valutazione e fatturato è sostenibile solo finché il mercato crede che la scala di adozione si tradurrà in monetizzazione. Se la frenata governativa rallenta quell'adozione nel settore statale, che è il più grande in Cina, la pressione su quella valutazione diventa strutturale, non congiunturale. L'ottimismo di mercato che gonfiava il prezzo si fondava su una narrativa di crescita senza attriti. L'attrito è arrivato.
La cultura di un'organizzazione non è il risultato dei suoi valori dichiarati né delle sue politiche tecnologiche. È il risultato delle decisioni che i suoi leader hanno preso quando nessuno li obbligava a farlo, e di tutte le conversazioni che hanno rinviato perché il momento non è mai sembrato giusto.
