El lobby de la langosta y la ilusión del control automático

El lobby de la langosta y la ilusión del control automático

China acaba de frenar en seco el agente de IA más popular de sus empresas estatales. Lo que revela no es un problema de ciberseguridad, sino el síntoma clásico de una organización que adoptó poder antes de entender qué haría con él.

Simón ArceSimón Arce16 de marzo de 20267 min
Compartir

Cuando la fiebre tecnológica precede al juicio directivo

Hace pocas semanas, empleados de Tencent organizaron fiestas de instalación masiva para un programa de inteligencia artificial. Cientos de personas, sombreros de langosta incluidos, celebraban la llegada de OpenClaw, el agente autónomo de código abierto creado por el programador austriaco Peter Steinberger. La aplicación no es un chatbot. Es un agente: programa reuniones, gestiona correos, navega por internet, ordena archivos y responde mensajes sin que su usuario haga nada. Y para hacer todo eso, necesita acceso total al sistema, incluidas contraseñas, claves API y datos privados.

El entusiasmo fue tan genuino como desproporcionado. Empresas como Tencent, Alibaba, Baidu y MiniMax lanzaron versiones propias o compatibles, sus cotizaciones subieron y MiniMax alcanzó una valoración de 44.000 millones de dólares con apenas 79 millones de dólares en ingresos durante 2025. El distrito de Longgang, en Shenzhen, llegó a proponer subsidios de hasta dos millones de yuanes para proyectos que usaran agentes similares a OpenClaw. El fervor, en resumen, corrió muy por delante de cualquier evaluación de riesgo.

La respuesta del gobierno chino llegó esta semana con la velocidad y el tono de quien apaga un incendio. Las autoridades centrales notificaron a empresas estatales y organismos gubernamentales que no instalaran OpenClaw en equipos de oficina, que declararan las instalaciones existentes y que las eliminaran si ya estaban operativas. El Banco Popular de China fue más explícito: instruyó a los empleados de la banca estatal a desinstalar el programa incluso de sus dispositivos personales. La Base Nacional de Vulnerabilidades del Ministerio de Industria y Tecnología de la Información publicó directrices de seguridad apuntando directamente al agente. No hay un veto total para ciudadanos o emprendedores por ahora, pero el mensaje institucional es inequívoco.

Lo que el sombrero de langosta no deja ver

Detrás de la anécdota pintoresca hay una mecánica organizacional que merece disección. OpenClaw no es peligroso porque sea malicioso. Es peligroso porque sus usuarios, incluidos directivos de empresas de relevancia sistémica, le cedieron permisos totales sobre sus sistemas antes de comprender qué podía hacer con ellos. Los incidentes documentados hasta ahora incluyen la eliminación del buzón de correo del responsable de alineación de IA en Meta, la exposición de información sensible y la aparición de catorce extensiones maliciosas en ClawHub el mes pasado, algunas apuntando específicamente a usuarios de criptomonedas.

Esto describe un patrón directivo que reconozco con demasiada frecuencia. Una herramienta llega envuelta en narrativa de productividad, los equipos la adoptan con urgencia porque hay presión tácita para no quedarse atrás, y nadie en la cadena de decisión tuvo la conversación que había que tener: ¿qué acceso estamos cediendo, a qué datos, bajo qué condiciones de reversibilidad y con qué protocolo de contención si algo falla. Esa conversación no ocurrió en los bancos estatales chinos. No ocurrió en las fiestas de instalación de Tencent. Y probablemente no está ocurriendo ahora mismo en docenas de organizaciones fuera de China que están replicando exactamente el mismo patrón con herramientas similares.

La omisión no suele ser negligencia técnica. Suele ser el resultado de una cultura donde el miedo a parecer lento o conservador silencia el pensamiento crítico antes de que llegue a la sala de dirección. La inercia del entusiasmo colectivo hace el resto. Cuando cientos de personas llevan sombreros de langosta para celebrar una instalación, el directivo que levanta la mano para preguntar por los permisos del sistema asume un coste social que muchos no están dispuestos a pagar.

La aritmética de ceder control a una máquina

Hay una lección financiera concreta que el caso OpenClaw expone con claridad. Los agentes autónomos de IA no son herramientas de productividad en el sentido convencional. Son arquitecturas de delegación: el usuario transfiere capacidad de acción, no solo de consulta, a un sistema que actúa en su nombre. Esa delegación tiene un precio que rara vez aparece en las presentaciones de adopción tecnológica.

El primer coste es el de la exposición de activos intangibles. Cuando OpenClaw gestiona el correo de un funcionario de un banco central, ese agente procesa, clasifica y potencialmente transmite información sobre decisiones de política monetaria, relaciones con contrapartes o estrategias regulatorias. El dato más valioso de una organización no suele estar en una base de datos protegida, sino en el flujo ordinario de comunicaciones de sus directivos. Un agente con permisos totales tiene acceso a ese flujo.

El segundo coste es el de la reversibilidad. Un chatbot que da una respuesta incorrecta genera un error que el usuario puede ignorar. Un agente que ejecuta acciones, borra correos, programa reuniones o completa formularios genera consecuencias que pueden ser irreversibles o costosas de deshacer. La asimetría entre la velocidad de actuación del agente y la velocidad de supervisión humana es precisamente el vector de riesgo que las directrices del gobierno chino intentan contener.

El tercer coste, el menos visible, es el de la dependencia operativa silenciosa. Cuando una organización delega procesos cotidianos a un agente autónomo sin documentar esos procesos ni mantener la capacidad de ejecutarlos manualmente, construye una dependencia que solo se hace visible cuando el agente falla, es comprometido o es retirado por orden regulatoria, exactamente lo que está ocurriendo ahora en las empresas estatales chinas que deben auditar y desinstalar implementaciones que llevan semanas operando.

El patrón que Beijing no inventó

Sería conveniente, pero inexacto, presentar esta historia como una peculiaridad del gobierno chino o de su relación con la tecnología occidental. El ciclo que describe el caso OpenClaw, adopción masiva impulsada por presión de pares, ausencia de evaluación de riesgos, incidentes de seguridad, intervención regulatoria tardía, es el mismo ciclo que se repite en organizaciones de todo el mundo con cada oleada tecnológica relevante.

Lo que Beijing hace ahora es, en términos estructurales, lo que muchas juntas directivas deberían haber hecho internamente antes de que su departamento de TI empezara a recibir solicitudes de instalación. La Academia China de Tecnologías de la Información y las Comunicaciones planea iniciar pruebas de confiabilidad para agentes como OpenClaw a finales de marzo. Es un intento de construir estándares después de que la adopción ya ocurrió. El orden correcto sería el inverso, pero ese orden requiere que alguien en posición de autoridad tenga la conversación incómoda antes de que el entusiasmo genere inercia.

MiniMax, valorada en 44.000 millones de dólares con 79 millones de ingresos, ilustra la otra cara del problema. Esa brecha entre valoración e ingresos solo es sostenible mientras el mercado crea que la escala de adopción se traducirá en monetización. Si el freno gubernamental ralentiza esa adopción en el sector estatal, que es el de mayor escala en China, la presión sobre esa valoración se vuelve estructural, no coyuntural. El optimismo de mercado que inflaba el precio descansaba sobre una narrativa de crecimiento sin fricción. La fricción llegó.

La cultura de una organización no es el resultado de sus valores declarados ni de sus políticas tecnológicas. Es el resultado de las decisiones que sus líderes tomaron cuando nadie los obligaba a hacerlo, y de todas las conversaciones que postergaron porque el momento nunca pareció el adecuado.

Compartir
0 votos
¡Vota por este artículo!

Comentarios

...

También te puede interesar