Soberanía digital: Construir para la diversidad

Lila Tretikov, socia, jefa de estrategia de IA, NEA

Lila Tretikov
Photo credit: NEA

Lila es socia y directora de Estrategia de IA en NEA, una firma global de capital de riesgo que invierte en diversas etapas, sectores y regiones geográficas. Recientemente se desempeñó como directora de tecnología adjunta (Deputy CTO) en Microsoft, impulsando una transformación a gran escala basada en la IA. Anteriormente, ocupó cargos de alta dirección en Engie, incluyendo el de CEO y vicepresidenta de Terrawatt, donde lideró la transición de la empresa hacia nuevas fuentes de energía y tecnologías. También fue CEO de la Fundación Wikimedia, donde lanzó el Fondo de Dotación de Wikipedia (Wikipedia Endowment), implementó una estrategia de IA y revirtió el declive de Wikipedia. Lila ha sido reconocida como una de las 100 mujeres más poderosas según Forbes, Joven Líder Global por el Foro Económico Mundial, miembro de la lista NACD 100 de consejeros corporativos y alumna distinguida de la Universidad de California, Berkeley.

Comprender la soberanía

La soberanía es una palabra que se utiliza de muchas maneras diferentes. ¿Cómo la define usted y qué influyó en su forma de pensar al respecto?

A menudo, la soberanía se presenta como el poder de las naciones y los gobiernos. Sin embargo, su verdadero alcance es mucho más amplio. En esencia, la soberanía tiene que ver con la confianza y el control. En este sentido, no es simplemente una cuestión de arte de gobernar; es inseparable de los derechos, las libertades y la dignidad de cada individuo.

Alcancé la mayoría de edad durante el colapso de la Unión Soviética y la apertura mundial que le siguió. Surgió entonces una era de globalización, acelerada por la tecnología y definida por una creciente interconexión. La tecnología permitió que naciones, economías e individuos se volvieran cada vez más interdependientes, generando una prosperidad sin precedentes en gran parte del mundo.

Aquel periodo también se caracterizó por un mayor grado de confianza en las instituciones y los sistemas. Fue esa confianza la que permitió a los países —ya fueran Estados Unidos, los de Asia o los de Europa— apoyarse mutuamente, gracias a los vínculos de las cadenas de suministro globales y la innovación, o a las comunidades en línea impulsadas por una web abierta. En retrospectiva, parte de ese optimismo puede parecer ingenuo. No obstante, fue también un capítulo extraordinario de la historia de la humanidad, definido por la apertura, la conexión y la convicción generalizada de que una mayor interdependencia podía crear un futuro mejor para todos.

La soberanía tiene que ver con la confianza y el control.

Ya hemos superado con creces ese punto. Hoy asistimos a una profunda erosión de la confianza que impulsa una renovada demanda de soberanía en todos los niveles, desde individuos y empresas hasta Estados y naciones. Las personas y los países desean un mayor control sobre sus propios destinos y garantías más sólidas de que sus datos, información personal y propiedad intelectual no serán explotados ni apropiados por agentes externos.

Más que nada, este cambio refleja un deterioro de la confianza misma, lo que ejerce una presión creciente sobre las sociedades e instituciones democráticas que dependen de ella.

Hoy asistimos a una profunda erosión de la confianza que está impulsando una renovada demanda de soberanía a todos los niveles, desde individuos y empresas hasta Estados y naciones.

Si nos centramos específicamente en la soberanía digital, ¿cómo la definiría?

La soberanía digital se volvió crítica a medida que los sistemas que sustentan la vida moderna, desde hospitales hasta empresas de agua, fueron cada vez más administrados por software y algoritmos. Al mismo tiempo, nuestros activos más valiosos, incluidas nuestras finanzas, propiedad intelectual e identidades, se trasladaron a Internet. Como resultado, la soberanía digital ahora se extiende mucho más allá del ámbito digital hacia el mundo físico. En este mundo, donde algunas empresas son tan grandes como los estados y proporcionan gran parte de la infraestructura digital, la soberanía se trata de tener control sobre el propio destino.

IA soberana

Si el fundador de una startup acudiera a ti y te dijera: «Quiero crear una infraestructura de IA que favorezca la soberanía», ¿cómo lo orientarías?

En primer lugar, desarrollar tecnología en la frontera de la IA soberana exige una inversión de capital masiva. La iniciativa europea «AI Factories» (Fábricas de IA) supone un paso importante, con una financiación combinada —de la UE y de los Estados miembros— de unos 1500 millones de euros, mientras que el programa más amplio InvestAI aspira a movilizar otros 20 000 millones para infraestructuras de IA. No obstante, estas cifras resultan modestas si se comparan con los recursos que se están destinando a la frontera tecnológica. OpenAI y Anthropic han logrado, conjuntamente, compromisos de inversión que rozan los 300 000 millones de dólares —una magnitud de capital privado enorme—, y cabe esperar la llegada de más fondos a medida que ambas empresas aceleran su camino hacia la salida a bolsa. Si bien la destilación de modelos y los ecosistemas de código abierto están reduciendo rápidamente la brecha con los sistemas propietarios líderes —acercándose en algunos casos a un rendimiento de vanguardia con diferencias de un solo dígito porcentual—, ampliar los límites de la tecnología sigue siendo una competición que opera a una escala sin precedentes. De hecho, en la frontera tecnológica, la escala ya no es una ventaja competitiva; es el precio de entrada.

Tanto para el entrenamiento como para la inferencia, el cuello de botella definitivo es la energía. Por encima de esto se encuentra una cadena de suministro global profundamente interconectada. Los chips pueden diseñarse en Estados Unidos, fabricarse en Taiwán, producirse con maquinaria europea y depender de materiales cuya producción está fuertemente concentrada en China. Si no se diseñan y fabrican los propios chips, resulta difícil alcanzar una soberanía plena. La cuestión, por tanto, no es si es posible eliminar toda dependencia, sino qué dependencias se está dispuesto a aceptar y qué capacidades es necesario controlar directamente.

La cuestión práctica, entonces, no es si podemos alcanzar una soberanía perfecta, sino si al menos podemos controlar los modelos de IA de los que dependemos. Por eso han cobrado tanta importancia los modelos de pesos abiertos. Si se tiene acceso a los pesos, se controla la inferencia, lo que supone un gran impulso para los modelos de código abierto. (Nota del editor: El acceso a los pesos se refiere a poseer los parámetros entrenados de un modelo de IA, lo que otorga control sobre cómo se ejecuta, adapta y despliega dicho modelo).

Si tienes acceso a los pesos, controlas la inferencia, y eso supone un gran impulso para los modelos de código abierto.

Esto permite a las organizaciones ejecutar modelos en su propia infraestructura, ajustarlos, someterlos a un entrenamiento posterior para casos de uso específicos y adaptarlos a sus propios requisitos. A medida que proliferan los modelos de pesos abiertos, esta capa de la arquitectura tecnológica resulta cada vez más accesible. Ya estamos viendo cómo países y regiones invierten en capacidades de IA soberana basadas en estos cimientos, desde la India y Oriente Medio hasta Francia, Japón y Alemania.

Nada ejemplifica mejor esta necesidad que el reciente ciberataque de IA impulsado por agentes sufrido por Hugging Face. Hugging Face intentó, sin éxito, utilizar modelos comerciales para su “autociberdefensa” (dichos modelos cuentan con salvaguardas que impiden procesar consultas sensibles debido a las implicaciones de seguridad). Tener acceso a los pesos del modelo otorga control sobre la inferencia, lo que supone un gran impulso para los modelos de código abierto. En su lugar, el equipo de ciberseguridad optó por un modelo de pesos abiertos que se ejecutaba íntegramente en su propia infraestructura, permitiéndoles utilizarlo sin restricciones. Aproximadamente una semana después surgió la sorpresa: OpenAI confirmó un caso de “fuego amigo”, ya que el agente atacante resultó ser uno de sus propios modelos que había actuado de forma imprevista. Por esas mismas fechas, Anthropic reveló que varios modelos Claude habían logrado eludir las restricciones de prueba establecidas y acceder a sistemas de organizaciones externas. Estos incidentes ilustran cómo los propios sistemas de IA de vanguardia se están convirtiendo en parte de la superficie de ataque, mientras que los equipos de defensa requieren modelos bajo su control, en lugar de servicios alojados sujetos a políticas de seguridad impuestas por el proveedor. Los modelos de pesos abiertos cumplen una función que trasciende lo económico o lo científico: fomentan la resiliencia operativa y la soberanía tecnológica al garantizar que los defensores mantengan el control sobre las herramientas necesarias para responder a amenazas impulsadas por IA cada vez más autónomas.

¿Dónde identifica los puntos críticos de estrangulamiento en la cadena de valor de la IA para la soberanía?

Existen puntos críticos de estrangulamiento a lo largo de toda la cadena de valor de la IA, desde la capacidad de cómputo y los semiconductores hasta los minerales críticos y las materias primas. El mundo globalizado de las últimas cuatro décadas generó cadenas de suministro profundamente interconectadas y, aunque los países intentan ahora recuperar el control, la concentración persiste en prácticamente todos los niveles. Europa cuenta con ventajas importantes, especialmente en el ámbito energético. La capacidad nuclear de Francia y la energía hidroeléctrica de los países nórdicos ofrecen la oportunidad de desarrollar una infraestructura de IA significativa a nivel local. Existen oportunidades reales para establecer infraestructuras importantes en Europa, incluso si parte de ellas implica alojar y enrutar datos fuera de la región. Podemos acumular cierto poder en este nivel (sin pretender hacer un juego de palabras).

Con una infraestructura soberana, es posible tomar decisiones sobre cómo gestionar la capa de modelos. ¿Dependemos de modelos de frontera o de alternativas de pesos abiertos? ¿Qué leyes necesitamos para garantizar que las organizaciones que alojan sistemas de IA conserven el acceso a los pesos, en lugar de depender de una empresa extranjera que podría retirar dicho acceso en cualquier momento?

En última instancia, la soberanía es una combinación de infraestructura, regulación e innovación. Europa necesita políticas que incentiven a las empresas emergentes a construir y competir para crear tecnologías que desarrollen las distintas capas del sistema; y este es el mejor momento para hacerlo, ya que la IA está obligando a actualizar toda la arquitectura tecnológica.

Para las startups, la situación está mejorando gradualmente en la UE; sin embargo, es necesario dinamizar el ecosistema de startups en Europa en un sentido más amplio, en lugar de imponerle más cargas. Probablemente sea preciso adoptar un enfoque normativo dual: uno que favorezca a las startups europeas y otro que regule a las grandes corporaciones.

Probablemente sea necesario crear un enfoque regulatorio dual: uno que ayude a las startups europeas y otro que regule a las grandes corporaciones.

¿Qué sucede con las empresas que necesitan operar en distintas jurisdicciones? ¿Cómo afecta la soberanía a su arquitectura tecnológica?

Para las empresas globales, ya no resulta viable contar con una arquitectura de IA única. Un modelo permitido en una jurisdicción puede estar restringido en otra, lo que obliga a las plataformas tecnológicas a ser cada vez más modulares y adaptables a las leyes y normativas locales. Para las empresas emergentes (startups), esto supone una carga considerable. La mayoría deberá consolidar una posición sólida en un mercado antes de expandirse región por región. Esta realidad hace aún más importante que los reguladores distingan entre las startups locales y las grandes multinacionales, y que elaboren políticas que impulsen la innovación nacional en lugar de dificultar la competencia.

Código abierto y soberanía

Lideraste uno de los proyectos de conocimiento abierto más importantes de la historia en la Fundación Wikimedia. ¿Qué papel desempeña el código abierto en la consecución de la soberanía?

Photo credit: NEA

Utilizo el término «código abierto» en un sentido amplio. No se trata solo de código; se trata de sistemas abiertos que permiten a las personas colaborar, crear y compartir. A medida que la IA hace que la creación de software esté al alcance de cualquiera, el código abierto cobra una importancia creciente, no solo para la soberanía nacional, sino también para la soberanía individual. Puedo programar en inglés. Puedo distribuir bajo licencias de código abierto. Las tecnologías que desarrollamos hoy facilitan más que nunca que los gobiernos y las grandes instituciones concentren el poder. El desafío reside en preservar la soberanía del individuo y proteger los derechos fundamentales. En este empeño, el código abierto es esencial. Por eso son tan importantes proyectos como Wikipedia y otros ecosistemas abiertos: permiten que el conocimiento sea creado, compartido y gestionado por las personas y para las personas.

El código abierto funciona de manera muy similar. Se trata de una comunidad «soberana» y autogobernada que se fundamenta en la transparencia, la participación y los derechos individuales. Al ser abierto, cualquier persona puede examinarlo, contribuir a él, crear una bifurcación (fork) y desarrollar nuevas soluciones a partir de él, garantizando así que el control permanezca distribuido en lugar de centralizado.

En el ámbito de la IA, el código abierto se ha convertido en una fuerza decisiva. Algunos de los modelos líderes de «pesos abiertos» (open-weight models), como Qwen y DeepSeek, provienen de China, mientras que Francia ha emergido como un referente gracias a Mistral. La estrategia china resulta especialmente destacable: en lugar de competir directamente en la frontera tecnológica —donde las necesidades de capital son ingentes—, las empresas chinas aprovechan cada vez más los avances existentes mediante técnicas de destilación y posteriormente publican los modelos resultantes en abierto. Una vez que un modelo se libera, su propia distribución se convierte en una ventaja competitiva; puede adoptarse, adaptarse e implementarse en cualquier lugar, transformando la apertura en una poderosa palanca estratégica.

Para la IA, el código abierto se ha convertido en una fuerza fundamental.

Regulaciones e inversión en soberanía

¿Se ha convertido la soberanía en una nueva categoría de inversión?

Totalmente. La soberanía se ha convertido en una categoría de inversión, especialmente en los ámbitos de la defensa, la seguridad y las infraestructuras críticas. Europa es, tal vez, el ejemplo más claro. La cartera de la Comisión Europea centrada en la soberanía tecnológica, la seguridad y la democracia demuestra la seriedad con la que los responsables políticos abordan esta cuestión. Se han anunciado «fábricas de IA» en Europa, y resulta significativo que la Comisión Europea cuente con un vicepresidente cuya función se centra explícitamente en la soberanía tecnológica, la seguridad y la democracia. Estas palabras son importantes, ya que el capital y las startups siguen el rumbo que marcan las prioridades políticas.

La Comisión Europea cuenta con un vicepresidente cuya función se centra explícitamente en la soberanía tecnológica, la seguridad y la democracia.

Lo lamentable es que la intención de la regulación y sus efectos prácticos a menudo no coinciden. Si bien Europa necesita más startups nacionales independientes, las exigencias normativas pueden dificultar que las empresas emergentes se lancen al mercado y sobrevivan. Para las grandes corporaciones, cumplir con la normativa es simplemente un coste operativo más; para una startup pequeña, supone la diferencia entre la vida y la muerte.

La soberanía es, a la vez, una nueva categoría de inversión y una carga inmensa.

Como resultado, la soberanía es tanto una nueva categoría de inversión como una carga inmensa. Por un lado, las políticas públicas están creando espacio para la existencia de nuevas empresas en ámbitos como la manufactura regional, los semiconductores, la inteligencia artificial y las capacidades de defensa. Por otro lado, esto eleva las barreras para crear precisamente aquellas empresas necesarias para materializar dichas capacidades.

¿Ralentiza la innovación la regulación sobre soberanía?

Los organismos reguladores deben tener en cuenta el tamaño y el origen de la empresa, así como el propósito de la ley. Las consecuencias de la regulación deben ser proporcionales a las empresas afectadas. Asimismo, surge la cuestión de la procedencia: si una empresa ya es una entidad soberana —sujeta por ley al acceso y control de las autoridades locales—, ¿requiere el mismo nivel de escrutinio que una multinacional extranjera?

No creo que los reguladores hayan encontrado aún ese equilibrio. A una escala de miles de millones de usuarios y sistemas globales interconectados, incluso las políticas bienintencionadas pueden generar un importante «efecto mariposa». En el ámbito de los grandes números y los sistemas complejos, hasta las mejores intenciones pueden desencadenar una cadena de consecuencias imprevistas. A menudo, estos efectos solo se manifiestan cuando ya es demasiado tarde. Por ello, la formulación de políticas debe volverse más ágil, iterativa y capaz de adaptarse a nueva información. La buena noticia es que los avances en el modelado de datos y la inteligencia artificial permiten ahora simular y evaluar los resultados de las políticas con mucha mayor eficacia que antes. De ahí que la estrecha colaboración entre reguladores, científicos y expertos en datos cobre cada vez mayor importancia.

Si una empresa ya es una entidad soberana, sujeta por ley al acceso y control de las autoridades locales, ¿requiere el mismo nivel de escrutinio que una multinacional extranjera?

¿Qué distingue a una regulación que realmente fortalece la soberanía de lo que podría llamarse una escenificación de la soberanía?

Crédito de la foto: NEA

Todo se reduce a la confianza y al control. ¿Aumenta la regulación la confianza en los sistemas de los que dependen las personas? ¿Ofrece a los individuos, las empresas y los gobiernos un control real sobre sus datos, activos y futuro? Si es así, refuerza la soberanía. Si no, corre el riesgo de convertirse en una mera escenificación de la soberanía.

El objetivo de la regulación es claro: proteger a los ciudadanos y, al mismo tiempo, fomentar el crecimiento económico. Las personas necesitan tener la certeza de que las tecnologías que utilizan son seguras, de que sus datos y su privacidad están protegidos y de que los sistemas críticos no pueden ser simplemente desactivados por un gobierno o una empresa extranjeros. Como consumidores, todos queremos asegurarnos de que nuestros recuerdos privados no se envíen a otro lugar para que otra persona los utilice.

Todo se reduce a la confianza: confianza en los sistemas, en las personas, en los gobiernos, en las instituciones y en las empresas. En este momento, esa confianza está mal depositada. Como consumidor, uno quiere creer que puede confiar en una gran empresa, pero la realidad suele ser distinta. Esta es la razón por la que los resultados de la regulación deben ajustarse mejor a su propósito original. El RGPD es un buen ejemplo: aunque sus objetivos contaban con un amplio respaldo, las grandes empresas a menudo disponían de los recursos necesarios para adaptarse e incluso sacar partido de la normativa, mientras que las organizaciones más pequeñas soportaban una carga desproporcionada. Los reguladores deben tener en cuenta estas dinámicas y, además, actuar con mayor rapidez.

En la IA, la tecnología evoluciona en una escala de tiempo semanal, mientras que los ciclos regulatorios suelen durar años. En cambio, las regulaciones deben actualizarse con mucha más frecuencia, porque cada tres meses la tecnología es nueva. Hay tanta innovación que la regulación no tiene posibilidades de mantenerse al día cuando su ciclo de actualización es, en el mejor de los casos, cada pocos años.

Es necesario actualizar las normativas con mucha más frecuencia, ya que la tecnología se renueva cada tres meses.

Soberanía para la empresa

¿Qué medidas prácticas pueden adoptar las organizaciones para evitar quedar atrapadas en un número reducido de plataformas de IA dominantes?

Construye para mitigar riesgos. Diversifica tus modelos, proveedores de infraestructura y plataformas en la nube. Asume que la residencia de datos, el cifrado y la privacidad del usuario se convertirán en requisitos innegociables, no en características opcionales. Las organizaciones que mantengan su soberanía serán aquellas que diseñen sus sistemas buscando flexibilidad antes de que esta sea necesaria.

Construir para cubrirse.

Si tuvieras una varita mágica y pudieras cambiar una cosa sobre la soberanía digital, ¿cuál sería?

Mi mayor preocupación es la soberanía del individuo. Hoy en día, muchos modelos de negocio digitales —especialmente los de grandes empresas orientadas al consumidor— tratan al usuario como un producto, no como una entidad soberana. Si pudiera cambiar algo, sería establecer un principio sencillo: los datos del usuario pertenecen al usuario. Punto. No a la plataforma de alojamiento ni al servicio de software. Deben ser seguros, estar cifrados y ser inaccesibles para cualquiera que no sea su propietario, quedando sujetos únicamente a los procesos legales de una sociedad democrática. Para el usuario medio, sus datos deben estar seguros, bajo su soberanía y controlados por el país en el que reside o del cual es ciudadano. Ese es, pues, mi deseo: el usuario como entidad soberana.

En última instancia, la soberanía digital debe comenzar por el individuo. Los datos de una persona —el activo fundamental de la vida digital moderna, desde vídeos y textos hasta la ubicación, la biometría y el ADN— deben permanecer bajo su control y estar protegidos por las leyes de la nación donde reside o de la que es ciudadano. Dichas leyes deben impedir que cualquiera pueda explotar esos datos, ya sean empresas, Estados o actores malintencionados. En medio de tanto debate sobre naciones soberanas, IA soberana e infraestructura soberana, no debemos perder de vista a la entidad soberana más importante: el ser humano.