Una conversación con David Knott

La tecnología y el sector público

David Knott es director de tecnología del gobierno del Reino Unido.

Mi trabajo es asegurarme de que la tecnología se utilice bien. Con esto me refiero a ofrecer mejores resultados a los ciudadanos mediante sistemas, datos e infraestructura mejorados.

Trabajo en el Servicio Digital del Gobierno (GDS), que forma parte del Departamento de Ciencia, Innovación y Tecnología (DSIT). Mi función abarca cuatro áreas principales. En primer lugar, la arquitectura: cómo orientar a los departamentos hacia mejores opciones tecnológicas. En segundo lugar, lideramos los estándares de ingeniería y las mejores prácticas. En tercer lugar, la seguridad y la resiliencia, asegurándonos de que nuestros servicios digitales sean robustos y seguros contra amenazas externas. Por último, contribuimos a la estrategia comercial, analizando cómo interactuamos con los proveedores y estimulamos la innovación en el mercado digital. Nos centramos en la transformación, no solo en nuevos servicios, sino también en la modernización de los sistemas existentes. La tecnología no es ruido de fondo, es fundamental.

---

¿Dónde cree que la tecnología tendrá el mayor impacto en el sector público?

Hay cuatro áreas principales en las que la tecnología está marcando la diferencia.

En primer lugar, están los servicios al ciudadano. El público espera servicios digitales, convenientes y confiables. La tecnología es la manera de satisfacer esas expectativas a gran escala.

En segundo lugar, está la productividad. Queremos ayudar a los funcionarios públicos a concentrarse en el trabajo que aporta valor. Si logramos automatizar las tareas rutinarias, profesores, policías, enfermeras y funcionarios podrán centrarse en lo que realmente importa.

En tercer lugar, existe la capacidad especializada. La IA y las herramientas digitales están ayudando en áreas como la justicia penal, la atención médica y la educación. Por ejemplo, pueden identificar patrones en los datos o diagnosticar afecciones médicas antes que los humanos, en algunos casos.

La cuarta área es lo que llamo “lenguaje de entrada, lenguaje de salida”. Muchas interacciones con el gobierno implican que las personas describan sus situaciones en lenguaje cotidiano y esperen una respuesta clara. Pensemos en solicitar una prestación o presentar una queja. Históricamente, las computadoras han tenido dificultades con el lenguaje natural. Pero con la llegada de los grandes modelos lingüísticos (LLM) y la IA generativa, ahora podemos empezar a conectar con los ciudadanos en sus propios términos. Para mí, esto es realmente emocionante. En lugar de obligar a las personas a trabajar de forma “adaptada a las máquinas”, estamos enseñando a las máquinas a trabajar de forma adaptada a las personas.

---

¿Qué cree que puede aprender el sector público del sector privado (y viceversa) en lo que respecta a la transformación digital?

Hay mucho que aprender en ambas direcciones.

Del sector privado, podemos aprender sobre la estrategia y la ejecución coordinadas. En las grandes corporaciones, los líderes pueden tomar decisiones que cientos de equipos implementan. En el gobierno, estamos más fragmentados. Cada departamento, escuela y fideicomiso del NHS tiene su propia competencia. Esta autonomía es valiosa, pero dificulta compartir elementos como infraestructura o plataformas.

Las empresas privadas también suelen avanzar con mayor rapidez en lo que respecta a los servicios compartidos y la adopción de la nube. Invierten en la madurez de la ingeniería y en herramientas modernas que el sector público aún está implementando.

Dicho esto, hay algo profundamente admirable en el sector público: el propósito. Los funcionarios gubernamentales están motivados por una misión. Se preocupan profundamente por el impacto de su trabajo.

---

¿Cuáles son algunos de los desafíos únicos que enfrenta al liderar la tecnología para el gobierno?

Hay algunos que se destacan.

El primero es la visibilidad pública. Cuando algo falla en el gobierno, falla públicamente. Esto aumenta el riesgo y aumenta la aversión de la gente al riesgo. Esto es comprensible, pero puede retrasar el progreso.

La segunda es la complejidad estructural. A diferencia de una sola organización, el gobierno es una constelación de instituciones, cada una con sus propias prioridades y recursos tecnológicos. Lograr la alineación requiere mucha escucha y mucha colaboración.

El tercer desafío es el talento. Nos encontramos en un mercado competitivo y aún no siempre podemos igualar los salarios del sector privado. Por lo tanto, dependemos en gran medida de nuestra capacidad para ofrecer un trabajo valioso. Y, sinceramente, eso funciona. He visto a algunos de los mejores ingenieros elegir trabajar aquí porque creen en nuestra misión.

Por último, la escala y el alcance de nuestra labor son enormes. Ninguna empresa privada se involucra en una gama tan amplia de ámbitos, desde la agricultura hasta la justicia, la educación y la lucha contra el terrorismo.

---

¿Ve alguna oportunidad importante de creación de valor en el horizonte?

Sin duda. Nuestro informe sobre el Estado del Gobierno Digital estima que podríamos liberar 45 000 millones de libras esterlinas de valor mediante mejores prácticas digitales y de datos. Esto se divide en tres áreas principales:

1. Productividad y eficiencia: automatización de procesos y liberación de tareas rutinarias.
2. Cambio de canales: fomento del uso de canales digitales en lugar del teléfono o las interacciones presenciales, lo que reduce costes y tiempo de los empleados.
3. Reducción del fraude y los errores: ahorro de dinero y fomento de la confianza.

Gran parte de esto se reduce a modernizar los sistemas, mejorar la calidad de los datos y crear servicios digitales que la gente quiera usar.

---

¿Cómo está abordando su equipo la transformación a largo plazo y la madurez digital?

Hemos publicado un plan llamado Un Gobierno Digital Moderno, que establece seis prioridades clave:

1. Servicios públicos integrados: para que los usuarios puedan desenvolverse en el gobierno sin necesidad de conocer su organización interna.
2. Adopción responsable de la IA: garantizar el uso ético y eficaz de las tecnologías emergentes.
3. Fortalecimiento de la infraestructura central: abordar los sistemas heredados e invertir en resiliencia.
4. Generar valor en las compras: alinear el gasto en proveedores con los resultados nacionales.
5. Invertir en las personas: tanto en habilidades digitales como en liderazgo.
6. Transparencia y rendición de cuentas: ser transparentes sobre lo que hacemos y su calidad.

---

IA y servicios públicos

¿Cómo está implementando el gobierno del Reino Unido la IA en los servicios públicos?

Hay cuatro líneas de acción, todas diseñadas para pasar de la experimentación inicial a una implementación escalable y responsable.

Primero, hemos creado lo que llamamos una Incubadora de IA o i.AI, que consiste en un equipo de especialistas en tecnología avanzada que colaboran con los departamentos para aplicar la IA de forma práctica e impactante. Esto ayuda a superar uno de los mayores desafíos del gobierno: la limitada experiencia interna.

Segundo, estamos integrando la IA en la planificación de la transformación. Así, en lugar de ser un proyecto secundario, se convierte en un elemento clave para mejoras operativas y de servicio más amplias. Esto significa financiar la IA donde tenga un impacto real: en salud, educación, justicia, etc.

Tercero, estamos trabajando en el desarrollo de habilidades y confianza. Muchos funcionarios públicos aún desconocen cómo funciona la IA, qué puede hacer y los riesgos que conlleva. Por ello, estamos implementando programas de capacitación en toda la administración pública para ayudar a todos, desde el personal de primera línea hasta los responsables de políticas, a desarrollar confianza digital.

Y cuarto, publicamos el Manual de Estrategias de IA para el Gobierno, que dirigí. Es una guía práctica que conecta los aspectos técnicos, legales y éticos del uso de la IA. Buscábamos una herramienta práctica que ayudara a los equipos a implementar la IA de forma segura, cumpliendo con la legislación y defendiendo principios clave como la equidad, la transparencia y la privacidad.

---

¿Qué es lo que más le entusiasma del panorama actual de la IA en el gobierno?

Lo emocionante es que estamos viendo casos de uso reales y aplicados, no solo publicidad exagerada. Estamos en un punto en el que la IA puede cambiar realmente la forma en que se trabaja en la primera línea de los servicios públicos.

Tomemos un ejemplo sencillo. Si un asistente de IA puede ahorrarle a alguien media hora al día redactando correos electrónicos o resumiendo documentos, eso es significativo. No solo se trata de ahorrar dinero, sino que le da a un profesor 30 minutos más para trabajar con los estudiantes, o a un policía más tiempo para investigar un caso. Se trata de una ganancia de productividad con un propósito.

El cambio de paradigma en el funcionamiento de las computadoras también me resulta increíblemente emocionante. Tradicionalmente, programábamos sistemas usando lógica: “si X, entonces Y”. Pero el aprendizaje automático [ML] hace cosas que las computadoras antes no podían, como emitir juicios o interpretar el lenguaje. Esto abre un sinfín de nuevas posibilidades para el gobierno.

---

¿Cómo se está aplicando la IA dentro del gobierno?

Creo que es útil dividirlo en cuatro categorías, cada una con diferentes desafíos y beneficios.

En primer lugar, está la IA integrada. Funciones como sugerencias inteligentes o texto predictivo están integradas en herramientas cotidianas. Para la mayoría de los usuarios, esta será la experiencia más común. Las herramientas cambian sutilmente, y nuestra forma de trabajar debe adaptarse a ellas. Se trata más de gestión de cambios que de desarrollo de sistemas.

En segundo lugar, estamos viendo el uso de la IA en soluciones personalizadas. En lugar de la programación tradicional, los equipos están integrando modelos de IA en el software. Por ejemplo, utilizando aprendizaje automático en lugar de un motor de reglas predefinido para decidir la elegibilidad de un servicio. Esto requiere ingeniería, pruebas y mantenimiento continuos meticulosos.

En tercer lugar, la IA está transformando la forma en que desarrollamos software. Herramientas como GitHub Copilot ayudan a los desarrolladores a escribir código más rápido y mejor. Pero también plantean nuevas preguntas: ¿Cómo probamos el código generado por IA? ¿Cómo lo mantenemos? Estos son desafíos que estamos explorando activamente.

La cuarta categoría es la más vanguardista: la IA agente. Se trata de sistemas de IA que pueden actuar en nombre de un usuario, por ejemplo, reservando citas o enviando formularios. Esto plantea importantes cuestiones sobre la identidad, la confianza y la autorización. Si una IA afirma actuar en nombre de alguien, ¿cómo se sabe que es legítima? ¿Y qué límites se imponen a su autoridad? Necesitaremos nuevos protocolos para ello.

---

¿Qué importancia tienen los datos para que la IA funcione dentro del gobierno?

Los datos son fundamentales y también uno de nuestros mayores desafíos. El gobierno dispone de una gran cantidad de datos, pero están fragmentados en sistemas y formatos. Algunos son altamente sensibles. Otros están infrautilizados. Hemos probado todos los modelos: almacenes de datos, lagos de datos, mallas de datos. Y aunque hemos aprendido mucho, no hemos resuelto el problema.

El concepto emergente de tejidos de datos es prometedor. Permite que los datos permanezcan donde están, a la vez que los hace detectables y utilizables mediante una gobernanza y metadatos comunes. Esa es la dirección en la que nos estamos inclinando.

También hemos lanzado la Biblioteca Nacional de Datos, cuyo objetivo es poner los datos a disposición para la formación y la investigación, a la vez que garantizamos el cumplimiento de los estándares de consentimiento, privacidad y transparencia. Lograr este equilibrio adecuado entre utilidad y ética es crucial para desarrollar una IA responsable.

---

Muchos sistemas gubernamentales aún son heredados. ¿Cómo están abordando la modernización?

La modernización es esencial para la estabilidad, la seguridad y el progreso.

Los sistemas heredados son una barrera importante. De hecho, nuestro reciente informe “Estado del Gobierno Digital” mostró que el número de sistemas heredados críticos ha aumentado, no disminuido. Esto es preocupante y constituye un llamado a la acción.

Nos esforzamos por justificar la inversión. No se trata solo de ahorrar costos. También se trata de reducir las interrupciones del servicio y los riesgos para la ciudadanía. Si un ciudadano no puede acceder a sus beneficios debido a una falla del sistema, no se trata solo de un problema técnico, sino también de un problema humano.

También nos centramos en diseñar sistemas seguros. Por eso hemos publicado nuestro estándar “Secure by Design”. La seguridad debe estar integrada desde el primer día. Esto forma parte de nuestro esfuerzo más amplio por la madurez digital en todos los departamentos.

---

Construyendo una IA responsable

¿Qué piensa usted sobre la ética en la tecnología?

Tengo un doctorado en Filosofía, así que la ética siempre ha formado parte de mi pensamiento. Pero durante mucho tiempo, la mantuve separada de mi trabajo en tecnología. Eso ya no es posible.

La IA plantea cuestiones éticas reales. Afecta a personas reales. Al crear modelos o implementar sistemas, debemos recordar que no es algo abstracto. Los datos que utilizamos representan vidas humanas. Las decisiones que tomamos tienen consecuencias.

Mi consejo es: no lo compliquen demasiado, pero tampoco lo ignoren. No necesitan un título en filosofía para saber qué está bien y qué está mal. Pero sí necesitan plantearse las preguntas, involucrar a diversas voces y construir estructuras de gobernanza que apoyen una buena toma de decisiones.

También debemos ir más allá del cumplimiento estricto. La ética no es una lista de verificación. Es una conversación, una disciplina que nos obliga a preguntarnos constantemente: “¿Es esto lo correcto?”.

---

Protección de datos públicos

¿Cómo está fortaleciendo el gobierno del Reino Unido la resiliencia digital frente a las crecientes amenazas cibernéticas?

Estamos progresando, pero la resiliencia digital sigue siendo un gran desafío. No es solo mi opinión. Está respaldada por datos del informe “Estado del Gobierno Digital” y de la Oficina Nacional de Auditoría.

El Grupo de Seguridad Gubernamental ha desarrollado e implementado un marco llamado GovAssure. Se trata esencialmente de un enfoque estructurado que permite a los departamentos autoevaluarse y ser evaluados de forma independiente según los estándares fundamentales de ciberseguridad y resiliencia operativa. Aporta visibilidad y responsabilidad. Nos ayuda a comprender dónde están las brechas y dónde debemos actuar.

Pero la resiliencia no se logra solo con someterse a evaluaciones. Por eso también desarrollamos nuestro estándar “Secure by Design”. Esto significa que ingenieros y desarrolladores, no solo especialistas en seguridad, reciben orientación clara sobre cómo construir sistemas resilientes.

También tenemos la enorme ventaja de colaborar estrechamente con el Centro Nacional de Ciberseguridad (NCSC). Nos brindan investigación de primer nivel, alertas tempranas sobre amenazas y una amplia experiencia. Esta colaboración nos permite anticiparnos a los riesgos de una manera que muchas organizaciones del sector privado no pueden.

---

¿Se está preparando el gobierno para la era de la computación cuántica y la criptografía post-cuántica?

Sí, mucho. Ahora contemplamos un horizonte de 10 años para la preparación poscuántica, y sabemos que los métodos criptográficos que utilizamos hoy podrían no sobrevivir a esa transición.

Recientemente, copublicamos un documento de posición internacional que define nuestra postura estratégica para la seguridad poscuántica. Se trata de integrar la agilidad algorítmica en nuestros sistemas para que, a diferencia de la mayoría de los sistemas heredados, podamos responder a las amenazas en constante evolución.

No se trata solo de un cambio técnico. Es un reto de desarrollo de capacidades. Necesitamos sistemas que puedan evolucionar y personas que puedan gestionar esa evolución.

Formar parte del DSIT nos da una ventaja adicional. Estamos alineados con la estrategia cuántica nacional del Reino Unido, que incluye algunos de los programas de investigación cuántica más ambiciosos del mundo, como el Centro Nacional de Computación Cuántica [NQCC]. A través de estas colaboraciones, conectamos a los responsables políticos y líderes digitales de todo el gobierno con las primeras líneas de la innovación cuántica.

La tecnología cuántica no resolverá todos los problemas, pero hay muchas áreas de los servicios gubernamentales en las que puede ayudar.

---

¿Cómo cree que la IA generativa [Gen AI] está transformando el panorama de la ciberseguridad?

La IA y la ciberseguridad son una combinación natural. En esencia, la ciberseguridad se centra en detectar patrones: anomalías, cambios de comportamiento, indicadores de vulnerabilidad. Ahí es precisamente donde la IA prospera.

Llevamos tiempo utilizando el aprendizaje automático para la detección de anomalías. Pero la IA Gen 2 aporta nuevas capacidades, especialmente en el análisis basado en lenguaje. Por ejemplo, puede ayudarnos a identificar ataques de inyección rápida, donde alguien intenta manipular un sistema de IA proporcionándole información maliciosa. También puede mejorar la detección de phishing, lo cual es importante ya que la IA está haciendo que los correos electrónicos de phishing sean más sofisticados.

La IA Gen 2 permite a los atacantes escalar y personalizar sus ataques. Por lo tanto, debemos usar la misma tecnología para identificar amenazas sutiles y comprender las intenciones.

Es una especie de carrera armamentística. Pero confío en que, con la gobernanza adecuada y las alianzas que tenemos, podemos mantenernos a la vanguardia.

---

Al mirar en retrospectiva su carrera, ¿qué lecciones de liderazgo ha aprendido?

En primer lugar, los tecnólogos pertenecen a la sala de juntas. Al principio de mi carrera, vi cuánto mejores eran las decisiones cuando los líderes tecnológicos participaban en la mesa. La tecnología ya no es una función de soporte, sino que impulsa la misión. Por lo tanto, mi consejo a mis colegas líderes tecnológicos es: no esperen a ser invitados. Sean audaces. Expresen su opinión.

En segundo lugar, la entrega es, por naturaleza, impredecible. Si estás haciendo algo significativo, generalmente significa que estás haciendo algo nuevo. Eso significa que habrá incógnitas. Agile, DevOps e Ingeniería de Confiabilidad del Sitio (SRE) no son solo palabras de moda, sino conjuntos de herramientas para gestionar esa imprevisibilidad. La idea de que se puede planificar cada detalle en una estrategia en cascada a cinco años es una ficción. Necesitamos aceptar la incertidumbre y aprender a “sentir” nuestro camino a través del aprendizaje en tiempo real.

En tercer lugar, y esto es cada vez más importante, los líderes empresariales deben comprender cómo funciona la tecnología. Ya no es seguro confiar únicamente en lo que dicen los proveedores o en lo que muestra una demostración atractiva. No necesitas ser desarrollador, pero sí necesitas un conocimiento práctico de la tecnología. Mi función suele ser “desmitificar la magia” para ayudar a los líderes a tomar decisiones informadas basadas en lo que estos sistemas pueden y no pueden hacer.

---

¿Qué cree usted que definirá la próxima década de la tecnología en el gobierno?

Three trends come to mind.

En primer lugar, la IA seguirá creciendo, pero el enfoque se centrará en las aplicaciones. La competencia por los modelos más grandes continuará, pero lo más importante será cómo se apliquen. Ya estamos viendo el auge de la IA con agencia: sistemas que no solo responden, sino que actúan con iniciativa. Ahí es donde las cuestiones de confianza, identidad y autorización cobrarán protagonismo.

En segundo lugar, la preparación cuántica. No será una llegada espectacular, pero está por llegar. Necesitaremos desarrollar nuevas habilidades en ingeniería cuántica y diseño de algoritmos cuánticos. Necesitaremos herramientas de desarrollo para que esto sea accesible. Me recuerda a los inicios de la informática, cuando la barrera de entrada era alta. Eso cambiará, pero debemos empezar a invertir en ello ya.

Y en tercer lugar, un replanteamiento profundo de la confianza digital. Nos estamos dando cuenta de que internet, tal como se diseñó originalmente, no incorporaba suficientes controles de confianza, seguridad o identidad, como credenciales verificables, identidad controlada por el usuario y autorización transparente. Estamos intentando modernizarlos ahora. La Web3 no ha cumplido todas sus promesas, pero ha introducido ideas útiles.