Esfuerzo ético: IA centrada en el ser humano

La inteligencia artificial (IA) está preparada para transformar nuestro mundo de maneras cada vez mayores. Pero según Yashowardhan “Yash” Sowale, garantizar que cumpla su promesa se trata de aprovechar su potencial, en lugar de dejar que su poder corra libremente.

Yash ha estado en Capgemini durante más de ocho años y ahora es vicepresidente y jefe de arquitectura de nuestra línea de negocios global Insights and Data. También dirige el Centro de Excelencia para la Arquitectura Empresarial.

“Ofrezco grandes programas de transformación para mis clientes y encabezo la adopción de IA”, dice. “También soy un líder comunitario, un mentor y colaboro regularmente con la academia. Mis días están repletos de eventos emocionantes y cosas nuevas para ver”. Garantizar que la IA sea una fuerza para el bien es parte de ese trabajo diario.

Sueños americanos

Antes de unirse a Capgemini, Yash trabajó para organizaciones como Montgomery Watson Harza (ahora Stantec), NIH, Sallie Mae, Verizon y Lockheed Martin. Su primer puesto como arquitecto senior lo llevó a trabajar con agencias y funcionarios del gobierno federal de los E.U.

“A principios de la década de los 2000, tuve el privilegio de trabajar en un proyecto de la Casa Blanca llamado Bibliotecas Presidenciales de EE. UU./Archivos de Registros Electrónicos, para la Oficina Ejecutiva del Presidente”, dice. “Fue una experiencia increíble construir, diseñar y desarrollar una bóveda digital de varios petabytes con seguridad que cumple con las leyes federales de datos confidenciales”.

Una pasión de toda la vida

Desde los primeros días de su carrera hasta el día de hoy, la inteligencia artificial ha sido un tema cercano al corazón de Yash.

“Al comienzo de mi carrera en 1993, trabajaba en el Instituto Tata de Investigación Fundamental (TIFR), una de las principales organizaciones de investigación científica en la India”, dice. “Era algo así como un aficionado en lo que respecta a la ciencia de datos. Trabajé en conceptos que eran muy avanzados en ese momento, como la lógica difusa, las redes neuronales y la síntesis y generación de scripts para idiomas indios. Ahí es donde comenzó mi interés en la IA”.

En la actualidad, Yash lidera la oferta de Ethical AI Flying Squad de Capgemini y es líder en el compromiso de la empresa con el problema. “Con la IA ahora impactando muchos aspectos de los negocios y la sociedad, la relación entre los humanos y esta nueva tecnología ha llegado a un punto crítico”, dice. “Necesitamos asegurarnos de que tenemos el control de la IA, y no al revés”.

Reducir el sesgo

De hecho, según Yash, la discriminación como consecuencia de las tecnologías habilitadas para IA se está convirtiendo cada vez más en un desafío. Cita un informe de la Reserva Federal de EE. UU. sobre el sesgo algorítmico en los préstamos de servicios financieros que está provocando altos niveles de denegación de crédito para las mujeres.

Yash explica que esto puede suceder cuando un modelo de IA utiliza datos recopilados de instituciones influyentes y se compone solo de puntos de datos de estratos o datos demográficos sociales específicos y no representativos. A menudo, también se utilizan datos de proveedores de datos de código abierto populares, que pueden ser potencialmente parroquiales o elitistas.

“Puede crear parias digitales en ciertos sectores de la población”, dice. “Las organizaciones están construyendo sistemas que afectan la vida cotidiana de las personas, por lo que debemos centrarnos en eliminar el sesgo de una manera totalmente justa, explicable y transparente”.

Beneficio para las organizaciones

“Para ser inclusivas y justas, las organizaciones deben eliminar el sesgo en el enfoque técnico de un proyecto y en términos de contratación de una diversidad de personal, desde ingenieros hasta quienes toman las decisiones”, dice Yash.

“Además, las organizaciones también se benefician de ser más éticas”, explica. “Los empleados generalmente prefieren empresas más inclusivas, y estas tienden a superar a sus pares en términos de participación de mercado y desempeño”.

Según Yash, esto se debe a que una amplia gama de empleados aporta más creatividad e ideas. Además, pueden analizar los productos a lo largo del proceso de desarrollo de manera integral, lo que reduce el riesgo de tener una reacción negativa del cliente”.

Al subrayar la importancia de la inclusión, citó un estudio reciente del Instituto de Investigación Capgemini, que encontró que las empresas inclusivas tienen 1,7 veces más probabilidades de ser líderes en innovación en sus respectivos mercados. El informe encontró una correlación positiva entre los niveles de diversidad y los márgenes de beneficio y sugiere que un tercio de los buscadores de empleo no se postularían en una organización que carece de diversidad.

Valores compartidos

Al establecer una serie de principios sobre IA ética, Capgemini actúa como pionera en este campo, y Yash se complace en haber encontrado una organización que se alinea con sus valores.

“Capgemini es reconocida como una de las empresas más éticas del mundo”, dice. “Los valores de la empresa guían directamente todas las áreas de mi trabajo.”

Además, encuentra el entorno de trabajo para fomentar la innovación y la investigación. “Capgemini es una organización flexible que brinda espacio para la exploración, capacita a los empleados para que tengan el coraje de experimentar con nuevas ideas y fomenta el espíritu emprendedor”, dice.

Nuevas dimensiones

Actualmente, Yash lidera un nuevo proyecto en un área de vanguardia (malla de datos y ecosistemas de datos) que, en sus palabras, “busca permitir que todos los dominios de una empresa aprovechen los datos para optimizar los servicios sin crear una plataforma inmanejablemente compleja, y proporciona con herramientas y técnicas para obtener información de los datos en varios puntos de contacto”.

Con su cultura de innovación y soporte, Capgemini está ayudando a Yash y sus colegas a garantizar que la IA sea una fuerza positiva para la humanidad. Al hacerlo, está dando forma al futuro de la ética en el sector tecnológico y sentando las bases de un mundo mejor para todos.