Para dar a las académicas y otras mujeres centradas en la IA el tiempo en el foco que se merecen, TechCrunch está lanzando una serie de entrevistas centradas en mujeres destacadas que han contribuido a la revolución de la IA. Publicaremos piezas a lo largo del año a medida que el auge de la IA continúe, destacando trabajos clave que a menudo pasan desapercibidos. Lee más perfiles aquí.
Emilia Gómez es investigadora principal en el Centro Común de Investigación de la Comisión Europea y coordinadora científica de AI Watch, la iniciativa de la UE para monitorear los avances, la adopción y el impacto de la IA en Europa. Su equipo contribuye con conocimientos científicos y técnicos a las políticas de IA de la UE, incluido el recientemente propuesto Acta de IA.
La investigación de Gómez está fundamentada en el campo de música computacional, donde contribuye a la comprensión de la forma en que los humanos describen la música y los métodos en los que se modela digitalmente. Partiendo del dominio de la música, Gómez investiga el impacto de la IA en el comportamiento humano —en particular los efectos en los trabajos, decisiones y en el desarrollo cognitivo y socioemocional infantil.
Q&A
Brevemente, ¿cómo empezaste en el campo de la IA? ¿Qué te atrajo de este campo?
Comencé mi investigación en IA, en particular en aprendizaje automático, como desarrolladora de algoritmos para la descripción automática de señales de audio musicales en términos de melodía, tonalidad, similitud, estilo o emoción, que se explotan en diferentes aplicaciones desde plataformas musicales hasta educación. Comencé a investigar cómo diseñar enfoques de aprendizaje automático novedosos que tratan diferentes tareas computacionales en el campo de la música, y sobre la relevancia del pipeline de datos, incluida la creación de conjuntos de datos y la anotación. Lo que me gustó en ese momento del aprendizaje automático fue su capacidad de modelado y el cambio de un enfoque basado en el conocimiento a un diseño de algoritmo basado en datos —por ejemplo, en lugar de diseñar descriptores basados en nuestro conocimiento de acústica y música, ahora estábamos usando nuestro saber hacer para diseñar conjuntos de datos, arquitecturas y procedimientos de entrenamiento y evaluación.
Desde mi experiencia como investigadora en aprendizaje automático, y viendo mis algoritmos “en acción” en diferentes dominios, desde plataformas musicales hasta conciertos de música sinfónica, me di cuenta del gran impacto que esos algoritmos tienen en las personas (por ejemplo, oyentes, músicos) y dirigí mi investigación hacia la evaluación de IA en lugar del desarrollo, en particular en estudiar el impacto de la IA en el comportamiento humano y cómo evaluar sistemas en términos de aspectos como la equidad, supervisión humana o transparencia. Este es el tema actual de investigación de mi equipo en el Centro Común de Investigación.
¿De qué trabajo estás más orgullosa (en el campo de la IA)?
En el lado académico y técnico, estoy orgullosa de mis contribuciones a las arquitecturas de aprendizaje automático específicas de la música en el Grupo de Tecnología Musical en Barcelona, que han avanzado en el estado del arte en el campo, como se refleja en mis registros de citas. Por ejemplo, durante mi doctorado propuse un algoritmo basado en datos para extraer tonalidad de señales de audio (por ejemplo, si una pieza musical está en do mayor o re menor) que se ha convertido en una referencia clave en el campo, y más tarde co-diseñé métodos de aprendizaje automático para la descripción automática de señales musicales en términos de melodía (por ejemplo, utilizado para buscar canciones tarareando), tempo o para el modelado de emociones en la música. La mayoría de estos algoritmos están actualmente integrados en Essentia, una biblioteca de código abierto para análisis, descripción y síntesis de audio y música que se han explotado en muchos sistemas de recomendación.
Estoy particularmente orgullosa de Banda Sonora Vital, un proyecto premiado con el Premio de la Cruz Roja a las Tecnologías Humanitarias, donde desarrollamos un recomendador de música personalizado adaptado a pacientes mayores con Alzheimer. También está PHENICX, un gran proyecto financiado por la Unión Europea en el uso de música e IA para crear experiencias de música sinfónica enriquecidas.
Me encanta la comunidad de computación musical y me alegró convertirme en la primera presidenta femenina de la Sociedad Internacional de Recuperación de Información de Música, a la que he estado contribuyendo toda mi carrera, con un interés especial en aumentar la diversidad en el campo.
Actualmente, en mi papel en la Comisión, a la que me uní en 2018 como científica principal, brindo apoyo científico y técnico a las políticas de IA desarrolladas en la UE, notablemente el Acta de IA. De este trabajo reciente, que es menos visible en términos de publicaciones, estoy orgullosa de mis humildes contribuciones técnicas al Acta de IA —digo “humildes” como puedes imaginar que ¡hay muchas personas involucradas aquí! Como ejemplo, hay mucho trabajo en el que contribuí a la armonización o traducción entre términos legales y técnicos (por ejemplo, proponiendo definiciones fundamentadas en la literatura existente) y en evaluar la implementación práctica de los requisitos legales, como la transparencia o la documentación técnica para sistemas de IA de alto riesgo, modelos de IA de propósito general e IA generativa.
También estoy bastante orgullosa del trabajo de mi equipo en apoyo a la directiva de responsabilidad de la IA de la UE, donde estudiamos, entre otros, características particulares que hacen que los sistemas de IA sean inherentemente arriesgados, como la falta de causalidad, opacidad, impredecibilidad o sus capacidades de autoaprendizaje continuo, y evaluamos las dificultades asociadas presentadas a la hora de probar la causalidad.
¿Cómo navegas por los desafíos de la industria tecnológica dominada por hombres y, por extensión, la industria de la IA dominada por hombres?
No es solo tecnología —¡también estoy navegando por un campo de investigación y políticas de IA dominado por hombres! No tengo una técnica o estrategia, ya que es el único entorno que conozco. No sé cómo sería trabajar en un entorno diverso o dominado por mujeres. “¿No sería bonito?,” como dice la canción de los Beach Boys. Sinceramente trato de evitar la frustración y divertirme en este escenario desafiante, trabajando en un mundo dominado por hombres muy asertivos y disfrutando de colaborar con mujeres excelentes en el campo.
¿Qué consejo le darías a las mujeres que buscan ingresar al campo de la IA?
Les diría dos cosas:
Eres muy necesaria —por favor, entra en nuestro campo, ya que hay una necesidad urgente de diversidad de visiones, enfoques e ideas. Por ejemplo, según el proyecto divinAI —un proyecto que co-fundé sobre el seguimiento de la diversidad en el campo de la IA— solo el 23% de los nombres de autor en la Conferencia Internacional sobre Aprendizaje Automático y el 29% en la Conferencia Internacional Conjunta sobre IA en 2023 eran mujeres, independientemente de su identidad de género.
No estás sola —hay muchas mujeres, colegas no binarios y aliados masculinos en el campo, aunque es posible que no seamos tan visibles o reconocidos. ¡Búscalos y obtén su mentoría y apoyo! En este contexto, hay muchos grupos de afinidad presentes en el campo de investigación. Por ejemplo, cuando me convertí en presidenta de la Sociedad Internacional de Recuperación de Información de Música, fui muy activa en la iniciativa de Mujeres en Recuperación de Información de Música, pionera en los esfuerzos de diversidad en la computación musical con un programa de mentoría muy exitoso.
¿Cuáles son algunos de los problemas más apremiantes que enfrenta la IA a medida que evoluciona?
En mi opinión, los investigadores deberían dedicar tantos esfuerzos al desarrollo de IA como a su evaluación, ya que ahora hay una falta de equilibrio. La comunidad de investigación está tan ocupada avanzando en el estado del arte en términos de capacidades y rendimiento de la IA y tan emocionada de ver sus algoritmos utilizados en el mundo real que olvidan hacer evaluaciones adecuadas, evaluaciones de impacto y auditorías externas. Cuanto más inteligentes sean los sistemas de IA, más inteligentes deben ser sus evaluaciones. El campo de la evaluación de la IA está poco estudiado, y esta es la causa de muchos incidentes que le dan a la IA una mala reputación, por ejemplo, sesgos de género o racial presentes en conjuntos de datos o algoritmos.
¿Cuáles son algunos problemas de los que los usuarios de IA deberían ser conscientes?
Los ciudadanos que utilizan herramientas impulsadas por IA, como los chatbots, deberían saber que la IA no es magia. La inteligencia artificial es un producto de la inteligencia humana. Deberían aprender sobre los principios de funcionamiento y limitaciones de los algoritmos de IA para poder desafiarlos y usarlos de manera responsable. También es importante que los ciudadanos estén informados sobre la calidad de los productos de IA, cómo se evalúan o se certifican, para que sepan en qué pueden confiar.
¿Cuál es la mejor manera de construir IA de manera responsable?
En mi opinión, la mejor manera de desarrollar productos de IA (con un buen impacto social y ambiental y de manera responsable) es invertir los recursos necesarios en la evaluación, evaluación del impacto social y mitigación de riesgos —por ejemplo, para los derechos fundamentales— antes de poner un sistema de IA en el mercado. Esto es en beneficio de las empresas y de la confianza en los productos, pero también de la sociedad.
La IA responsable o confiable es una forma de construir algoritmos donde aspectos como la transparencia, la equidad, la supervisión humana o el bienestar social y ambiental deben abordarse desde el principio del proceso de diseño de la IA. En este sentido, el Acta de IA no solo establece el estándar para regular la inteligencia artificial a nivel mundial, sino que también refleja el énfasis europeo en la confiabilidad y transparencia —permitiendo la innovación al tiempo que protege los derechos de los ciudadanos. Esto, creo, aumentará la confianza de los ciudadanos en el producto y la tecnología.
