%20B.png)
¿Qué es la IA Generativa?
La IA generativa es una tecnología que crea contenido nuevo, como texto, imágenes o música, a partir de patrones y ejemplos previos. La clave está en que para generar estos resultados tiene que comprender el mundo que nos rodea y razonar en base al contenido de su entrenamiento y los inputs que les ofrecemos.
Por ejemplo, ChatGPT o Midjourney son sistemas de IA generativa.
Objetivos de nuestra investigación
01
Investigación
Fundamental
El proyecto de Investigación Fundamental en IA Generativa (IAG) explorará, durante los próximos años, cómo la IA generativa impacta nuestras vidas desde tres perspectivas clave: ética y social, jurídica y social. En una primera etapa (2023-2025), se estudiarán temas como el efecto de la IA en derechos digitales, la privacidad y la propiedad intelectual, además de su impacto en el metaverso y en la vida de personas vulnerables como menores o personas mayores. También se analizarán los riesgos de desinformación y manipulación que pueden surgir con la IA.
En una segunda etapa (2026), se evaluarán los avances y conclusiones de estos estudios, observando cómo ha evolucionado el impacto de la IA en la sociedad y el mercado laboral, y proponiendo medidas para prevenir posibles riesgos y mejorar su uso ético. Este proyecto forma parte de la iniciativa Cátedras ENIA, que impulsa la colaboración entre universidades y empresas para afrontar los retos de la IA.
02
Desarrollo Experimental
El proyecto busca desarrollar una plataforma que permita entender mejor cómo los sistemas de inteligencia artificial generativa, como ChatGPT o DALL-E, interpretan y representan conceptos y expresiones humanas, como el estado de "sorpresa". Para ello, emplean una técnica llamada "embeddings", que transforma características de palabras e imágenes en listas numéricas, ayudando a los modelos a "captar" el significado de ideas complejas.
Sin embargo, aunque los embeddings son eficaces, también pueden arrastrar problemas como sesgos sexistas, racistas o una falta de diversidad conceptual. Por eso, esta plataforma se centrará en supervisar y explicar los conceptos que la IA generativa aprende, detectando posibles problemas y asegurando que estos sistemas evolucionen sin distorsiones indeseadas.
Las funcionalidades clave de esta herramienta incluyen la evaluación y análisis de embeddings de manera independiente del tipo de IA, la visualización de relaciones conceptuales, un historial para detectar cambios entre versiones de modelos y la posibilidad de contribuir a un repositorio común de conceptos. El proyecto contempla un desarrollo integral de la plataforma, desde el diseño hasta la apertura pública, con la meta de mantener y mejorar la solución a largo plazo.
03
Difusión de
Conocimiento
El proyecto incluye un Plan de Difusión que se compone de un Plan de Comunicación y un Plan de Marketing Digital, dos áreas que se abordarán de manera diferenciada. En el ámbito de la comunicación, el objetivo es sensibilizar a la sociedad sobre la IA generativa, abordando prejuicios existentes y mejorando la imagen de esta tecnología. Para ello, se organizarán talleres, seminarios con expertos, eventos nacionales e internacionales y se lanzarán los Premios GenIA anualmente.
Por su parte, el Plan de Marketing Digital se centrará en mejorar la presencia en internet, construyendo una imagen de la IA como tecnología ética y confiable. Además, se implementará una estrategia de redes sociales para conectar con distintos públicos, desde ciudadanos hasta especialistas, difundiendo tanto novedades generales como hallazgos científicos.
