Iniciativas
Trabajamos activamente para impulsar el uso de la inteligencia artificial, facilitando el balance con la ética, responsabilidad y legislación vigente. Buscamos soluciones prácticas para conseguir este objetivo.
VULNERA-AI Legal Observatory
Legal cases on artificial intelligence and vulnerable groups
Presentation of the Observatory
The VULNERA-AI Legal Observatory is an initiative devoted to the systematic analysis of legal cases involving AI and their impact on vulnerable groups. It examines judicial decisions and rulings issued by courts and data protection authorities to identify how AI-related risks to fundamental rights are assessed, interpreted, and addressed in practice.
By grounding its work in case law, the Observatory provides an empirical and comparative perspective on the legal implications of AI systems. It is designed as a reference resource for researchers, policymakers, legal professionals, and institutions concerned with the protection of vulnerable groups in AI-enabled decision-making contexts.
Our starting point
AI is increasingly embedded in decision-making processes that directly affect individuals and groups in situations of vulnerability, including areas such as employment, social protection, migration, criminal justice, and access to public and digital services. While these systems may improve efficiency, they also pose risks related to discrimination, opacity, lack of accountability, and erosion of procedural guarantees.
The Observatory starts from the premise that judicial and regulatory decisions constitute a key source for understanding how these risks are legally framed and managed. The reasoning adopted by courts and data protection authorities reveals which rights are prioritised and which safeguards are required. It also highlights areas where legal protections may still be insufficient. The increasing number and variety of AI-related cases makes a structured, comparative approach essential.
Objectives and methodology
The VULNERA-AI Legal Observatory core objectives are:
• To identify forms of vulnerability associated with the deployment and use of AI systems.
• To analyse the fundamental rights most frequently affected and the legal arguments raised in related disputes.
• To assess the safeguards required to ensure compliance with internationally recognised AI principles, including those defined by the OECD.
The Observatory conducts a systematic review of judicial decisions and rulings issued between 2013 and 2024 across Europe, the Americas, and other regions. Cases are classified by affected groups and application domains, using an intersectional approach to capture overlapping vulnerabilities. The analysis evaluates how principles such as human-centred AI, transparency and explainability, robustness and security, accountability, respect for human rights, and inclusive and impartial implementation are upheld or breached in practice.
Impact
The Observatory provides a structured analytical framework for understanding how legal systems respond to the challenges posed by AI in relation to vulnerable groups. Its findings underline the central role of transparency and algorithmic accountability, the need for inclusive AI design that does not perpetuate structural biases, and coherent legal frameworks that can ensure effective accountability and redress.
By making this knowledge accessible and comparable across jurisdictions, the VULNERA-AI Legal Observatory supports evidence-based policymaking, responsible AI development, and legally robust deployment of AI systems. The Observatory's work contributes to maximising the benefits of AI while strengthening the protection of fundamental rights.
27 de julio de 2026
Research team: Ana Montesinos García (Universitat de València), Elisa Simó Soler (Universitat de València), Juan Carlos Hernández Peña (Universidad de Navarra), Gabriele Vestri (Universidad de Sevilla), and Iratxe De Anda Rodríguez (Grupo EYSA).
Contribute cases
The VULNERA-AI Legal Observatory is an evolving, collaborative resource. To ensure continuous updates and broaden the Observatory's comparative scope, third parties can suggest additional judicial decisions or rulings relevant to AI and vulnerable groups.
Proposed cases undergo an internal review process prior to inclusion to verify their legal relevance, methodological consistency and alignment with the Observatory’s analytical criteria. This contribution mechanism helps to ensure the Observatory's accuracy, completeness and long-term sustainability.Submissions can be made via a short form.
Mapa y Base de Datos de Actores en Derechos Digitales e IA
24 de abril de 2026
Instrumento estratégico para el despliegue de la Carta de Derechos Digitales
En virtud del Convenio C043/23-OT, el Observatorio OdiseIA presenta esta herramienta clave para el cumplimiento del Objetivo 5 de la Carta de Derechos Digitales, impulsando el Espacio de Observación de Derechos Digitales.
Este proyecto resulta de la alianza entre Red.es y un consorcio de instituciones de primer nivel:
Fundación Instituto Hermes, Fundación "la Caixa", Fundación Telefónica, Fundación Atresmedia, Universitat Pompeu Fabra, Universidad San Pablo CEU, Universidad Autónoma de Madrid, Universidad Carlos III, CERMI, Fundación para la Repoblación Sostenible, Universidad Católica del Uruguay, Asociación Europea para la Transición Digital, Fundación Hiberus, Universitat de València, Universidad de Santiago de Compostela, Universidad de Navarra, Universidad de Comillas, Mobile World Capital y Fundación Diario de Navarra.
Desarrollo Tecnológico: La implementación digital ha sido ejecutada por Sonalyx, quienes han diseñado una arquitectura de alta precisión (React 19, Supabase) para transformar la complejidad de los datos en una interfaz analítica, segura y accesible.
Impulsando una inteligencia artificial ética y transparente al servicio de la ciudadanía.
En este mismo evento, OdiseIA participará el 14 de mayo en el Speaker Corner “Arte, creatividad y democracia en la era algorítmica”, dentro del I Encuentro Internacional por los Derechos Digitales organizado por Mobile World Capital Barcelona en La Llotja de Mar.
Alberto González Pulido, Director de Operaciones de OdiseIA, aportará la perspectiva de la organización sobre ética, gobernanza y responsabilidad algorítmica, junto a Pau García (Domestic Data Streamers), Marine Masso (Science for Change) y Emilio Doménech (laDemo Festival).
OdiseIA participará el 14 de mayo en el workshop “Redes que atrapan: la experiencia de ser niña y adolescente en el entorno digital”, dentro del I Encuentro Internacional por los Derechos Digitales organizado por Mobile World Capital Barcelona y Save the Children, para abordar cómo el entorno digital intensifica las desigualdades de género y las violencias que afectan a niñas y adolescentes y qué papel deben jugar la regulación y el diseño de las plataformas.
Alberto González Pulido, Director de Operaciones de OdiseIA, intervendrá junto a representantes del Consejo de la Juventud de España, Diaconía, Save the Children y el Ministerio de Infancia, consolidando el compromiso de OdiseIA con los derechos digitales, la protección de la infancia y una inteligencia artificial responsable.
Directorio Maestro de Entidades — Red de Actores en Neuroderechos e Impacto Algorítmico
Es un directorio nominativo de personas clave, concebidas como nodos estratégicos, organizado según una tipología funcional que permite distinguir entre distintos perfiles de actores. En este sentido, se identifican, por un lado, los denominados E-actors, que hacen referencia a grupos especializados de académicos, investigadores y profesionales con experiencia acreditada en las áreas relevantes. Por otro lado, se incluyen los PI-actors, que engloban a actores clave del ámbito privado, tales como empresas, asociaciones sectoriales, medios de comunicación y otros agentes con capacidad de influencia en el desarrollo y aplicación de tecnologías digitales. Finalmente, se contemplan los G-actors, que abarcan a las entidades públicas responsables de regular, supervisar y garantizar la correcta aplicación del marco normativo, incluyendo ministerios, agencias especializadas y sindicatos con funciones institucionales.
La efectividad de la red depende directamente de la calidad y la estructuración de esta base de datos. Dicha base de datos debe servir como un instrumento verificable de referencia para futuras acciones de difusión, formación y cooperación institucional. Además, será fundamental para la posterior ejecución de Acuerdos de Colaboración Formales, asegurando que todas las partes involucradas estén debidamente identificadas y conectadas
24 de abril de 2026
5 de diciembre de 2025
brAIngym es un proyecto de investigación interdisciplinar que analiza cómo el uso cotidiano de la inteligencia artificial generativa (IAgen) puede transformar la forma en que pensamos, sentimos, recordamos, aprendemos y decidimos.
Queremos generar conciencia social sobre el impacto de la IAg en el cerebro humano y en las capacidades cognitivas, y desarrollar un prototipo inicial que ayude a las personas a comprender, reflexionar y entrenar sus capacidades cognitivas, emocionales, éticas y de agencia. El proyecto forma parte de cAIre que se enfoca en la gobernanza de IA y su impacto en el futuro del trabajo, siempre desde la perspectiva de grupos vulnerables.
En este sentido, el brAIngym pretende aumentar la conciencia de la población y los ‘policymakers’ para anticipar una posible nueva gobernanza. Esto es sobre todo importante porque todos las profesiones del futuro estarán impactadas por la IAg y para evitar la existencia de un “nuevo” grupo vulnerable, es clave el trabajo innovador que pretende hacer el brAIngym.
1 de marzo de 2024 - 1 de ocutbre de 2026
Durante dos años, OdiseIA desarrolló el proyecto cAIre —"Caring for vulnerable groups through AI Governance and fair AI in the workplace"— con el apoyo de Google.org, la filantropía de Google, en el marco del Digital Futures Project, un fondo de 20 millones de dólares destinado a apoyar a investigadores, facilitar debates y fomentar soluciones políticas responsables en materia de IA.
cAIre movilizó a más de [60] personas expertas organizadas en [13] subgrupos de trabajo, y produjo [167] publicaciones, [29] eventos y dos directorios públicos de documentación. Estos son sus resultados.
1. Gobernanza de la IA y grupos vulnerables
El proyecto analizó el Reglamento Europeo de IA desde la perspectiva de los sujetos protegidos y vulnerables, con estudios sobre modelos de IA de propósito general, códigos de buenas prácticas y jurisprudencia asociada. Se elaboró una taxonomía de las externalidades de la IA sobre personas vulnerables, distinguiendo factores técnicos y socio-psicológicos según el contexto, y se desarrolló un sistema RAG de consulta del Reglamento de IA como prueba de concepto tecnológica. La línea AI4Good culminó con el informe final From Idea to Durable Impact, resultado de dieciocho meses de investigación sobre por qué tantas iniciativas de IA con propósito social no logran superar la fase de prototipo, acompañado de la serie divulgativa IA que deja huella. El Hackathon OdiseIA4Good 2025 dio origen a proyectos como GaIA, asistente contra la soledad de las personas mayores, cuyo recorrido posterior fue documentado como caso de estudio.
2. Futuro del trabajo y competencias
Se publicaron los estudios Professions of the Future: New Opportunities and Requirements, el Libro Blanco sobre el impacto, la regulación y las garantías ante el uso de la inteligencia artificial por el empleador, el informe sobre garantía de inclusión y accesibilidad de la IA en entornos laborales, la guía de uso responsable de la IA en la gestión de recursos humanos y la Guía de Ciberseguridad aplicada a la IA para la Alta Dirección. Todos ellos están disponibles en abierto.
3. Colaboración paneuropea
cAIre articuló el intercambio con otros beneficiarios europeos del Digital Futures Project mediante debates temáticos, documentos de liderazgo de pensamiento y encuentros presenciales, entre ellos [evento anual / nombre]. Destacó la conferencia magistral de Daron Acemoğlu, Premio Nobel de Economía 2024, en el Vigo Global Summit 2025, así como el trabajo de campo con organizaciones sociales como la Asociación Círvite.
Un legado abierto
El principal activo permanente del proyecto es el Directorio de documentación en IA, elaborado por más de 60 miembros del equipo: la mayor recopilación en español de informes, literatura especializada, legislación, jurisprudencia, herramientas y guías sobre gobernanza de la IA e impacto de la IA en el empleo. Todos los materiales seguirán accesibles de forma gratuita.
OdiseIA agradece a Google.org su confianza y a las personas expertas voluntarias que hicieron posible este trabajo. Las líneas abiertas por cAIre continúan en la actividad del Observatorio.
.png)
Comunidades de práctica para impulsar la igualdad en el entorno digital (COPID)
1 de octubre de 2024 -
1 octubre de 2026
COPID — Derechos digitales e igualdad en el entorno digital
COPID —Comunidades de Práctica para impulsar la igualdad en el entorno digital— es una iniciativa orientada a promover la aplicación de la Carta de Derechos Digitales en uno de sus ámbitos más relevantes: los derechos de igualdad en el mundo digital. El proyecto se desarrolla en colaboración con Red.es y reúne a Fundación ONCE, el Instituto de Derechos Humanos Gregorio Peces-Barba de la Universidad Carlos III de Madrid y OdiseIA.
La transformación digital ofrece enormes oportunidades, pero también puede reproducir o amplificar desigualdades ya existentes. El acceso desigual a internet, los sesgos algorítmicos, la discriminación automatizada o la exposición de menores a riesgos específicos muestran que los derechos digitales no son una cuestión abstracta: afectan al modo en que las personas estudian, trabajan, participan y ejercen su ciudadanía.
COPID parte de una idea sencilla: la igualdad en el entorno digital no se consigue solo con tecnología. Requiere conocimiento compartido, análisis jurídico y ético, escucha a entidades sociales y propuestas que sean realmente aplicables.
Sandbox de IA
22 septiembre de 2023 - 30 de junio de 2026
OdiseIA, en colaboración con Deloitte, ayuda al gobierno (SEDIA) en la ejecución de la ENIA (estrategia nacional de inteligencia artificial). Este proyecto incluye la ejecución de un piloto regulatorio de IA en España para obtener experiencia práctica con el reglamento europeo de IA sobre todo para startups. El trabajo implica el seguimiento y evaluación de empresas, y la creación de guías detalladas basadas en el feedback del piloto.
Proyecto COMMANDs
1 de enero de 2023 - 31 de diciembre de 2024
El proyecto colaborativo entre OdiseIA y SENER se enfocará en la evaluación de sistemas inteligentes para aplicaciones militar. El proyecto COMMANDS está financiado por la “European Defense Agency”. El rol de OdiseIA es la introducción del pensamiento ético cuando se usa la IA en casos de usos concretos.
Este proyecto tiene como objetivos:
-
Analizar el estado del arte en las implicaciones éticas de los sistemas inteligentes en el ámbito militar.
-
Desarrollar un framework para el uso ético de la IA en casos de usos militares relacionados con vehícules autónomos, y la aplicación del framework a las aplicaciones concretas del proyecto COMMANDS.
-
Asegurar que dentro de los desarrollos de tecnología militar avanzada se consideren los aspectos éticos del uso de la inteligencia artificial.
Informe conjunto INDESIA
29 de mayo 2023
IndesIA y OdiseIA, en su informe "El uso responsable de la inteligencia artificial en el sector industrial", buscan fomentar el uso ético de datos e IA en la industria. El documento ofrece guías y casos prácticos para implementar la IA de manera ética y responsable en organizaciones. Descargar informe
Los objetivos son promover el uso ético de los datos y la inteligencia artificial en distintos sectores de las industrias representadas por los socios promotores de IndesIA, y garantizar que la implementación de la IA sea realizada de manera ética y responsable. El informe “El uso responsable de la inteligencia artificial en el sector industrial” elaborado por ambas entidades, proporciona guías actualizadas y casos de uso para asistir a las organizaciones en la implementación ética de la IA en sus procesos. El proyecto enfatiza la importancia de una IA que contribuya a construir una sociedad mejor y más sostenible.
Curso de ChatGPT para profesores de bachillerato
Junio 2023 - 2024
OdiseIA, en colaboración con las Fundaciones Telefónica y Profuturo, ha desarrollado un curso de ChatGPT para que los profesores de Bachillerato puedan ver la IA Generativa como una oportunidad de mejora en vez de verlo como una amenaza al sistema educativo. El curso gratuito estará disponible en la plataforma de Profuturo. Video presentación.
