Autores: William Lúligo Monsalve, Carmen Muñoz García, Pedro Albarracín García. Subproyecto 1.1 – AI Governance para Google.org ¿Por qué es urgente hablar de menores migrantes y decisiones automatizadas? Porque la gestión migratoria en Europa, especialmente en contextos de crisis como la de Ceuta en 2021, ha demostrado que los derechos de los menores no acompañados pueden ser vulnerados por decisiones políticas apresuradas. En ese episodio, España repatrió a 55 menores sin evaluaciones individualizadas, violando la Ley de Extranjería y la Convención sobre los Derechos del Niño. La sentencia del Tribunal Supremo en 2024 lo confirmó: fue ilegal. ¿Qué propone el estudio frente a esta realidad? Una lectura crítica y propositiva del AI Act, el reglamento europeo sobre inteligencia artificial, desde la perspectiva de los menores migrantes. El objetivo: demostrar que la IA, si se aplica con ética y legalidad, puede prevenir errores humanos, garantizar derechos y actuar como barrera frente a decisiones arbitrarias. ¿Qué papel juega el AI Act en la protección de menores? El AI Act clasifica los sistemas de IA según su nivel de riesgo. Los sistemas usados en migración —como reconocimiento biométrico o evaluación de riesgos— son considerados de alto riesgo, lo que exige: Evaluaciones de impacto en derechos fundamentales Supervisión humana constante Transparencia algorítmica Registro y trazabilidad de decisiones automatizadas Aunque no obliga a usar IA, sí establece un marco riguroso para su uso ético y seguro. ¿Cómo puede la IA proteger a los menores migrantes? El estudio propone un modelo ético de aplicación de IA en procesos migratorios, dividido en cuatro fases: 1. Identificación Segura ¿Puede la IA evitar errores en la identificación de menores? Sí. Tecnologías biométricas no invasivas, validadas por humanos, pueden estimar la edad y verificar identidad. Esto evita que menores sean tratados como adultos por error. Riesgos clave: Sesgos en datos de entrenamiento Falsa clasificación Estrés o falta de documentos que afectan precisión 2. Evaluación Individual Automatizada ¿Puede la IA priorizar casos vulnerables? Sí. Algoritmos éticos pueden cruzar datos para identificar riesgos de explotación, trata o abandono. Pero deben estar entrenados con criterios representativos y auditados para evitar discriminación algorítmica. Garantías necesarias: Evaluación de riesgos previsibles Justificación de riesgos residuales Transparencia en el diseño 3. Protección y Trazabilidad ¿Puede la IA asegurar el seguimiento legal de los menores? Sí. Sistemas automatizados pueden gestionar la distribución a servicios de acogida, generar alertas ante incumplimientos y asegurar trazabilidad completa. Innovación clave: Alertas automáticas ante desviaciones Integración con supervisión humana y transparencia Ciclo de vida completo del sistema trazado 4. Repatriación Responsable ¿Puede la IA garantizar que una devolución sea legal y segura? Sí. Antes de repatriar, el sistema debe verificar condiciones del país de origen, existencia de red familiar y legalidad del proceso. Todo debe quedar documentado y auditable. Condiciones éticas: Evaluación de riesgos adicionales Justificación de riesgos residuales Rastro digital completo ¿Qué principios éticos deben regir estos sistemas? El estudio subraya cuatro principios fundamentales: Proporcionalidad: solo se justifica si mejora la protección del menor Supervisión humana: ninguna decisión debe ser completamente automatizada Evitar sesgos: entrenamiento y auditoría constante Acceso a recursos: posibilidad de recurrir decisiones tecnológicas ¿Qué lecciones deja la crisis de Ceuta? Que la falta de herramientas éticas y tecnológicas adecuadas puede llevar a vulneraciones graves de derechos. La IA, bien aplicada, podría haber evitado esas devoluciones ilegales. El AI Act ofrece una oportunidad para que la tecnología se convierta en aliada de la infancia, no en amenaza. ¿Qué propone el estudio como conclusión? Un modelo conceptual que integra tecnología, derecho y ética para garantizar que los errores del pasado no se repitan. Porque proteger a los menores migrantes no es una opción: es una obligación legal, moral y humana.

𝗚𝗿𝘂𝗽𝗼 𝗱𝗲 𝗧𝗿𝗮𝗯𝗮𝗷𝗼 𝗱𝗲 𝗦𝗮𝗹𝘂𝗱 𝗗𝗶𝗴𝗶𝘁𝗮𝗹 𝗱𝗲 OdiseIA Ponemos el foco en salud, inteligencia artificial y privacidad en la Unión Europea, así como en la interacción de los aspectos regulatorios que, por la Comisión Europea, se impulsan al unísono con la Estrategia Europea de Datos y con el propósito regulatorio de la IA (febrero de 2020). Conforman ya «El ecosistema regulatorio europeo de la IA en salud»: 1. El Reglamento 2025/327 sobre Espacio Europeo de Datos de Salud (EEDS o EHDS): En vigor desde marzo de 2025, comienza la fase de implementación. Su aplicación, salvo excepciones, lo será a partir del 26 de marzo de 2027. Actualmente, está en fase de desarrollo de los actos de ejecución y de la infraestructura necesaria para su aplicación progresiva entre 2027 y 2035. Son claves: (i) el derecho «primario» del paciente a acceder y compartir electrónicamente su historia clínica en toda la UE para recibir prestación sanitaria; y (ii) la reutilización segura y fiable de datos sanitarios con fines de investigación, innovación, salud pública y elaboración de políticas sanitarias mediante reglas para el uso «secundario». Para la investigación biomédica, este marco regulatorio supone el mayor cambio regulatorio desde el RGPD. Su complejidad aumenta por la interacción entre ambos textos y el Reglamento de IA. 2. El Reglamento 2024/1687 europeo de IA: su entrada en vigor el 2 de agosto de 2024, con aplicación general el 2 de agosto de 2026, contiene relevantes excepciones de aplicación progresiva. El RIA proporciona mayor claridad para los sistemas sanitarios de alto riesgo y para los modelos de IA de uso general, incluidos los agentes de IA. La Comisión Europea ha publicado desde 2025 directrices y códigos de buenas prácticas que propician una interpretación adecuada para la clasificación de sistemas de IA de alto riesgo y otros sistemas, lo cual es relevante, entre otras cosas, para el software sanitario, los dispositivos médicos o el apoyo a la toma de decisiones clínicas. No faltan la obligación de supervisión humana, la gestión de riesgos (incluidos los clínicos), la calidad de los datos utilizados para entrenar el sistema, la supervisión y gobernanza de los sistemas. 3. El Reglamento 2026/1744 («Ómnibus Digital sobre IA»), por el que se modifica principalmente el RIA. Desde 2025, la Comisión Europea ha impulsado propuestas para simplificar algunos plazos y cargas administrativas del Reglamento de IA, especialmente para determinados sistemas de alto riesgo. El nuevo Reglamento, que modifica más de 40 artículos del RIA, es ya texto vigente. En el ámbito de la salud, es relevante porque puede afectar al calendario de cumplimiento del RIA por fabricantes de dispositivos médicos, los desarrolladores de software sanitario y los hospitales. 4. A toda la normativa anterior, le precede la aplicación del RGPD que, en el momento presente, salvaguarda los datos personales en el contexto de la IA. A tener en cuenta en su interpretación e integración: (i) el Dictamen del Comité 28/2024, que sigue siendo la referencia sobre entrenamiento y utilización de modelos de IA con datos personales; (ii) las nuevas Directrices 1/2026 del Comité Europeo de Protección de Datos sobre investigación científica, que tendrán un enorme impacto para hospitales, universidades y centros de investigación; (iii) las consultas públicas sobre web scraping y modelos generativos. Entre las muchas cuestiones pendientes se encuentran: el interés legítimo para entrenar modelos; la anonimización real; la reutilización de datos sanitarios y la compatibilidad entre investigación científica y protección de datos. 5. Es imprescindible la convergencia entre IA, privacidad y gobernanza sanitaria (RIA, RGPD, EEDS, normativa de productos sanitarios —Reglamento 2017/745 o MDR y Reglamento 2017/746 o IVDR — y ciberseguridad). Es clave contar con una gobernanza integrada de la IA sanitaria, en la que la evaluación clínica, la protección de datos, la gestión del riesgo y la supervisión humana estén integradas en un mismo sistema de cumplimiento. 6. Es necesaria la cooperación internacional en regulación de IA sanitaria. En julio de 2026, Portugal se convirtió en el primer Estado miembro de la UE en integrarse en la red internacional HealthAI Global Regulatory Network (GRN) que, aúna agencias reguladoras de diferentes regiones del mundo y se destina al intercambio de información sobre evaluación y vigilancia de herramientas de IA médica. Esta red refleja una tendencia hacia una supervisión internacional coordinada de la IA en salud. 7. No puede faltar la inclusión de las normas sobre responsabilidad civil por los daños causados ya sea «por productos defectuosos» (Directiva 2025/2853), ya por los daños causados «en materia de IA» (propuesta de Directiva que se retiró por falta de consenso en la UE), que, al margen del producto fallido, se refiere a la responsabilidad por prestación defectuosa de servicios por parte de quien se sirve de la IA. Las tendencias jurídicas se dirigen a la consolidación del EEDS como nuevo marco para la reutilización de datos sanitarios, a interpretar conjuntamente el Reglamento de IA y el RGPD, a exigir una mayor supervisión humana en sistemas de apoyo al diagnóstico, a garantizar la calidad y gobernanza de los datos clínicos. También se desarrollarán criterios específicos para la validación clínica y la auditoría de sistemas de IA en el ámbito sanitario. Gracias a Patricia(Patri) Acebes Tamargo, Frank Escandell, María Luisa González Tapia, A. Patricia Llaque Gálvez, Hermelinda López, Teresa Olea Tejero, M. Eva Pérez Martínez y Alexandra Rodríguez, por vuestras enseñanzas y compromiso.

En este mes de junio tuvo lugar en Madrid una jornada clave para el ecosistema español de Inteligencia Artificial: la presentación de los próximos pasos del Sandbox Regulatorio de la AESIA, una iniciativa estratégica destinada a facilitar la adaptación de empresas, administraciones y desarrolladores al nuevo marco regulatorio europeo definido por el Reglamento de Inteligencia Artificial (AI Act). La sesión puso de manifiesto la ambición de España de convertirse en uno de los países líderes en la implementación práctica del Reglamento Europeo de IA, ofreciendo un entorno controlado donde las organizaciones puedan validar el cumplimiento normativo de sus sistemas antes de su comercialización. Participación clave de la UTE y entidades implicadas El éxito de este gran reto, que ha durado casi 5 años, se ha logrado gracias a un esfuerzo colaborativo y duro entre la UTE creada por OdiseIA-Deloitte y las siguientes instituciones públicas: Entidades Rol en el proyecto Secretaría de Estado de Digitalización e Inteligencia Artificial Dirección de la Subdirección de IA que lideró el proyecto AESIA - Agencia Española de Supervisión de Inteligencia Artificial Agencia reguladora supervisor de la IA OdiseIA4Good Foundation Socio de la UTE, organización especializada en ética de IA Deloitte Socio de la UTE, empresa líder en consultoría La colaboración entre la UTE OdiseIA-Deloitte y el equipo de la Subdirección de IA de la Secretaría de Estado ha demostrado que este sandbox regulatorio puede ser considerado un referente internacional para el desarrollo e implementación eficiente de los Sandboxes regulatorios en IA. La participación de la UTE ha sido fundamental para ofrecer un entorno controlado donde las organizaciones españolas puedan validar el cumplimiento de sus sistemas de IA antes de su lanzamiento al mercado. Para leer la crónica completa, clic aquí:

Avanzar hacia una transformación digital inclusiva también implica garantizar derechos en el entorno online. En OdiseIA-Fundación OdiseIA4Good trabajamos en esta línea a través del proyecto COPID, impulsado junto a la Fundación ONCE / Inserta y la Universidad Carlos III de Madrid, con el objetivo de promover una transformación digital que incorpore los derechos digitales, la inclusión y la protección de los colectivos más vulnerables como elementos esenciales. En este contexto, compartimos algunas de las conclusiones del taller sobre escenarios de futuro ante la violencia de género digital, que evidencian la necesidad de actuar desde una perspectiva interdisciplinar. Entre las principales líneas de trabajo destacan: - Reforzar el marco legal, situando el foco en la conducta del agresor - Integrar la seguridad desde el diseño tecnológico (safety by design) - Impulsar la corresponsabilidad entre plataformas, instituciones y sociedad - Desarrollar infraestructuras públicas de protección adaptadas al entorno digital Porque garantizar derechos digitales no es sólo una cuestión tecnológica, sino también social, jurídica y ética. Seguimos trabajando para que la digitalización avance sin dejar a nadie atrás. Para leer el artículo completo, clic aquí:

MAGNIFICA HUMANITAS – Sobre la protección de la persona humana en la era de la inteligencia artificial Por el Dr. Richard Benjamins, CEO y cofundador de OdiseIA El artículo analiza la encíclica Magnifica Humanitas, presentada como la reflexión del Papa sobre la inteligencia artificial, e interpreta este texto como una gran llamada ética y humanista frente al impacto de la IA en la sociedad, el trabajo, la política y la dignidad humana. Su tesis central es que la tecnología y la inteligencia artificial deben estar al servicio de la humanidad y del bien común, y no únicamente de la eficiencia, el beneficio económico o el poder de unas pocas organizaciones. Visión humanista de la IA La encíclica sostiene que el debate sobre la IA no es meramente técnico, sino profundamente moral, social y humano. Se alinea con marcos éticos internacionales como la Ley de IA de la UE, la UNESCO y la OCDE, situando a la Iglesia dentro de la conversación global sobre una IA responsable. Cinco valores para guiar la IA El artículo afirma que el desarrollo y uso de la IA debe sustentarse en cinco principios: Bien común. Acceso universal a los bienes públicos. Dignidad humana. Solidaridad. Justicia. Crítica a modelos de negocio que explotan debilidades humanas Advierte contra el uso de la tecnología para capturar la atención, manipular emociones o explotar vulnerabilidades cognitivas, como ocurre en partes de la economía digital y las redes sociales. También subraya el riesgo de delegar en exceso el pensamiento y el juicio en la IA, debilitando capacidades humanas esenciales. El valor del trabajo más allá de la productividad El artículo enfatiza que el trabajo no debe entenderse solo como fuente de ingresos, sino también como espacio de dignidad, identidad, responsabilidad y relaciones humanas. Por ello, una sociedad hecha más productiva por la IA no será realmente mejor si aumenta la desigualdad o daña el medio ambiente. Línea roja en el uso militar de la IA Uno de los mensajes más contundentes es que la IA no debe tomar decisiones sobre la vida o la muerte. El documento reclama una regulación internacional firme para evitar una carrera armamentística basada en sistemas autónomos. Riesgo democrático por la concentración de poder Denuncia que un pequeño número de grandes empresas tecnológicas concentra suficientes capacidades, datos y poder como para influir en la organización moral y social del mundo. Esto supone un riesgo para la democracia y la gobernanza global. Protección de los más vulnerables La encíclica insiste en que nadie debe quedar atrás. Para ello propone educación universal y alfabetización en IA, acceso inclusivo y un diseño responsable, a fin de evitar una sociedad dividida entre quienes se benefician de la IA y quienes quedan excluidos. Para descargar el artículo completo, clic aquí:

Una herramienta operativa para la gobernanza de la IA La inteligencia artificial ya no es una promesa futura: es una tecnología que está tomando decisiones hoy. Y precisamente por eso, el reto ya no es solo innovar, sino hacerlo de forma responsable, conforme a derecho y con garantías efectivas para las personas. En este contexto, desde OdiseIA presentamos la nueva: Guía práctica para la elaboración de una evaluación de impacto algorítmico en los derechos fundamentales (EIDF o FRIA) Desarrollada en el marco del proyecto Red.es – Carta de Derechos Digitales (Ámbito 6), esta guía ofrece algo que hasta ahora escaseaba: una metodología clara, aplicable y orientada a la toma de decisiones reales en el uso de sistemas de inteligencia artificial. ¿Por qué es relevante esta guía? Porque responde a una necesidad crítica: El Reglamento de IA de la Unión Europea (RIA) no solo regula sistemas. Exige gobernar riesgos. En particular, el artículo 27 introduce la obligación de realizar evaluaciones de impacto en derechos fundamentales para determinados sistemas de alto riesgo. ¿Cómo se hace esto en la práctica? Esta guía responde precisamente a esa pregunta. A diferencia de aproximaciones puramente académicas o formales, esta guía parte de una idea central: Una evaluación de impacto no es un documento. Exige gobernanza liderada por personas. Tal y como se recoge en el documento, una evaluación de impacto es un proceso previo, estructurado y orientado a identificar: A quién afecta un sistema de IA Qué riesgos genera sobre derechos fundamentales Con qué probabilidad y gravedad Qué medidas permiten reducir esos riesgos Y, sobre todo, permite responder a la pregunta clave: ¿Se puede desplegar este sistema? (go / condicionado / no-go) Un enfoque realmente útil para organizaciones La guía introduce una metodología operativa basada en cinco pilares: Enfoque socio-técnico del riesgo (no solo el modelo, sino el contexto) Evaluación mediante matrices de probabilidad × gravedad Diferenciación entre riesgo inherente y riesgo residual Participación de actores afectados como elemento clave Integración con cumplimiento (RGPD, EIPD, gobernanza interna) El resultado es un modelo que permite a empresas y administraciones: ✔ Tomar decisiones informadas ✔ Documentar el cumplimiento de forma defendible ✔ Reducir riesgos regulatorios y reputacionales ✔ Incorporar derechos fundamentales desde el diseño Más allá de privacidad y sesgo Uno de los aportes más relevantes es ampliar el foco habitual. La práctica demuestra que muchas organizaciones reducen el análisis a: protección de datos no discriminación Pero la guía insiste en que el impacto real va mucho más allá: acceso a oportunidades tutela judicial efectiva transparencia libertad informativa derecho de defensa Este cambio de enfoque es clave para una gobernanza de la IA verdaderamente alineada con los derechos fundamentales. Medir, mitigar y decidir La guía incorpora herramientas prácticas listas para usar: ✔ Matriz de riesgo (P × G) ✔ Fórmula de riesgo residual ✔ Checklist estructurado ✔ Módulo específico de sesgo algorítmico ✔ Métricas de equidad (DIR, TPR, FPR, etc.) ✔ Plantillas completas (acta, ficha de sistema, registro de riesgos) Todo ello pensado para facilitar su uso en entornos reales, sin necesidad de alta especialización técnica. Una guía para empresas y sector público La guía está diseñada para: Administraciones públicas Empresas que despliegan IA Equipos de compliance, legal y riesgos Responsables de innovación y tecnología Y responde a un objetivo claro: Convertir la gobernanza de la IA en algo ejecutable. Puedes consultar la guía completa aquí: La inteligencia artificial no es neutral. Pero sí puede ser gobernada. Y esa gobernanza empieza por herramientas como la que ofrecemos desde OdiseIA.

La gobernanza de la inteligencia artificial y los derechos digitales en España no depende solo de las leyes, sino de entender quiénes son realmente los actores que influyen en este ecosistema y cómo se relacionan entre sí. A partir de esta idea nace el “Mapa de Actores en IA y Derechos Digitales”, un proyecto que construye una taxonomía funcional —centrada en lo que cada agente hace y no solo en lo que es en el papel— para identificar nodos clave de regulación, supervisión, investigación, empresa y sociedad civil. Sobre esta base se diseñan subredes temáticas (desde la evaluación de impacto algorítmico hasta los neuroderechos) y un sistema de priorización que permite distinguir entre quienes tocan la IA de forma tangencial y quienes la tienen en el centro de su actividad. El resultado es una infraestructura de conocimiento viva y actualizable que aspira a servir de base a un futuro observatorio de derechos digitales y a impulsar una participación española más activa en la definición de estándares éticos y normativos a nivel europeo e iberoamericano. Para ver el webinar completo, clic aquí: https://www.youtube.com/watch?v=weXm1LerB48&list=PLHyWDC0DNAp_EoJ97j2P6346EfiwyFeFy

Con motivo del reciente lanzamiento del grupo de trabajo OdiseIA Salud Digital , iniciamos esta línea de reflexión sobre uno de los grandes retos actuales en la adopción de la inteligencia artificial. En este contexto, compartimos el artículo “𝗗𝗼𝗰𝘁𝗼𝗿, 𝗖𝗵𝗮𝘁𝗚𝗣𝗧 𝗱𝗶𝗰𝗲 𝗾𝘂𝗲 𝘁𝗲𝗻𝗴𝗼 𝗲𝘀𝘁𝗼” , publicado en Tribuna de Economía (Tribuna de Canarias)  y firmado por Hermelinda López, integrante del grupo, que aborda una realidad cada vez más presente en la práctica asistencial: el uso de modelos de IA generativa como primera fuente de consulta médica por parte de la ciudadanía. El artículo pone el foco en un cambio de paradigma relevante: ya no hablamos solo de acceso a información, sino de sistemas que generan respuestas con apariencia de criterio clínico. Esto introduce nuevos riesgos asociados al denominado sesgo de automatización , así como importantes desafíos en términos de gobernanza, regulación y formación, tanto de profesionales como de pacientes. Desde OdiseIA, consideramos clave abordar estos retos desde un enfoque que integre seguridad clínica, supervisión humana significativa y marcos éticos sólidos. La adopción de la IA en este ámbito no es únicamente un desafío tecnológico, sino una cuestión de responsabilidad institucional, liderazgo y protección efectiva de los derechos de la ciudadanía. Para descargar el artículo completo, clic aquí:

La inversión en neurotecnologías —aquellas técnicas dirigidas a monitorizar, intervenir en o, incluso, fusionarse con el sistema nervioso — ha experimentado un enorme crecimiento en los últimos años. De acuerdo con el Foro Económico Mundial, el mercado global de interfaces cerebro–computadora (BCIs: brain–computer interfaces) alcanzó los 1.740 millones de dólares en el año 2022, y se prevé que llegue a los 6.200 millones de dólares en 2030. Uno de los principales motivos del explosivo crecimiento económico de la neurotecnología es el desarrollo de dispositivos con aplicaciones que van mucho más allá del ámbito médico. Así, numerosas neurotechs están desarrollando dispositivos que se utilizarán en el día a día para fines como regular los hábitos de sueño, acompañar la meditación, reducir el riesgo de accidentes de carretera y utilizar dispositivos electrónicos empleando solo el pensamiento, entre muchos otros. En un contexto de constante expansión inversora, innovadora y regulatoria en neurotecnologías , OdiseIA desea participar de manera proactiva en las discusiones españolas, europeas e internacionales sobre neuroderechos, una tentativa normativa dirigida a los riesgos asociados a la manipulación de los procesos neurales. El pilar conceptual de estos derechos gira en torno a la salvaguarda de la privacidad cerebral, la autonomía cognitiva y la integridad mental, entre otros principios ético-jurídicos relacionados con el foro interno del pensamiento. Para descargar el artículo completo, clic aquí:

La inteligencia artificial está transformando profundamente la gestión del talento humano en las organizaciones. Esta tecnología permite automatizar procesos, optimizar la toma de decisiones y personalizar la experiencia del empleado, lo que supone una evolución sin precedentes. Desde la automatización de tareas administrativas hasta la mejora de la diversidad e inclusión, la inteligencia artificial ofrece oportunidades significativas para optimizar los procesos de contratación, evaluación del desempeño y retención del talento. La integración de la inteligencia artificial en los procesos de gestión de personas representa, sin duda, una de las mayores transformaciones que las organizaciones contemporáneas han experimentado desde la consolidación de los departamentos de Recursos Humanos a mediados del siglo XX. Lo que comenzó como una línea experimental en algunas empresas tecnológicas ha evolucionado, en apenas una década, hacia un ecosistema altamente sofisticado donde algoritmos de predicción, mecanismos de análisis semántico, sistemas de recomendación y modelos generativos ocupan un lugar central en la toma de decisiones laborales. Europa, en este contexto, se ha constituido como un espacio singular: un laboratorio regulatorio y ético donde la IA no se concibe únicamente como herramienta de optimización, sino como tecnología que debe alinearse con los valores fundacionales del modelo social europeo. Esta tecnología en el ámbito organizacional se caracteriza por el uso de algoritmos de aprendizaje automático, procesamiento del lenguaje natural y sistemas de automatización inteligente para optimizar procesos relacionados con la gestión del talento. Su objetivo principal es aumentar la eficiencia y objetividad en decisiones críticas relacionadas con la selección, desarrollo y retención del personal. Para descargar el artículo completo, clic aquí:

Hoy publicamos el informe final del Subproyecto 1.4 (AI4Good) del proyecto cAIre [1]   titulado From Idea to Durable Impact . Se publica en inglés porque nuestra audiencia principal son los responsables de política de innovación a nivel europeo y los actores del ecosistema internacional. Este informe es el resultado de dieciocho meses de investigación sobre por qué tantas iniciativas que se basan en el uso de sistemas de IA con propósito social no consiguen pasar del prototipo al impacto real, y qué puede hacer la política pública para cambiar esa ecuación. El punto de partida: muchas buenas ideas, pero pocas sobreviven El ecosistema europeo de innovación no carece de creatividad ni de motivación social. Las dos ediciones del Hackathon OdiseIA4Good lo demuestran: en 2025, más de 300 participantes presentaron 25 proyectos; en 2026, 112 equipos de cinco continentes compitieron y 60 llegaron a la gran final en sus dos modalidades, presencial y en línea. Los temas abarcaron desde la prevención del abandono escolar y la depresión adolescente hasta la trazabilidad alimentaria, el acceso al mercado laboral de personas con discapacidad o el apoyo a cuidadores y trabajadores sociales. Sin embargo, el seguimiento longitudinal de seis proyectos de la edición de 2025 revela un patrón recurrente: el cuello de botella principal no es la tecnología, ni la escasez de ideas, ni la motivación de los equipos. Es la fragilidad estructural que rodea a la innovación social. Ausencia de forma jurídica, falta de canales de adopción institucional, y un desajuste persistente entre el apoyo disponible, diseñado para start-ups convencionales, y lo que los proyectos orientados al bien público realmente necesitan. Un problema de incentivos, no solo de recursos El informe argumenta que la brecha entre ideas prometedoras e impacto duradero se entiende mejor como un problema de incentivos desalineados. Utilizando la teoría de agencia como lente analítica, muestra que los actores del ecosistema (financiadores, jurados, mentores, aceleradoras) dicen buscar impacto social, pero a menudo premian lo que es más fácil de observar a corto plazo: presentaciones pulidas, prototipos demostrables, visibilidad mediática. Mientras tanto, los elementos esenciales para la durabilidad, como la gobernanza,  la adaptación contextual, la integración institucional, o el mantenimiento a largo plazo, quedan sistemáticamente infravalorados. Este diagnóstico conecta con debates europeos más amplios sobre innovación, trasladando sus diagnósticos de nivel macro al nivel micro de las iniciativas de IA social en el contexto de este proyecto. Vulnerabilidad: no solo de los beneficiarios, sino de los propios innovadores Uno de los hallazgos más significativos del informe es que la vulnerabilidad no afecta únicamente a las personas a las que los proyectos pretenden ayudar. Afecta también a muchos de los equipos innovadores: trabajan sin financiación estable, sin estructura organizativa y sin apoyo institucional. Intentan diseñar soluciones para contextos vulnerables mientras operan bajo condiciones de vulnerabilidad propias. Esto tiene implicaciones directas para la política pública: las medidas de apoyo no deben centrarse solo en los usuarios finales, sino también en la resiliencia organizativa de quienes construyen este tipo de iniciativas. Recomendaciones para responsables de políticas públicas El informe ofrece varias recomendaciones concretas dirigidas a responsables de política de innovación: Rediseñar el apoyo a la innovación para valorar la gobernanza y el impacto público a largo plazo, no solo la novedad técnica. Facilitar marcos legales y regulatorios armonizados que sostengan la innovación orientada a una misión. Fortalecer los canales de adopción del sector público, utilizando sandboxes urbanos y entornos de prueba como los que ya funcionan en diversas localidades y regiones españolas. Fomentar el AI localism , reconociendo que las ciudades y las administraciones locales son a menudo el mejor escenario para la experimentación responsable y la adopción práctica. Conectar el reconocimiento con la continuidad, asegurando que premios y visibilidad formen parte de una vía de apoyo sostenido. Evaluar con criterios sensibles a la gobernanza, incorporando vulnerabilidad estructural, inclusión, rendición de cuentas, encaje institucional y capacidad de sostener el impacto en el tiempo. Lo que este informe no pretende afirmar Los hallazgos aquí presentados se basan en una metodología cualitativa a nivel de caso, centrada en el Hackathon OdiseIA4Good y un seguimiento longitudinal de pequeña escala. Este informe no pretende representatividad estadística ni aspira a extraer conclusiones de alcance nacional o regional a partir de un solo programa. Su base empírica es deliberadamente limitada en escala: seis proyectos seguidos a lo largo del tiempo, dos ediciones del hackathon observadas en profundidad y un conjunto curado de documentos basados en la práctica analizados en busca de patrones recurrentes. Las conexiones trazadas con debates europeos más amplios son analíticas, no empíricas: sitúan los hallazgos en un contexto estructural más dilatado, pero no sustituyen la investigación comparativa de mayor escala que sería necesaria para generalizar entre jurisdicciones y sistemas de innovación. El valor de este trabajo reside en hacer visibles patrones que son consistentes con preocupaciones más amplias e ilustrativos de ellas, no en proporcionar respuestas definitivas. Investigaciones futuras, como las que quiere llevar a cabo la Fundación OdiseIA4Good , fortalecerían considerablemente la base de evidencia. Mirando al futuro El informe identifica además una agenda de investigación futura centrada en tres preguntas clave: qué modelos organizativos sostienen mejor las iniciativas AI4Good a lo largo del tiempo, qué condiciones facilitan la transición del prototipo a la adopción por parte del sector público, y cómo adaptar los instrumentos de apoyo a la innovación existentes para las iniciativas AI4Good. Estas preguntas son fundamentales para que el siguiente ciclo de política de innovación vaya más allá de generar más ideas y se concentre en crear las condiciones para que las mejores sobrevivan. Una invitación Este informe no es un punto final, sino un punto de partida para un debate que Europa necesita tener: cómo hacer que la innovación social con IA sea algo más que un escaparate de buenas intenciones. Si trabajas en política de innovación, financiación de impacto, administración pública local o ecosistemas de emprendimiento social, te invitamos a leerlo y a sumarte a la conversación. Para descargar el informe completo, haga clic aquí: [1]   Este trabajo forma parte del proyecto cAIre (Caring for vulnerable groups through AI Governance and fair AI in the workplace), dentro del Digital Futures Project financiado por Google.org .

La frontera entre la conciencia humana y la interfaz digital se está desdibujando a una velocidad sin precedentes. Lo que ayer era ciencia ficción —la capacidad de decodificar pensamientos o modular estados emocionales mediante neurotecnología— es hoy un campo de batalla ético y legal donde España ha decidido tomar la delantera. Bajo el marco de la Estrategia Nacional de Inteligencia Artificial (ENIA) y el CONVENIO C035/23-OT ( es el marco jurídico y operativo para la implementación de la Carta de Derechos Digitales  en España ) , la Línea 6  no es solo una declaración de intenciones; es el motor para la operacionalización del humanismo tecnológico . Ya no basta con declarar que tenemos derechos; el reto actual es construir la infraestructura técnica y administrativa que los haga valer. Aquí es donde entra en juego la Red General de Neuroderechos  y sus Subredes  especializadas. En este post, damos visibilidad a cómo este ecosistema de colaboración —que une a la academia, la industria, el sector privado y el sector público— está transformando los principios de la Carta de Derechos Digitales  en salvaguardas reales. El objetivo es implementar los mecanismos que garantizan dos pilares fundamentales de nuestra dignidad en la era del silicio: La Privacidad Mental:  El blindaje de nuestros neurodatos frente a la extracción no consentida de información íntima. La Integridad Psíquica:  El derecho a que ninguna tecnología altere nuestra identidad o nuestra capacidad de decisión sin un control ético riguroso. Metodología Los detalles de las actividades que OdiseIA está liderando junto con otras organizaciones se darán a conocer a través de webinars, tales como: Exponer la Metodología WP.2.2: Detallar el proceso de identificación, clasificación (G/E/PI-Actors) y validación de los 200 expertos del directorio de neuroderechos. Operacionalizar la Línea 6 : Mostrar cómo la Red General de Neuroderechos  y las Subredes protegen la privacidad mental y la integridad psíquica conforme a la Carta de Derechos Digitales. Fomentar la Sinergia Institucional: Presentar el directorio como la "columna vertebral" de expertos sobre Neuroderechos. Estructura  Bloque Contenido Metodológico I. Apertura Contexto del Convenio C035/23-OT y el reto de los derechos en neurotecnología (Línea 6). II. El Mapa de Actores Fases de prospección: Delimitación conceptual, diseño de tipologías y validación de datos (Fases 1-5). III. Taxonomía Operativa Clasificación funcional: Nodos de Gobernanza (G), Núcleos de Expertos (E) y Partes Interesadas (PI). IV. Subredes y Dinamización Funcionamiento de las 4 subredes: EIA (Gobernanza), Neuro (Privacidad Mental), Ciber (Defensa) e IA4Good (Social). V. Q&A y Cierre Hoja de ruta 2026: Sostenibilidad del directorio e integración con el ODD.