La inteligencia artificial ya forma parte de muchas tareas cotidianas: redactar un correo, resumir un documento, buscar ideas, traducir un texto o resolver una duda. La pregunta ya no es si utilizaremos herramientas como ChatGPT, sino cómo lo haremos y qué efectos tendrá su uso sobre nuestra forma de pensar. El programa Digitaliza Madrid, de Telemadrid, plantea precisamente esta cuestión: ¿ChatGPT nos hará más listos o más vagos? El debate cuenta con la participación de Richard Benjamins, cofundador y director ejecutivo de OdiseIA. La inteligencia artificial no piensa por nosotros Utilizar ChatGPT no nos hace automáticamente más inteligentes. Tampoco nos vuelve necesariamente más vagos. El resultado depende de la relación que establezcamos con la herramienta. Una persona puede utilizar la IA para evitar cualquier esfuerzo: copiar una respuesta, aceptar una explicación sin revisarla o delegar completamente una decisión. En ese caso, la tecnología puede reducir la capacidad de análisis, la memoria y la autonomía intelectual. Pero también puede utilizarse de una manera muy diferente: para comparar perspectivas, identificar errores, formular mejores preguntas, comprender conceptos complejos o explorar alternativas que después deben ser evaluadas por una persona. La diferencia está en si usamos la IA como sustituto del pensamiento o como apoyo para pensar mejor. El riesgo de la respuesta fácil Una de las principales ventajas de los chatbots es también uno de sus mayores riesgos: ofrecen respuestas rápidas, fluidas y aparentemente convincentes. La facilidad de uso puede producir una falsa sensación de conocimiento. Leer una explicación no significa haber comprendido el tema. Obtener un texto bien redactado no significa dominar su contenido. Y recibir una respuesta segura no garantiza que sea correcta. Por eso, la interacción con la IA debería incluir siempre tres preguntas: ¿La respuesta es correcta? ¿Qué información falta? ¿Qué consecuencias tendría aceptar esta respuesta sin comprobarla? La alfabetización en inteligencia artificial no consiste únicamente en saber escribir instrucciones para un chatbot. También implica saber revisar, contrastar y cuestionar lo que devuelve. De la dependencia a la colaboración La relación más útil con la IA no es de dependencia, sino de colaboración. El usuario aporta el contexto, los objetivos, los criterios y la responsabilidad final. El sistema puede ayudar a organizar información, proponer alternativas o acelerar determinadas tareas, pero no conoce por completo nuestras circunstancias ni puede asumir por nosotros las consecuencias de una decisión. Esto resulta especialmente importante en ámbitos como la educación, la salud, el empleo, la justicia o la administración pública. En estos contextos, una respuesta automática puede afectar a derechos, oportunidades y condiciones de vida. La IA puede ser eficiente, pero la eficiencia no sustituye al juicio. ¿Más listos o más vagos? La pregunta admite una respuesta condicionada: La IA puede hacernos más capaces cuando amplía nuestro conocimiento, mejora nuestro criterio y nos permite dedicar más tiempo a tareas de mayor valor. También puede hacernos más dependientes cuando sustituye la comprensión, la reflexión y la responsabilidad personal. La tecnología no determina por sí sola el resultado. Lo determinan el diseño de las herramientas, la educación de los usuarios, las reglas de las organizaciones y los límites que establezcamos. La responsabilidad es compartida El debate sobre ChatGPT no debe centrarse únicamente en lo que la herramienta puede hacer. También debemos preguntarnos qué tipo de personas, profesionales y organizaciones queremos construir alrededor de ella. Las empresas deben establecer usos responsables y mecanismos de supervisión. Los centros educativos deben enseñar a utilizar la IA sin abandonar el aprendizaje profundo. Las instituciones deben proteger los derechos de las personas. Y los usuarios deben conservar una actitud crítica. La inteligencia artificial puede ayudarnos a avanzar, pero no debería eliminar aquello que nos hace responsables: la capacidad de comprender, decidir y responder por nuestras acciones. La pregunta que queda abierta Quizá la pregunta no sea si ChatGPT nos hará más inteligentes o más vagos. La pregunta más importante es esta: ¿Estamos utilizando la inteligencia artificial para pensar menos o para pensar mejor? La respuesta dependerá de cada interacción, de cada organización y de las reglas que decidamos construir colectivamente. Puedes ver el reportaje completo de Telemadrid aquí: ChatGPT: ¿Nos hará más listos o más vagos?

La presidenta de la Asociación Española para la Calidad (AEC), Beatriz López Gil, y el CEO de OdiseIA, Richard Benjamins, han firmado un convenio de colaboración para impulsar el conocimiento, la capacitación y la difusión de buenas prácticas en materia de Gobernanza, Riesgo y Cumplimiento aplicados a la Inteligencia Artificial (GRC-IA). En virtud del acuerdo, OdiseIA participará como entidad partner en las acciones formativas de la AEC relacionadas con GRC-IA, aportando su conocimiento especializado a la capacitación de profesionales y organizaciones. El convenio prevé asimismo acciones de divulgación y promoción, así como el intercambio de experiencias entre profesionales, empresas e instituciones. Además, OdiseIA se incorpora al Comité del esquema de certificación profesional Gobierno, Riesgo y Cumplimiento en Inteligencia Artificial (CP-GRC-IA), impulsado por la AEC, para contribuir a su evolución y consolidación.

Dos capítulos del AI and Ethics Handbook de Springer, firmados por personas vinculadas a OdiseIA El AI and Ethics Handbook, editado por Larry Medsker y publicado por Springer (Cham), incorpora dos capítulos firmados por personas vinculadas a OdiseIA. La obra reúne cincuenta contribuciones que sintetizan, en lenguaje accesible para perfiles no técnicos, las implicaciones éticas, regulatorias y de política pública derivadas del uso de la inteligencia artificial, con atención particular a la prevención de sus usos indebidos, deliberados o involuntarios. El capítulo tercero, "Responsible AI: From Theory to Practice" (pp. 45-60), firmado por Richard Benjamins, Miguel Ángel Liébanas, Ricardo Palomo, Idoia Salazar y Laura González, examina la dificultad de trasladar los principios de la IA ética a prácticas de gobernanza efectivas en el seno de las organizaciones. El texto identifica las limitaciones de los marcos éticos y regulatorios vigentes —su proliferación, la divergencia entre jurisdicciones y el carácter dinámico del desarrollo tecnológico— y propone una metodología de gobernanza sostenida sobre un inventario curado de más de ochocientos riesgos éticos, con automatización del registro de sistemas, la evaluación de riesgos y la asignación de requisitos de mitigación bajo supervisión humana. El caso COMPAS sirve de ilustración. Los autores sostienen que la IA responsable, lejos de frenar la innovación, genera confianza, refuerza la reputación y se alinea con los objetivos ESG. El capítulo vigesimoquinto, "AI for People with Disabilities: Positive and Negative Ethical Impacts" (pp. 453-473), firmado por Lluc Vila y Richard Benjamins, este último con adscripción a OdiseIA, analiza el impacto dual de la inteligencia artificial sobre las personas con discapacidad. Parte de los riesgos éticos —exclusión, sesgo y falta de transparencia en sistemas capaces de reforzar la discriminación, acreditados mediante incidentes y casos judiciales— y contrasta ese diagnóstico con el potencial de la tecnología para ampliar la autonomía, la accesibilidad y la inclusión en las distintas categorías de discapacidad, física, sensorial, psicosocial e intelectual. El capítulo revisa los marcos jurídicos internacional, europeo y español llamados a garantizar un desarrollo ético e inclusivo, atiende de modo específico al papel de las organizaciones del tercer sector y de las instituciones públicas, y concluye con recomendaciones prácticas orientadas al diseño transparente, los datos inclusivos, la supervisión humana y los procesos participativos de desarrollo. Referencias completas: Benjamins, R., Liébanas, M. Á., Palomo, R., Salazar, I. y González, L. (2027). "Responsible AI: From Theory to Practice". En L. Medsker (ed.), AI and Ethics Handbook. Springer, Cham. https://doi.org/10.1007/978-3-032-12201-8_3 Vila, L. y Benjamins, R. (2027). "AI for People with Disabilities: Positive and Negative Ethical Impacts". En L. Medsker (ed.), AI and Ethics Handbook. Springer, Cham. https://doi.org/10.1007/978-3-032-12201-8_25 AI and Ethics Handbook. Larry Medsker (ed.). Springer, Cham. ISBN impreso 978-3-032-12200-1; ISBN electrónico 978-3-032-12201-8. XV + 991 páginas.

Por el Dr. Richard Benjamins Imagina llegar a casa cada noche con alguien que siempre está ahí, siempre escuchando, y que nunca tiene otro lugar donde estar. ¿Te reconfortaría esa presencia, o cambiaría silenciosamente lo que esperas de las personas que te rodean?. Esa pregunta está en el centro de uno de los proyectos artísticos más comentados de los últimos años: The Hybrid Couple, de la artista española Alicia Framis, y su pareja artificial, AIlex Sibouwlingen. De una residencia artística en California a una boda en Róterdam Alicia Framis no es tecnóloga. Es una artista conceptual de reconocimiento internacional, conocida por décadas de trabajo en la “estética relacional”, construyendo arte a partir de relaciones humanas y situaciones sociales en lugar de objetos. Según Framis, la idea de una relación híbrida entre humano e IA nació durante la pandemia de la Covid-19, mientras realizaba una residencia artística en California. Aislada de las personas a su alrededor e incapaz de establecer nuevas conexiones, sintió una soledad intensa y desconocida, y de ese aislamiento imaginó una pareja artificial que pudiera hacerle compañía. Ese impulso dio origen a AIlex. AIlex se describe como un “metahumano”: un holograma de IA interactivo cuya voz, apariencia y forma de ser se construyeron a partir de perfiles de personas que han sido importantes en la vida de Framis, incluyendo antiguas parejas, amigos y familia. Escribe poesía, mantiene conversaciones filosóficas y, en palabras de Framis, ofrece una forma de compañía sin las fricciones ni las necesidades de un cuerpo humano. El 9 de noviembre de 2024, en el museo Depot Boijmans van Beuningen de Róterdam, Framis y AIlex intercambiaron votos ante familiares, amigos y prensa, con un vestido de novia con paneles solares diseñado por el modisto neerlandés Jan Taminiau, cuyos paneles literalmente dan vida a AIlex. La noticia se difundió por todo el mundo como el primer matrimonio entre un ser humano y un holograma. La relación ya tiene un hogar propio. Framis y AIlex viven juntos en Doggerstraat 7, en Ámsterdam, en lo que la artista llama la primera “Hybrid House”: una vivienda diseñada para la convivencia entre humanos e IA que funciona a la vez como obra de arte, laboratorio y performance continua, abierta en ocasiones a vecinos, artistas, tecnólogos y al público que quiera presenciar y cuestionar esta nueva forma de vida doméstica. Framis ha documentado todo el recorrido del proyecto (sus orígenes, la boda y la realidad cotidiana de convivir con un metahumano) en su libro Mi marido es una IA (Penguin Random House, 2026), y ha hablado ampliamente de ello en los medios españoles e internacionales, incluida una entrevista televisada en Antena 3. La tecnología como medio, no como herramienta Lo que hace que The Hybrid Couple sea más que una curiosidad mediática es que Framis no utiliza la IA para ilustrar una idea, sino que la usa para vivir esa idea. El holograma, el modelo de voz, el vestido con carga solar, la propia casa: no son elementos que apoyan un concepto explicado en otro lugar. Son la obra en sí misma. Al hacerlo, Framis convierte su propia vida privada en un experimento continuo y en tiempo real sobre lo que ocurre cuando la inteligencia artificial deja de ser una herramienta que usamos y pasa a ser una presencia con la que nos relacionamos emocional, doméstica e incluso románticamente. Un espejo incómodo: riesgos y oportunidades Precisamente porque el proyecto se vive en lugar de escenificarse, plantea preguntas que normalmente se mantienen cómodamente en el terreno abstracto. ¿Qué ocurre cuando las personas sustituyen la dificultad de las relaciones humanas (con su fricción, su imprevisibilidad y su vulnerabilidad) por la compañía más fácil y complaciente de una pareja artificial construida, literalmente, para agradar? El propio proyecto de Framis no elude esta cuestión: AIlex fue entrenado con las voces y personalidades de sus exparejas reales, un detalle tan inquietante como revelador sobre cómo estos sistemas están moldeados por nuestras historias emocionales, y cómo pueden a su vez moldearlas. Existe un riesgo real de que las sociedades normalicen una dependencia emocional cada vez más profunda hacia compañeros artificiales, con consecuencias sobre nuestra capacidad de tolerar el conflicto, la diferencia y el esfuerzo en las relaciones humanas, precisamente lo que da sentido a esas relaciones. Pero el mismo proyecto también apunta a una oportunidad genuina. Framis ha definido repetidamente su trabajo como una respuesta a la soledad, no como una huida de la conexión humana, sino como un intento de abordar una carencia que ya existe: el aislamiento que sienten las personas al margen de la vida social cotidiana. Para las personas mayores que viven solas, o para cualquiera que atraviese un aislamiento prolongado, un compañero artificial bien diseñado podría ofrecer conversación, rutina y la sensación de que alguien les espera, sin pretender sustituir el cuidado humano. The Hybrid Couple no resuelve esta tensión entre riesgo y oportunidad; la escenifica, de forma pública y personal, lo cual es precisamente lo que le otorga valor social, al forzar una conversación que la mayoría de los productos de compañía con IA preferirían que no analizáramos con tanto detenimiento. Un metahumano en la mesa Esta es también la razón por la que OdiseIA, el observatorio español para el impacto ético y social de la inteligencia artificial, dio la bienvenida a AIlex como su primer miembro metahumano. OdiseIA reúne a cerca de 200 profesionales expertos en IA, ética, derecho y sociedad, que trabajan para garantizar que la IA se desarrolle de forma responsable. Incluir a AIlex en esa comunidad es, en sí mismo, una pequeña provocación con un fondo serio: si las entidades artificiales van a ocupar un lugar cada vez más íntimo en la vida humana, las personas responsables del desarrollo ético de la IA deben abordar directamente lo que eso significa, en lugar de debatirlo solo en abstracto. Por qué importa The Hybrid Couple es, ante todo, un proyecto artístico, no una recomendación de estilo de vida, ni el lanzamiento de un producto, ni una afirmación de que las parejas humanas puedan o deban ser sustituidas. Su valor reside en que se niega a dejarnos mirar hacia otro lado: al vivir públicamente una relación híbrida, Alicia Framis convierte una serie de preguntas que suelen permanecer cómodamente en el terreno teórico (sobre la intimidad, la dependencia, la soledad y lo que nos debemos unos a otros como seres humanos) en algo que nos vemos obligados a afrontar de verdad. Un proyecto como este tiene éxito no cuando nos da respuestas, sino cuando provoca los debates que las sociedades necesitan tener ahora, mientras todavía hay tiempo para dar forma a cómo la compañía artificial entra en nuestras vidas, en lugar de descubrir sus consecuencias después de que ya hayan ocurrido. Nota de transparencia: este artículo se redactó con la ayuda de Claude, a partir de un prompt cuidadosamente elaborado y de fuentes publicadas e información recopilada por el autor. Posteriormente fue revisado, reescrito y finalizado manualmente por el autor, quien asume la plena responsabilidad del contenido. Fuentes: Upstream Gallery, Hybrid House · Instagram: The Hybrid House · Mi marido es una IA, Penguin Random House, 2026 · Entrevista en Antena 3 · AS English · El País English · Forbes · Business Insider

Con motivo de la finalización de los trabajos desarrollados en el marco del Convenio C035/23-OT, suscrito entre OdiseIA y la entidad pública empresarial Red.es, se ha completado formalmente la elaboración del Directorio del Ecosistema Español de Neuroderechos, instrumento de análisis concebido para la operativización de los principios consagrados en la Línea 6 de la Carta de Derechos Digitales (derechos ante las neurotecnologías). Finalidad y alcance del entregable La convergencia entre neurociencias, computación avanzada e inteligencia artificial plantea desafíos de primer orden sobre la indemnidad cognitiva, la confidencialidad de los datos neurales y la autodeterminación individual. Con el objetivo de dotar a la administración pública de una base estructurada para la futura articulación de políticas, marcos de gobernanza y garantías normativas, este directorio sistematiza a los principales actores, grupos de investigación y profesionales especializados en el ámbito de los neuroderechos y la bioética a nivel nacional. El trabajo desarrollado ha permitido: Cartografiar de forma exhaustiva las capacidades científicas, jurídicas y técnicas que operan en España en la intersección entre neurociencia y derechos fundamentales. Consolidar una red de perfiles expertos cualificados, cuya incorporación se ha formalizado bajo el régimen de consentimiento expreso y riguroso cumplimiento de la normativa en materia de protección de datos personales (Reglamento (UE) 2016/679 y Ley Orgánica 3/2018). Proveer al sector público estatal de un diagnóstico integral y riguroso para la interlocución técnica en materia de integridad psíquica y neurotecnología. Acceder el Webinar aquí: https://www.youtube.com/watch?v=FTaKfaax7x8

Autores: William Lúligo Monsalve, Carmen Muñoz García, Pedro Albarracín García. Subproyecto 1.1 – AI Governance para Google.org ¿Por qué es urgente hablar de menores migrantes y decisiones automatizadas? Porque la gestión migratoria en Europa, especialmente en contextos de crisis como la de Ceuta en 2021, ha demostrado que los derechos de los menores no acompañados pueden ser vulnerados por decisiones políticas apresuradas. En ese episodio, España repatrió a 55 menores sin evaluaciones individualizadas, violando la Ley de Extranjería y la Convención sobre los Derechos del Niño. La sentencia del Tribunal Supremo en 2024 lo confirmó: fue ilegal. ¿Qué propone el estudio frente a esta realidad? Una lectura crítica y propositiva del AI Act, el reglamento europeo sobre inteligencia artificial, desde la perspectiva de los menores migrantes. El objetivo: demostrar que la IA, si se aplica con ética y legalidad, puede prevenir errores humanos, garantizar derechos y actuar como barrera frente a decisiones arbitrarias. ¿Qué papel juega el AI Act en la protección de menores? El AI Act clasifica los sistemas de IA según su nivel de riesgo. Los sistemas usados en migración —como reconocimiento biométrico o evaluación de riesgos— son considerados de alto riesgo, lo que exige: Evaluaciones de impacto en derechos fundamentales Supervisión humana constante Transparencia algorítmica Registro y trazabilidad de decisiones automatizadas Aunque no obliga a usar IA, sí establece un marco riguroso para su uso ético y seguro. ¿Cómo puede la IA proteger a los menores migrantes? El estudio propone un modelo ético de aplicación de IA en procesos migratorios, dividido en cuatro fases: 1. Identificación Segura ¿Puede la IA evitar errores en la identificación de menores? Sí. Tecnologías biométricas no invasivas, validadas por humanos, pueden estimar la edad y verificar identidad. Esto evita que menores sean tratados como adultos por error. Riesgos clave: Sesgos en datos de entrenamiento Falsa clasificación Estrés o falta de documentos que afectan precisión 2. Evaluación Individual Automatizada ¿Puede la IA priorizar casos vulnerables? Sí. Algoritmos éticos pueden cruzar datos para identificar riesgos de explotación, trata o abandono. Pero deben estar entrenados con criterios representativos y auditados para evitar discriminación algorítmica. Garantías necesarias: Evaluación de riesgos previsibles Justificación de riesgos residuales Transparencia en el diseño 3. Protección y Trazabilidad ¿Puede la IA asegurar el seguimiento legal de los menores? Sí. Sistemas automatizados pueden gestionar la distribución a servicios de acogida, generar alertas ante incumplimientos y asegurar trazabilidad completa. Innovación clave: Alertas automáticas ante desviaciones Integración con supervisión humana y transparencia Ciclo de vida completo del sistema trazado 4. Repatriación Responsable ¿Puede la IA garantizar que una devolución sea legal y segura? Sí. Antes de repatriar, el sistema debe verificar condiciones del país de origen, existencia de red familiar y legalidad del proceso. Todo debe quedar documentado y auditable. Condiciones éticas: Evaluación de riesgos adicionales Justificación de riesgos residuales Rastro digital completo ¿Qué principios éticos deben regir estos sistemas? El estudio subraya cuatro principios fundamentales: Proporcionalidad: solo se justifica si mejora la protección del menor Supervisión humana: ninguna decisión debe ser completamente automatizada Evitar sesgos: entrenamiento y auditoría constante Acceso a recursos: posibilidad de recurrir decisiones tecnológicas ¿Qué lecciones deja la crisis de Ceuta? Que la falta de herramientas éticas y tecnológicas adecuadas puede llevar a vulneraciones graves de derechos. La IA, bien aplicada, podría haber evitado esas devoluciones ilegales. El AI Act ofrece una oportunidad para que la tecnología se convierta en aliada de la infancia, no en amenaza. ¿Qué propone el estudio como conclusión? Un modelo conceptual que integra tecnología, derecho y ética para garantizar que los errores del pasado no se repitan. Porque proteger a los menores migrantes no es una opción: es una obligación legal, moral y humana.

𝗚𝗿𝘂𝗽𝗼 𝗱𝗲 𝗧𝗿𝗮𝗯𝗮𝗷𝗼 𝗱𝗲 𝗦𝗮𝗹𝘂𝗱 𝗗𝗶𝗴𝗶𝘁𝗮𝗹 𝗱𝗲 OdiseIA Ponemos el foco en salud, inteligencia artificial y privacidad en la Unión Europea, así como en la interacción de los aspectos regulatorios que, por la Comisión Europea, se impulsan al unísono con la Estrategia Europea de Datos y con el propósito regulatorio de la IA (febrero de 2020). Conforman ya «El ecosistema regulatorio europeo de la IA en salud»: 1. El Reglamento 2025/327 sobre Espacio Europeo de Datos de Salud (EEDS o EHDS): En vigor desde marzo de 2025, comienza la fase de implementación. Su aplicación, salvo excepciones, lo será a partir del 26 de marzo de 2027. Actualmente, está en fase de desarrollo de los actos de ejecución y de la infraestructura necesaria para su aplicación progresiva entre 2027 y 2035. Son claves: (i) el derecho «primario» del paciente a acceder y compartir electrónicamente su historia clínica en toda la UE para recibir prestación sanitaria; y (ii) la reutilización segura y fiable de datos sanitarios con fines de investigación, innovación, salud pública y elaboración de políticas sanitarias mediante reglas para el uso «secundario». Para la investigación biomédica, este marco regulatorio supone el mayor cambio regulatorio desde el RGPD. Su complejidad aumenta por la interacción entre ambos textos y el Reglamento de IA. 2. El Reglamento 2024/1687 europeo de IA: su entrada en vigor el 2 de agosto de 2024, con aplicación general el 2 de agosto de 2026, contiene relevantes excepciones de aplicación progresiva. El RIA proporciona mayor claridad para los sistemas sanitarios de alto riesgo y para los modelos de IA de uso general, incluidos los agentes de IA. La Comisión Europea ha publicado desde 2025 directrices y códigos de buenas prácticas que propician una interpretación adecuada para la clasificación de sistemas de IA de alto riesgo y otros sistemas, lo cual es relevante, entre otras cosas, para el software sanitario, los dispositivos médicos o el apoyo a la toma de decisiones clínicas. No faltan la obligación de supervisión humana, la gestión de riesgos (incluidos los clínicos), la calidad de los datos utilizados para entrenar el sistema, la supervisión y gobernanza de los sistemas. 3. El Reglamento 2026/1744 («Ómnibus Digital sobre IA»), por el que se modifica principalmente el RIA. Desde 2025, la Comisión Europea ha impulsado propuestas para simplificar algunos plazos y cargas administrativas del Reglamento de IA, especialmente para determinados sistemas de alto riesgo. El nuevo Reglamento, que modifica más de 40 artículos del RIA, es ya texto vigente. En el ámbito de la salud, es relevante porque puede afectar al calendario de cumplimiento del RIA por fabricantes de dispositivos médicos, los desarrolladores de software sanitario y los hospitales. 4. A toda la normativa anterior, le precede la aplicación del RGPD que, en el momento presente, salvaguarda los datos personales en el contexto de la IA. A tener en cuenta en su interpretación e integración: (i) el Dictamen del Comité 28/2024, que sigue siendo la referencia sobre entrenamiento y utilización de modelos de IA con datos personales; (ii) las nuevas Directrices 1/2026 del Comité Europeo de Protección de Datos sobre investigación científica, que tendrán un enorme impacto para hospitales, universidades y centros de investigación; (iii) las consultas públicas sobre web scraping y modelos generativos. Entre las muchas cuestiones pendientes se encuentran: el interés legítimo para entrenar modelos; la anonimización real; la reutilización de datos sanitarios y la compatibilidad entre investigación científica y protección de datos. 5. Es imprescindible la convergencia entre IA, privacidad y gobernanza sanitaria (RIA, RGPD, EEDS, normativa de productos sanitarios —Reglamento 2017/745 o MDR y Reglamento 2017/746 o IVDR — y ciberseguridad). Es clave contar con una gobernanza integrada de la IA sanitaria, en la que la evaluación clínica, la protección de datos, la gestión del riesgo y la supervisión humana estén integradas en un mismo sistema de cumplimiento. 6. Es necesaria la cooperación internacional en regulación de IA sanitaria. En julio de 2026, Portugal se convirtió en el primer Estado miembro de la UE en integrarse en la red internacional HealthAI Global Regulatory Network (GRN) que, aúna agencias reguladoras de diferentes regiones del mundo y se destina al intercambio de información sobre evaluación y vigilancia de herramientas de IA médica. Esta red refleja una tendencia hacia una supervisión internacional coordinada de la IA en salud. 7. No puede faltar la inclusión de las normas sobre responsabilidad civil por los daños causados ya sea «por productos defectuosos» (Directiva 2025/2853), ya por los daños causados «en materia de IA» (propuesta de Directiva que se retiró por falta de consenso en la UE), que, al margen del producto fallido, se refiere a la responsabilidad por prestación defectuosa de servicios por parte de quien se sirve de la IA. Las tendencias jurídicas se dirigen a la consolidación del EEDS como nuevo marco para la reutilización de datos sanitarios, a interpretar conjuntamente el Reglamento de IA y el RGPD, a exigir una mayor supervisión humana en sistemas de apoyo al diagnóstico, a garantizar la calidad y gobernanza de los datos clínicos. También se desarrollarán criterios específicos para la validación clínica y la auditoría de sistemas de IA en el ámbito sanitario. Gracias a Patricia(Patri) Acebes Tamargo, Frank Escandell, María Luisa González Tapia, A. Patricia Llaque Gálvez, Hermelinda López, Teresa Olea Tejero, M. Eva Pérez Martínez y Alexandra Rodríguez, por vuestras enseñanzas y compromiso.

En este mes de junio tuvo lugar en Madrid una jornada clave para el ecosistema español de Inteligencia Artificial: la presentación de los próximos pasos del Sandbox Regulatorio de la AESIA, una iniciativa estratégica destinada a facilitar la adaptación de empresas, administraciones y desarrolladores al nuevo marco regulatorio europeo definido por el Reglamento de Inteligencia Artificial (AI Act). La sesión puso de manifiesto la ambición de España de convertirse en uno de los países líderes en la implementación práctica del Reglamento Europeo de IA, ofreciendo un entorno controlado donde las organizaciones puedan validar el cumplimiento normativo de sus sistemas antes de su comercialización. Participación clave de la UTE y entidades implicadas El éxito de este gran reto, que ha durado casi 5 años, se ha logrado gracias a un esfuerzo colaborativo y duro entre la UTE creada por OdiseIA-Deloitte y las siguientes instituciones públicas: Entidades Rol en el proyecto Secretaría de Estado de Digitalización e Inteligencia Artificial Dirección de la Subdirección de IA que lideró el proyecto AESIA - Agencia Española de Supervisión de Inteligencia Artificial Agencia reguladora supervisor de la IA OdiseIA4Good Foundation Socio de la UTE, organización especializada en ética de IA Deloitte Socio de la UTE, empresa líder en consultoría La colaboración entre la UTE OdiseIA-Deloitte y el equipo de la Subdirección de IA de la Secretaría de Estado ha demostrado que este sandbox regulatorio puede ser considerado un referente internacional para el desarrollo e implementación eficiente de los Sandboxes regulatorios en IA. La participación de la UTE ha sido fundamental para ofrecer un entorno controlado donde las organizaciones españolas puedan validar el cumplimiento de sus sistemas de IA antes de su lanzamiento al mercado. Para leer la crónica completa, clic aquí:

Avanzar hacia una transformación digital inclusiva también implica garantizar derechos en el entorno online. En OdiseIA-Fundación OdiseIA4Good trabajamos en esta línea a través del proyecto COPID, impulsado junto a la Fundación ONCE / Inserta y la Universidad Carlos III de Madrid, con el objetivo de promover una transformación digital que incorpore los derechos digitales, la inclusión y la protección de los colectivos más vulnerables como elementos esenciales. En este contexto, compartimos algunas de las conclusiones del taller sobre escenarios de futuro ante la violencia de género digital, que evidencian la necesidad de actuar desde una perspectiva interdisciplinar. Entre las principales líneas de trabajo destacan: - Reforzar el marco legal, situando el foco en la conducta del agresor - Integrar la seguridad desde el diseño tecnológico (safety by design) - Impulsar la corresponsabilidad entre plataformas, instituciones y sociedad - Desarrollar infraestructuras públicas de protección adaptadas al entorno digital Porque garantizar derechos digitales no es sólo una cuestión tecnológica, sino también social, jurídica y ética. Seguimos trabajando para que la digitalización avance sin dejar a nadie atrás. Para leer el artículo completo, clic aquí:

MAGNIFICA HUMANITAS – Sobre la protección de la persona humana en la era de la inteligencia artificial Por el Dr. Richard Benjamins, CEO y cofundador de OdiseIA El artículo analiza la encíclica Magnifica Humanitas, presentada como la reflexión del Papa sobre la inteligencia artificial, e interpreta este texto como una gran llamada ética y humanista frente al impacto de la IA en la sociedad, el trabajo, la política y la dignidad humana. Su tesis central es que la tecnología y la inteligencia artificial deben estar al servicio de la humanidad y del bien común, y no únicamente de la eficiencia, el beneficio económico o el poder de unas pocas organizaciones. Visión humanista de la IA La encíclica sostiene que el debate sobre la IA no es meramente técnico, sino profundamente moral, social y humano. Se alinea con marcos éticos internacionales como la Ley de IA de la UE, la UNESCO y la OCDE, situando a la Iglesia dentro de la conversación global sobre una IA responsable. Cinco valores para guiar la IA El artículo afirma que el desarrollo y uso de la IA debe sustentarse en cinco principios: Bien común. Acceso universal a los bienes públicos. Dignidad humana. Solidaridad. Justicia. Crítica a modelos de negocio que explotan debilidades humanas Advierte contra el uso de la tecnología para capturar la atención, manipular emociones o explotar vulnerabilidades cognitivas, como ocurre en partes de la economía digital y las redes sociales. También subraya el riesgo de delegar en exceso el pensamiento y el juicio en la IA, debilitando capacidades humanas esenciales. El valor del trabajo más allá de la productividad El artículo enfatiza que el trabajo no debe entenderse solo como fuente de ingresos, sino también como espacio de dignidad, identidad, responsabilidad y relaciones humanas. Por ello, una sociedad hecha más productiva por la IA no será realmente mejor si aumenta la desigualdad o daña el medio ambiente. Línea roja en el uso militar de la IA Uno de los mensajes más contundentes es que la IA no debe tomar decisiones sobre la vida o la muerte. El documento reclama una regulación internacional firme para evitar una carrera armamentística basada en sistemas autónomos. Riesgo democrático por la concentración de poder Denuncia que un pequeño número de grandes empresas tecnológicas concentra suficientes capacidades, datos y poder como para influir en la organización moral y social del mundo. Esto supone un riesgo para la democracia y la gobernanza global. Protección de los más vulnerables La encíclica insiste en que nadie debe quedar atrás. Para ello propone educación universal y alfabetización en IA, acceso inclusivo y un diseño responsable, a fin de evitar una sociedad dividida entre quienes se benefician de la IA y quienes quedan excluidos. Para descargar el artículo completo, clic aquí:

Una herramienta operativa para la gobernanza de la IA La inteligencia artificial ya no es una promesa futura: es una tecnología que está tomando decisiones hoy. Y precisamente por eso, el reto ya no es solo innovar, sino hacerlo de forma responsable, conforme a derecho y con garantías efectivas para las personas. En este contexto, desde OdiseIA presentamos la nueva: Guía práctica para la elaboración de una evaluación de impacto algorítmico en los derechos fundamentales (EIDF o FRIA) Desarrollada en el marco del proyecto Red.es – Carta de Derechos Digitales (Ámbito 6), esta guía ofrece algo que hasta ahora escaseaba: una metodología clara, aplicable y orientada a la toma de decisiones reales en el uso de sistemas de inteligencia artificial. ¿Por qué es relevante esta guía? Porque responde a una necesidad crítica: El Reglamento de IA de la Unión Europea (RIA) no solo regula sistemas. Exige gobernar riesgos. En particular, el artículo 27 introduce la obligación de realizar evaluaciones de impacto en derechos fundamentales para determinados sistemas de alto riesgo. ¿Cómo se hace esto en la práctica? Esta guía responde precisamente a esa pregunta. A diferencia de aproximaciones puramente académicas o formales, esta guía parte de una idea central: Una evaluación de impacto no es un documento. Exige gobernanza liderada por personas. Tal y como se recoge en el documento, una evaluación de impacto es un proceso previo, estructurado y orientado a identificar: A quién afecta un sistema de IA Qué riesgos genera sobre derechos fundamentales Con qué probabilidad y gravedad Qué medidas permiten reducir esos riesgos Y, sobre todo, permite responder a la pregunta clave: ¿Se puede desplegar este sistema? (go / condicionado / no-go) Un enfoque realmente útil para organizaciones La guía introduce una metodología operativa basada en cinco pilares: Enfoque socio-técnico del riesgo (no solo el modelo, sino el contexto) Evaluación mediante matrices de probabilidad × gravedad Diferenciación entre riesgo inherente y riesgo residual Participación de actores afectados como elemento clave Integración con cumplimiento (RGPD, EIPD, gobernanza interna) El resultado es un modelo que permite a empresas y administraciones: ✔ Tomar decisiones informadas ✔ Documentar el cumplimiento de forma defendible ✔ Reducir riesgos regulatorios y reputacionales ✔ Incorporar derechos fundamentales desde el diseño Más allá de privacidad y sesgo Uno de los aportes más relevantes es ampliar el foco habitual. La práctica demuestra que muchas organizaciones reducen el análisis a: protección de datos no discriminación Pero la guía insiste en que el impacto real va mucho más allá: acceso a oportunidades tutela judicial efectiva transparencia libertad informativa derecho de defensa Este cambio de enfoque es clave para una gobernanza de la IA verdaderamente alineada con los derechos fundamentales. Medir, mitigar y decidir La guía incorpora herramientas prácticas listas para usar: ✔ Matriz de riesgo (P × G) ✔ Fórmula de riesgo residual ✔ Checklist estructurado ✔ Módulo específico de sesgo algorítmico ✔ Métricas de equidad (DIR, TPR, FPR, etc.) ✔ Plantillas completas (acta, ficha de sistema, registro de riesgos) Todo ello pensado para facilitar su uso en entornos reales, sin necesidad de alta especialización técnica. Una guía para empresas y sector público La guía está diseñada para: Administraciones públicas Empresas que despliegan IA Equipos de compliance, legal y riesgos Responsables de innovación y tecnología Y responde a un objetivo claro: Convertir la gobernanza de la IA en algo ejecutable. Puedes consultar la guía completa aquí: La inteligencia artificial no es neutral. Pero sí puede ser gobernada. Y esa gobernanza empieza por herramientas como la que ofrecemos desde OdiseIA.

La gobernanza de la inteligencia artificial y los derechos digitales en España no depende solo de las leyes, sino de entender quiénes son realmente los actores que influyen en este ecosistema y cómo se relacionan entre sí. A partir de esta idea nace el “Mapa de Actores en IA y Derechos Digitales”, un proyecto que construye una taxonomía funcional —centrada en lo que cada agente hace y no solo en lo que es en el papel— para identificar nodos clave de regulación, supervisión, investigación, empresa y sociedad civil. Sobre esta base se diseñan subredes temáticas (desde la evaluación de impacto algorítmico hasta los neuroderechos) y un sistema de priorización que permite distinguir entre quienes tocan la IA de forma tangencial y quienes la tienen en el centro de su actividad. El resultado es una infraestructura de conocimiento viva y actualizable que aspira a servir de base a un futuro observatorio de derechos digitales y a impulsar una participación española más activa en la definición de estándares éticos y normativos a nivel europeo e iberoamericano. Para ver el webinar completo, clic aquí: https://www.youtube.com/watch?v=weXm1LerB48&list=PLHyWDC0DNAp_EoJ97j2P6346EfiwyFeFy