Search Results

Más de un centenar de educadores procedentes de diversas organizaciones sociales se han congregado para la presentación del nuevo informe de OdiseIA, que examina la gobernanza de la Inteligencia Artificial (IA) y su impacto en los colectivos vulnerables. El estudio, patrocinado por Google.org , la rama filantrópica de Google fue presentado en la sede de la Fundación Pere Closa en Badalona, un espacio dedicado a la educación y formación de niños y jóvenes de la comunidad gitana. Los autores del informe, Sergi Rodríguez y Vanesa Berlanga, ofrecieron una exposición detallada sobre cómo operan los sistemas de IA y destacaron la centralidad de los algoritmos en estos sistemas. Subrayaron la importancia de adoptar un enfoque ético y transparente en el diseño de estos sistemas para transformarlos en herramientas efectivas de inclusión social, capaces de eliminar sesgos de cualquier índole. El evento contó con la asistencia de representantes de numerosas entidades sociales y educativas, generando un foro repleto de interés y debate activo sobre las implicaciones éticas y prácticas de la IA en la sociedad. Esta alta participación demuestra el creciente interés y la importancia de abordar la gobernanza de la tecnología en contextos vulnerables. El informe presentado aborda los sesgos en sectores clave como los servicios públicos, la justicia y el empleo, proporcionando recomendaciones para mejorar la equidad y transparencia en el uso de la IA. Esta investigación y su divulgación son parte fundamental de nuestro proyecto con OdiseIA, destinado a mitigar los efectos adversos de los sesgos algorítmicos y promover una sociedad más inclusiva. Con este evento, hemos dado un paso significativo hacia la consecución de nuestros objetivos generales, destacando nuestro compromiso continuo con la gobernanza responsable de la IA y la creación de un entorno más justo e inclusivo.

Autor: Lluc Vila i Pàmies Introducción Hemos hecho un estudio que ha dado como resultado el presente informe y que ha tenido como objetivo ofrecer una guía práctica para implementar herramientas de Inteligencia Artificial (IA) en organizaciones y administraciones públicas, facilitando una mayor accesibilidad para personas con discapacidad. La IA abre nuevas oportunidades para mejorar la vida de quienes enfrentan barreras funcionales. En entornos laborales y organizativos, estas tecnologías pueden fomentar la autonomía, ampliar el acceso a la información, mejorar las competencias y generar nuevas oportunidades de empleo. Esto cobra especial relevancia si consideramos que, en 2021, la inactividad laboral afectaba al 37,6 % de las personas con discapacidad, frente al 17,6 % del resto de la población. Atender a las diferencias en las discapacidades Es importante entender que la discapacidad no es un fenómeno homogéneo: cada tipo implica desafíos distintos y requiere soluciones tecnológicas específicas. Cada discapacidad y cada persona requiere unas necesidades diferentes por lo que los sistemas IA que pueden necesitar son distintos. Por ello, dependiendo del tipo de discapacidad la tecnología que puede permitir una mejora del bienestar de estas personas puede variar. Por ejemplo: Las personas con discapacidad sensorial pueden beneficiarse de lectores de pantalla o asistentes de voz. Las personas con alguna discapacidad física pueden acceder a dispositivos controlados por voz o interfaces adaptativas que les pueden permitir una mayor a manipulación de tecnologías. Las personas con discapacidad cognitiva pueden usar herramientas con interfaces simplificadas que facilitan la lectura de documentos complejos. Finalmente, las personas con discapacidad mental pueden encontrar apoyo en chatbots  de acompañamiento emocional o sistemas de detección temprana de trastornos. Entorno laboral Todas estas herramientas que se han mencionado permiten aumentar el acceso y la eficiencia en el ámbito laboral. La IA puede promover una selección de personal más justa y equitativa, libre de prejuicios al reducir los sesgos existentes en nuestra sociedad. A su vez, puede permitir detectar patrones de exclusión, impulsar la diversidad y facilitar procesos de recualificación profesional, incrementando así las oportunidades de inserción laboral. Todas estas cuestiones se abordan en detalle a lo largo del documento, mientras se van proporcionando ejemplos de tecnologías existentes que las empresas pueden implementar para avanzar hacia estos entornos laborales más accesibles e inclusivos. Administraciones públicas Además, Las administraciones públicas juegan un papel esencial en garantizar la equidad e igualdad de accesos. Las herramientas IA pueden permitir hacer más accesible toda la documentación que se genera, diseñar políticas públicas más inclusivas o realizar planes e intervenciones con impactos muy positivos en los espacios públicos y su bienestar. No obstante, para que el impacto sea realmente positivo, es imprescindible considerar los riesgos que estas tecnologías pueden implicar. Prevención de los posibles riesgos Para finalizar, este documento no solo presenta los beneficios de la IA aplicada a la discapacidad, sino que también recoge casos en los que su uso ha generado discriminación o exclusión. Ello junto a las regulaciones y normativas a los distintos niveles (internacional, europeo y nacional) nos dan una guía para prevenir y mitigar los impactos negativos que se puedan generar. A partir de los casos y las regulaciones, se formula un listado de recomendaciones éticas y jurídicas, con el objetivo de maximizar las oportunidades al tiempo que se minimizan los riesgos.

Nuestra socia Patricia Llaque fue invitada al  I Insight Club DPD | Foro GRC 2025 para abordar el recientemente aprobado Reglamento del Espacio Europeo de Datos Sanitarios, sus novedades e impacto y las principales claves para garantizar el cumplimiento en protección de datos y ciberseguridad. El punto de partida de la apuesta europea por el  desarrollo de espacios comunes europeos de datos y su interconexión gradual serán sólo uno de los pilares del mercado único de datos. La  Comisión de la UE publicó en 2020 la «Estrategia Europea de Datos» para fomentar la creación de dicho mercado único de datos que garantice la competitividad global de Europa y la soberanía de los datos. En la mesa redonda " Nuevo Reglamento Espacio Europeo de Datos Sanitarios: gobernanza, riesgos, ética y cumplimiento en la puesta en marcha de los espacios de datos ", Patricia Llaque tuvo la ocasión de tratar temáticas como: - Beneficios de esta iniciativa como mercado único de datos en el desarrollo de la salud digital y la investigación en España - Oportunidades para los pacientes, administraciones, investigadores, industria - Intersectorialidad en los e spacios de datos (sociales, medioambientales, económicos....) para el tratamiento de la salud de forma integral - Riesgos y oportunidades en la Estrategia Europea del Dato global - IA en y para espacios de datos: impulso para el desarrollo de sistemas y modelos de IA - Derecho de autonomía: opt-in, opt-out en la utilización secundaria de datos - Anonimización y Seudonimización - Representatividad y sesgos - Alfabetización para todos los stakeholders de la cadena - Modelos de gobernanza y calidad del dato - Desafíos tecnológicos para la plena operatividad de los espacios de datos

Autores: Fabián García Pastor; Ramon Baradat Marí; Juan José Escribano Otero La presente publicación presenta el informe « IA en la protección de los colectivos vulnerables », cuyo objetivo es ofrecer una visión general de los principales hallazgos, análisis y recomendaciones surgidos a partir de la consulta realizada a organizaciones especializadas en protección social mediante cuestionarios. Este informe, al que se puede acceder a través del siguiente enlace, sintetiza la información recolectada y sirve de guía para comprender cómo la inteligencia artificial (IA) puede ayudar a mejorar la calidad de vida de los colectivos en situación de vulnerabilidad y promover su inclusión. Introducción y contexto El informe se inscribe en el contexto de una revolución tecnológica en la que la IA emerge como una herramienta esencial para transformar la sociedad. La propuesta se fundamenta en la necesidad de construir entornos más inclusivos y justos, especialmente para aquellos grupos que históricamente han enfrentado barreras y desigualdades. Con el propósito de obtener información relevante y realista, se enviaron cuestionarios a diversas organizaciones que trabajan en el ámbito de la protección de colectivos vulnerables. Las respuestas permitieron identificar patrones de adopción, áreas de beneficio, barreras y oportunidades relacionadas con la integración de la IA en estos contextos. Este proceso de consulta reafirma el compromiso de los implicados para explorar soluciones innovadoras que respondan a necesidades concretas y urgentes. Análisis general: adopción y potencial de la IA El primer bloque del informe se centra en el análisis general de la adopción de la IA en las organizaciones que atienden a colectivos vulnerables. Los cuestionarios revelaron que, a pesar del interés en explorar las aplicaciones de la IA, la mayoría de las entidades no emplea estas herramientas de manera directa. Entre las razones, destacan la falta de conocimientos técnicos y de recursos formativos que permitan una implementación eficaz. Entre las áreas de beneficio identificadas, destaca el potencial de la IA para mejorar procesos administrativos y facilitar la búsqueda de empleo. Por ejemplo, la tecnología puede optimizar la identificación de oportunidades laborales mediante el análisis de datos y la personalización de los procesos de selección. Asimismo, se destaca la capacidad de la IA para mejorar la comunicación interna y automatizar tareas repetitivas, lo que puede incrementar la eficiencia operativa de las organizaciones. La colaboración en proyectos de IA también se abordó como un aspecto crucial. Los datos indican que, si bien existe cierta apertura, el interés por participar en iniciativas colaborativas es limitado. Este fenómeno se atribuye a factores como la falta de familiaridad con la tecnología y la disponibilidad limitada de recursos. Sin embargo, se observa que, cuando se presentan casos claros de éxito y se ofrece formación previa, las organizaciones muestran mayor disposición a colaborar y compartir conocimientos. Análisis por grupo vulnerable: desafíos y oportunidades El siguiente bloque del informe se dedica a examinar, de forma detallada, las características específicas de cinco grupos vulnerables: personas mayores, personas con discapacidad, colectivos en situación de exclusión social, comunidades migrantes y víctimas de violencia de género. En el caso de las personas mayores , se identificó que la IA puede potenciar los servicios de acompañamiento y mejorar la atención médica. Sin embargo, su uso actual es limitado, en parte debido a la falta de infraestructuras tecnológicas y a la escasa capacitación del personal. Las oportunidades se centran en el desarrollo de asistentes virtuales y sistemas de monitorización que permitan un seguimiento personalizado y proactivo. En el caso de las personas con discapacidad , la tecnología ofrece beneficios como la mejora de la accesibilidad, la movilidad y el acceso a recursos educativos y de salud. Aunque existen algunas iniciativas, la integración de soluciones avanzadas se ve obstaculizada por la dificultad de adaptar estas herramientas a programas ya establecidos. En este sentido, el desarrollo de lectores de texto avanzados, sistemas de rehabilitación interactivos y programas de entrenamiento personalizado se presenta como una oportunidad transformadora. En cuanto a los grupos en situación de exclusión social , la IA puede ser una herramienta clave para optimizar la búsqueda de empleo y detectar riesgos de vulnerabilidad mediante algoritmos predictivos. Aunque algunas organizaciones han empezado a usar herramientas básicas, la adopción integral es mínima debido a la desconfianza en las tecnologías complejas y a la falta de recursos. La personalización de los servicios y la adaptación de los algoritmos a contextos específicos son oportunidades que podrían mejorar la eficacia de los programas de intervención social. Para las comunidades migrantes , la IA se vislumbra como una solución para superar barreras culturales y lingüísticas. La implementación de traductores automáticos avanzados y plataformas educativas multilingües facilitaría la integración social y laboral. Sin embargo, la falta de familiaridad con estas tecnologías y la escasez de personal capacitado son retos que dificultan su utilización en la actualidad. Finalmente, en el caso de las víctimas de violencia de género , la tecnología tiene el potencial de fortalecer los mecanismos de protección mediante sistemas de alerta temprana y programas de apoyo emocional. No obstante, su uso actual es muy limitado debido a la sensibilidad del tema y a la desconfianza generalizada hacia la aplicación de soluciones tecnológicas en este ámbito. Para avanzar en este aspecto, es fundamental adaptar las herramientas a las particularidades de estas situaciones y fomentar la participación activa de las propias víctimas en el diseño de soluciones. Barreras comunes y recomendaciones El informe también destaca una serie de barreras comunes que limitan la adopción de la IA en el ámbito de la protección de colectivos vulnerables. Entre ellas se encuentran la falta de formación y capacitación, la infraestructura insuficiente, la desconfianza hacia las tecnologías emergentes y la escasez de recursos financieros. Estas barreras ponen de manifiesto la necesidad de llevar a cabo iniciativas integrales que combinen la inversión en tecnología con programas educativos y estrategias colaborativas. Para superar estos desafíos, se proponen varias recomendaciones. En primer lugar, se hace hincapié en la importancia de la formación y la sensibilización mediante el diseño de programas educativos que aclaren las capacidades y limitaciones de la IA y fomenten una mayor alfabetización digital en las organizaciones. La promoción de proyectos piloto es otra estrategia clave, ya que estos casos de éxito pueden generar confianza y servir de modelo para futuras implementaciones. El desarrollo de herramientas específicas y adaptadas a las necesidades de cada colectivo es fundamental para garantizar que las soluciones tecnológicas sean accesibles y relevantes. Además, la colaboración entre organizaciones, empresas tecnológicas y organismos públicos es imprescindible para compartir recursos y conocimientos, y crear así un ecosistema robusto que facilite la transformación digital en el ámbito social. Por último, se destaca la necesidad de un enfoque ético y transparente en el desarrollo y la aplicación de la IA. Establecer marcos normativos y protocolos que garanticen el respeto a los derechos humanos es crucial para generar confianza en la sociedad y asegurar que la tecnología se utilice de forma responsable. Conclusión En resumen, el informe « IA en la protección de los colectivos vulnerables » ofrece un análisis de cómo la IA puede contribuir a mejorar la inclusión y la calidad de vida de los grupos en situación de riesgo, al tiempo que expone los retos y barreras que deben superarse para lograr una adopción efectiva. La consulta realizada a organizaciones especializadas mediante cuestionarios ha permitido identificar tanto el potencial transformador de la tecnología como la necesidad de invertir en formación, infraestructura y colaboración intersectorial. El documento concluye que, con el enfoque adecuado y mediante iniciativas colaborativas, la IA puede consolidarse como un aliado estratégico para construir sociedades más justas, resilientes e inclusivas. Se invita a los interesados a acceder al informe completo a través del enlace compartido para profundizar en cada uno de los análisis, recomendaciones y conclusiones presentados. Este esfuerzo conjunto no solo impulsa la transformación digital en el ámbito social, sino que también sienta las bases para un futuro en el que la tecnología actúe como puente para reducir desigualdades y potenciar el bienestar colectivo.

Sergi Rodríguez López-Ros Enlace a la publicación original: https://www.lavanguardia.com/blogs/perspectiva-y-contexto/20250401/10540865/personas-mas-datos.html A casi nadie se le escapa que la inteligencia artificial está transformando nuestra sociedad. Hace tiempo que vengo escribiendo que, más que en un cambio de época, estamos en un cambio de era. No se trata ya de hacer de forma distinta, léase más eficiente y económica, lo que ya hacíamos, sino de hacer cosas nuevas. No se da aquí la famosa frase de san Ignacio de Loyola de “no es que viera una nueva realidad, sino que viera la misma pero non nuevos ojos”. Es más, en esta ocasión es la nueva realidad la que nos ve a nosotros. Este nuevo estado de las cosas afecta incluso a la manera en que las sociedades, sobre todo aquellas en las que se implanta la inteligencia artificial, gestionan sus procesos administrativos y el acceso a sus servicios, especialmente en lo relacionado con los de empleo y justicia. Hasta ahí poco que decir, pues parece un incremento de la eficacia. Sin embargo, cuando estas herramientas no están diseñadas con criterios de equidad, pueden reforzar desigualdades estructurales y generar barreras invisibles que afectan a los colectivos más vulnerables. Y eso es lo preocupante. El proyecto Inteligencia Artificial e Inclusión Inmigrante , desarrollado por Vanesa Berlanga en colaboración con OdiseIA con el apoyo de Google.org , ha identificado desafíos significativos en el uso de la inteligencia artificial en procesos que involucran a migrantes forzosos. Leo con alegría que por fin una de las GAFAM se implica en el resultado no contable de sus acciones, lo que en román paladino llamamos responsabilidad, al tiempo que leo con preocupación que los primeros hallazgos evidencian una preocupante brecha digital y la presencia de sesgos algorítmicos que impactan negativamente en la integración de estas poblaciones. Desde mi inmersión en el mundo de las minorías, primero la gitana y luego la judía, ha considerado que la forma en que son tratadas es un termómetro del estado de los derechos fundamentales en cada país. Lo minoritario no es sólo vulnerable por su número sino por su condición, lo que hace que el mayoritario se sienta aun más fuerte. Por ese motivo veo con alarma que tales estudios recientes destacan que los migrantes forzosos enfrentan barreras significativas en su acceso a herramientas digitales esenciales, lo que limita su capacidad para integrarse laboralmente. La digitalización creciente de los procesos de empleo y acceso a servicios públicos ha generado nuevas desigualdades, afectando especialmente a aquellos con menor alfabetización digital. El acceso a la tecnología es clave para la inclusión social y laboral. Recuerdo haber alertado de lo mismo al llegar internet, cuando en 1998 los gitanos celebraron un congreso para evaluar su acceso a ella. Luego vino la digitalización, más tarde la conectividad y ahora “la inteligencia”. Sin embargo, los datos muestran que el 70% de los migrantes forzosos no tienen acceso adecuado a herramientas digitales esenciales, lo que les sitúa en una situación de desventaja frente al resto de los ciudadanos al interactuar con instituciones públicas o buscar empleo. Sí, han leído bien: también son ciudadanos. Además, veo también con preocupación que el 80% de los migrantes identifican la falta de digitalización como una barrera para su integración laboral. Sin trabajo no hay inclusión social, pero tampoco crecimiento económico. En ese mundo nuevo, donde la selección de personal se basa cada vez más en plataformas digitales y algoritmos de selección, las personas (nunca dejan de serlo, por suerte) sin un historial digital sólido ven reducidas sus oportunidades. Ni más ni menos. Estos datos reflejan una realidad preocupante: la digitalización avanza, pero no para todos por igual. Los migrantes forzosos, que tienen tanto derecho a buscar trabajo en otro como a quedarse a trabajar en el suyo, quedan rezagados así en el acceso a servicios esenciales, perpetuando una exclusión social que las políticas públicas aún no han logrado abordar de manera efectiva: una brecha digital que condiciona el futuro. Quiero destacar finalmente dos conceptos que me han llamado también la atención tras leer ese estudio: los sesgos algorítmicos y la inclusión digital. Sesgos algorítmicos en empleo, vivienda y justicia La inteligencia artificial se ha convertido en una herramienta clave en procesos de selección laboral y asignación de vivienda, pero su aplicación sin mecanismos de control adecuados puede reforzar estereotipos y discriminaciones preexistentes. El citado estudio identificó que hasta el 45% de los sistemas de inteligencia artificial utilizados en empleo y vivienda presentan sesgos algorítmicos, generando barreras de acceso para los migrantes. Entre los principales problemas detectados destacan los filtros en procesos de selección laboral, ya que muchos algoritmos penalizan a candidatos con experiencia laboral o educativa obtenida fuera del país de acogida, limitando sus oportunidades de empleo. También el acceso a vivienda pública, porque los modelos de evaluación priorizan a solicitantes con historial crediticio local, dejando fuera a migrantes recientes que aún no han generado registros financieros en el país. Finalmente hay que considerar las evaluaciones de riesgo en el sistema judicial: Algunos algoritmos utilizados para predecir reincidencia en procesos judiciales penalizan indirectamente a los migrantes debido a factores como la falta de empleo estable o redes familiares en el país. En un contexto donde la inteligencia artificial juega un papel cada vez más determinante en la toma de decisiones, resulta crucial garantizar que estos sistemas sean auditables, transparentes y diseñados con criterios de equidad para evitar la exclusión de poblaciones vulnerables. Hacia una IA más inclusiva (e inteligente) Creo que no hay verdadera inteligencia sin emociones. La solución a todos estos desafíos no radica en rechazar la inteligencia artificial, como cualquier otra tecnología desarrollada por el ser humano, sino en aplicar estrategias que garanticen su desarrollo y uso responsable. Entre las principales medidas recomendadas por nuestro estudio destacan la implementación de revisiones regulares para identificar y corregir sesgos en los sistemas, la inclusión de información representativa de poblaciones migrantes para evitar que los algoritmos refuercen patrones discriminatorios, la aplicación de normativas como la Artificial Intelligence Act de la Unión Europea para garantizar que los sistemas de IA operen bajo principios de equidad y derechos humanos. Finalmente, hay que desarrollar políticas públicas que faciliten la alfabetización digital y el acceso a plataformas tecnológicas para migrantes. La inteligencia artificial puede ser un motor de inclusión o un obstáculo invisible que refuerza desigualdades. La clave está en su implementación ética y en el compromiso de instituciones, empresas tecnológicas y organismos reguladores para asegurar que estas herramientas favorezcan la equidad y el respeto a los derechos humanos. El reto no es menor. En un mundo donde la automatización sigue ganando terreno, garantizar que la inteligencia artificial sirva a toda la sociedad y no solo a quienes tienen acceso privilegiado a la tecnología es una tarea urgente. Aún estamos a tiempo de evitar la discriminación algorítmica de las personas vulnerables

Madrid, 1 de abril de 2025 – El Observatorio del Impacto Social y Ético de la Inteligencia Artificial (ODISEIA) ha emitido un contundente documento de alegaciones al Anteproyecto de Ley para el Buen Uso y la Gobernanza de la Inteligencia Artificial, alertando de un vacío legal que puede provocar la exclusión de consecuencias reales y efectivas para los usos indebidos de los sistemas de IA por parte de la administración pública. Aunque el Reglamento Europeo de IA establece una lista clara de prácticas prohibidas y sistemas de alto riesgo –con multas que alcanzan los 35 millones de euros o el 7 % del volumen total de negocio para las empresas infractoras– el anteproyecto publicado en fase de borrador, excluye expresamente a los organismos públicos de la imposición de sanciones económicas. En su lugar, se contempla únicamente un régimen de apercibimientos, medidas correctivas o posibles sanciones disciplinarias internas. Para ODISEIA, esta exclusión supone un serio riesgo. Esta cuestión no solo representa un agravio comparativo frente al sector privado, sino que fomenta la impunidad institucional, compromete la ejemplaridad del Estado y pone en peligro los derechos fundamentales de la ciudadanía. El documento de alegaciones publicado por OdiseIA, y otras asociaciones que protegen los derechos civiles, advierte que la implementación de sistemas de IA sin control o sin garantías adecuadas en ámbitos como la sanidad, la justicia, la seguridad o los servicios sociales puede derivar en decisiones automatizadas opacas, sesgadas o incluso discriminatorias. Ejemplos preocupantes a este respecto incluyen la evaluación automática de solicitantes de ayudas públicas , el uso de reconocimiento facial en espacios públicos o la predicción del riesgo de reincidencia criminal . En este sentido, OdiseIA reclama que el uso de IA en la administración pública debe estar sujeto a los mismos principios de transparencia, legalidad y responsabilidad que las empresas y organismos privados. Dejar fuera al sector público de las sanciones económicas mina la confianza ciudadana y abre la puerta a abusos difíciles de corregir a posteriori. Las principales propuestas de OdiseIA son las siguientes: Incluir al sector público en el régimen sancionador con multas proporcionales. Detallar los procedimientos disciplinarios aplicables a autoridades y personal directivo. Sustituir las meras amonestaciones por sanciones reales, visibles y disuasorias. OdiseIA insiste en que gobernar la IA no es solo una cuestión técnica o económica, sino ética y democrática. Una legislación débil en este sentido puede consolidar un modelo institucional opaco y poco responsable, además de propiciar una desconfianza en la opinión pública, al generarse un entorno en el que el mal uso de la inteligencia artificial desde el poder público, ya sea consciente o inconscientemente, queda sin consecuencias.

Juan José Escribano Otero; Ramón Baradat Matí; Fabián García Pastor Introducción El desarrollo técnico y normativo tiene un impacto significativo en la inclusión social de colectivos vulnerables. Para abordar esta problemática desde una perspectiva internacional, es fundamental identificar a los principales actores involucrados en la protección y el apoyo a estas comunidades. Este post presenta una síntesis del estudio sobre organizaciones y entidades que trabajan con colectivos vulnerables en diversos países de Europa, con un enfoque en aquellos considerados periféricos, tanto del norte como del sur del continente. Metodología y alcance del estudio El estudio se ha centrado en países del sur y norte de Europa, excluyendo a aquellos con una presencia geográfica marginal en el continente o con un tamaño poblacional muy reducido, como Andorra, Chipre, San Marino o El Vaticano. Asimismo, se ha dejado fuera a países transcontinentales y algunos del este de Europa por su diferente contexto socioeconómico y político. Se han identificado cinco colectivos vulnerables prioritarios en cada país en función del número de personas afectadas y de la relevancia del tema en el contexto nacional. En los países más relevantes del estudio, se ha profundizado en el análisis de organizaciones y entidades representativas. Países estudiados y su relevancia Los países analizados en este mapeo preliminar incluyen Albania, Bélgica, Bosnia y Herzegovina, Bulgaria, Croacia, Dinamarca, Eslovenia, España, Estonia, Finlandia, Grecia, Islandia, Italia, Letonia, Lituania, Macedonia del Norte, Malta, Noruega, Países Bajos, Portugal, Rumania y Suecia. Dentro de este grupo, se han identificado como países relevantes España, Italia, Países Bajos y Rumania debido a su tamaño, población y desarrollo económico. Colectivos vulnerables identificados Los principales colectivos vulnerables considerados en este estudio son: Personas mayores : Enfrentan desafíos relacionados con el acceso a servicios de salud, protección social y aislamiento social. Personas con discapacidad : Abarca diversos grupos que requieren apoyo en términos de accesibilidad, empleo y asistencia sanitaria. Personas en situación de pobreza o exclusión social : Incluye a aquellos que viven en condiciones económicas precarias y con acceso limitado a oportunidades. Inmigrantes : Comprende tanto a refugiados como a migrantes económicos que necesitan apoyo en su integración social y laboral. Mujeres víctimas de violencia de género : Grupos que requieren protección y asistencia especializada. En algunos países se han añadido otros colectivos de relevancia específica, como personas sin hogar, personas LGBTQ+ y niños en situación de riesgo. Principales organizaciones y entidades El estudio ha identificado diversas organizaciones gubernamentales, asociaciones y ONG que trabajan en la atención de estos colectivos. A modo de ejemplo, en España destacan: Personas mayores : Ministerio de Sanidad, Servicios Sociales e Igualdad; Confederación Española de Organizaciones de Mayores (CEOMA); Fundación ONCE. Personas con discapacidad : Real Patronato sobre Discapacidad; Confederación Española de Personas con Discapacidad Física y Orgánica (COCEMFE); Fundación del Lesionado Medular. Personas en situación de pobreza o exclusión social : EAPN España (Red Europea de Lucha contra la Pobreza y la Exclusión Social); Cáritas Española. Inmigrantes : Comisión Española de Ayuda al Refugiado (CEAR); Cruz Roja Española. Mujeres víctimas de violencia de género : Delegación del Gobierno para la Violencia de Género; Fundación Mujeres. Esta misma estructura se ha aplicado al análisis de los demás países, detallando las organizaciones clave en cada caso. Archivo con el mapeo y resultados: Conclusión El mapeo preliminar de ONGs y grupos relevantes permite visibilizar a los actores clave en la protección de los colectivos vulnerables en Europa. Este estudio sirve como punto de partida para futuras investigaciones y para el diseño de políticas inclusivas y colaboraciones transnacionales que contribuyan a mejorar la situación de estas poblaciones. La identificación de entidades en cada país facilita la conexión entre organismos y refuerza el trabajo en red para una mayor eficacia en la lucha por la inclusión social.

Autoras: Liliana Acosta, Maite Sanz, Raquel Valle y Cecilia Danesi y Ana Aba (coordinadoras) Introducción La digitalización y la inteligencia artificial (IA) han revolucionado los entornos laborales, generando tanto oportunidades como desafíos. La automatización de procesos y la incorporación de IA en la toma de decisiones han traído beneficios en eficiencia y productividad, pero también han generado preocupaciones sobre el impacto en la inclusión digital y laboral. En este artículo, analizamos cómo la IA puede afectar la equidad en el empleo y qué regulaciones existen para mitigar los riesgos de exclusión. La IA y su impacto en la inclusión laboral A diferencia de las revoluciones industriales anteriores, donde las máquinas reemplazaban el trabajo manual, la IA está sustituyendo habilidades cognitivas, afectando sectores como la educación, el derecho y la medicina. Este avance plantea preguntas fundamentales: ¿la IA facilita la inclusión digital o profundiza la desigualdad laboral? Mientras algunos trabajadores se benefician de herramientas digitales, aquellos sin acceso a tecnología o sin formación en competencias digitales quedan en una situación de vulnerabilidad. La inclusión digital no solo implica acceso a dispositivos, sino también alfabetización digital. Según la ONU, garantizar el acceso equitativo y seguro a la tecnología es clave para evitar que la IA amplíe la brecha digital y laboral. Sin embargo, la realidad es que aún persisten desafíos estructurales que impiden una adopción equitativa de estas tecnologías. Regulación en España y Europa para la inclusión y accesibilidad laboral Para abordar estos desafíos, tanto España como la Unión Europea han desarrollado un marco normativo para garantizar la igualdad en el acceso al empleo en la era digital: Legislación en España Ley 15/2022 de Igualdad de trato y no discriminación: Protege contra la discriminación en el empleo y exige ajustes razonables en el uso de tecnología para personas con discapacidad. Ley 3/2023 de Empleo: Fomenta el uso de IA en la intermediación laboral y garantiza la no discriminación en la selección de personal. Ley 11/2023 sobre accesibilidad: Obliga a que los sistemas de IA sean accesibles para todos los trabajadores, incluidos aquellos con discapacidad. Regulaciones Europeas Reglamento General de Protección de Datos (RGPD): Protege a los trabajadores contra decisiones automatizadas discriminatorias y exige transparencia en los algoritmos utilizados en el empleo. Reglamento Europeo sobre Inteligencia Artificial: Clasifica los sistemas de IA según su nivel de riesgo y establece requisitos estrictos para su uso en la contratación y gestión de personal. Directiva (UE) 2024/2831: Introduce regulaciones para la supervisión de algoritmos en plataformas digitales de empleo, prohibiendo la inferencia de datos sensibles como discapacidad o estado de salud. Además, la Carta de Derechos Digitales en España orienta la formulación de políticas para garantizar la equidad en la selección laboral mediante IA, aunque no tiene carácter vinculante. Transparencia y supervisión de algoritmos en el empleo El uso de IA en la contratación y gestión del talento puede generar discriminación si no se implementan mecanismos de supervisión adecuados. Para evitar esto, se han establecido regulaciones clave: El RGPD (Art. 22) prohíbe la toma de decisiones completamente automatizadas sin intervención humana cuando afecten a las personas. El Reglamento Europeo de IA exige auditorías en sistemas de contratación para minimizar sesgos. El Real Decreto-ley 9/2021 otorga a los representantes de trabajadores el derecho a conocer cómo funcionan los algoritmos que afectan sus condiciones laborales. Estos avances buscan reforzar la transparencia y la supervisión humana en los procesos de selección y evaluación de desempeño en el trabajo. La IA como herramienta de accesibilidad e inclusión Más allá de los desafíos, la IA ha demostrado ser una herramienta clave para mejorar la accesibilidad en el ámbito laboral, permitiendo la inclusión de personas con discapacidad y otros colectivos vulnerables. Algunas aplicaciones innovadoras incluyen: Asistencia para personas con problemas auditivos y del habla: Herramientas de reconocimiento de voz que convierten palabras en texto. Sistemas que traducen voz a lengua de signos y viceversa. Soluciones para personas con discapacidad visual: Aplicaciones que detectan objetos, personas y colores. Sistemas de lectura en voz alta para textos impresos. Mejoras en movilidad y navegación: IA que ayuda a personas con movilidad reducida a desplazarse con mayor autonomía. Aplicaciones que identifican rutas accesibles y entornos adaptados. Gracias a estas innovaciones, la IA está transformando la accesibilidad en el empleo, proporcionando mayor independencia y oportunidades de inserción laboral para personas con discapacidad. Beneficios y riesgos de la IA en el mercado laboral La IA ofrece ventajas significativas para la equidad laboral, pero también presenta riesgos que deben ser abordados con regulación y supervisión adecuada. Beneficios: Mayor equidad en la contratación: Algoritmos bien diseñados pueden eliminar sesgos humanos en la selección de personal. Optimización del trabajo: La IA automatiza tareas repetitivas, permitiendo a los empleados enfocarse en actividades estratégicas. Mejora de la conciliación laboral: Los sistemas de IA pueden optimizar horarios y mejorar la calidad de vida de los trabajadores. Entornos laborales accesibles: La IA facilita la adaptación del entorno de trabajo para que sea inclusivo para todos. Riesgos: Discriminación algorítmica: Si los datos de entrenamiento contienen sesgos, la IA puede perpetuarlos o amplificarlos. Exclusión digital: Las personas sin habilidades digitales quedan en desventaja en el mercado laboral. Falta de transparencia: La toma de decisiones automatizada puede dificultar la rendición de cuentas y la detección de errores o injusticias. El futuro de la regulación de IA e inclusión laboral Las normativas actuales representan un avance, pero su efectividad dependerá de su implementación. Se prevé que las futuras regulaciones incluyan: Evaluaciones de impacto: Mayor supervisión sobre el impacto de la IA en derechos laborales. Certificaciones para algoritmos inclusivos: Sellos de calidad para garantizar la equidad en la IA aplicada al empleo. Transparencia obligatoria: Exigencia de auditorías y publicación de informes sobre el uso de IA en la contratación. Conclusión: Construyendo una IA ética e inclusiva en el empleo El impacto de la IA en la inclusión digital y laboral es un reto compartido entre gobiernos, empresas y la sociedad. Para garantizar un futuro del trabajo más equitativo, es fundamental: Desarrollar políticas inclusivas: Implementar regulaciones que eviten la exclusión digital y laboral. Fomentar la educación digital: Capacitar a los trabajadores en habilidades tecnológicas. Garantizar el uso ético de la IA: Crear mecanismos de auditoría y supervisión para evitar discriminación en el empleo. Si estos objetivos se cumplen, la IA no solo minimizará desigualdades, sino que también impulsará un mercado laboral más accesible, justo e inclusivo para todos.

Autora: Licda. Nicole Marie Suárez Uribe, miembro de OdiseIA e investigadora perteneciente al subgrupo “ Casos de éxito de IA Gen en empleo y sociedad ”, cAIre Research Project.  Introducción: Tecnología que transforma  A lo largo de la historia, determinadas tecnologías han marcado un antes y un después en el desarrollo humano. A estas innovaciones se les conoce por el nombre de tecnologías de propósito general, ya que son susceptibles de aplicarse en distintos sectores, con un gran potencial de cambiar todas las industrias y, en consecuencia, la sociedad. La máquina de vapor, el motor de combustión interna e Internet son algunos ejemplos.  Seguro estás pensando en la electricidad. ¡No la dejaríamos fuera de la lista! Hace 100 años revolucionó todo. Y justamente hoy, en palabras de renombrados expertos en IA como Andrew Ng  y Sundar Pichai , la inteligencia artificial es considerada como la nueva electricidad, en atención a la dimensión de su incidencia. En ese orden, tras la irrupción de la IA generativa, nos hemos convertido en testigos de uno de los mayores momentos de transformación tecnológica, cultural, política y social de toda nuestra vida a juicio del reconocido investigador Mustafa Suleyman .   Y pensar que la sobreexpectación en el hype cycle  de Gartner comenzó solicitando recetas, preguntando sobre tópicos de cultura general y requiriendo ayuda práctica para tareas cotidianas en un chat. A la fecha, ya debatimos funcionalidades impresionantes como su capacidad de ejecutar código o de simular llamadas telefónicas en lenguaje natural y en tiempo real. Sin dudas, su versatilidad a la hora de complementar los distintos roles que asumen las personas en su diario vivir, ha desatado un cambio de paradigma respecto de la forma en que trabajamos, aprendemos, nos relacionamos y vivimos. En este artículo exploramos cómo la inteligencia artificial generativa puede ser un catalizador de impacto positivo. Asimismo, daremos a conocer casos reales sobre los que hemos estado investigando desde OdiseIA que muestran que cuando se diseña con propósito, la tecnología puede convertirse en un motor de esperanza. Somos de opinión que, resulta de vital importancia para estos tiempos de adaptaciones normativas y criterios jurisprudenciales a definir, conocer las mejores prácticas y cómo afrontar los retos sin precedentes que se presentan en base a la experiencia de quienes se han aventurado a ser pioneros del futuro que tendremos. Predicciones… Lo que la IA generativa nos depara Al inicio, las máquinas no tenían capacidad para mostrar hasta dónde podían llegar, por ello se quedaba limitado su impacto a investigaciones como Computing Machinery and Intelligence  de Alan Turing y a ocupar un papel estelar en ciencia ficción, donde la imaginación anticipaba lo que se pretendería alcanzar. Luego, con la llegada de sistemas expertos tal Dendral , se obtuvo experiencia que permitió observar grandes resultados para propósitos reales, sin embargo, la tecnología resultaba ser muy costosa y difícil de mantener.  Después, con el transcurrir del tiempo, dejó atrás su reserva a una clase élite, gracias al machine learning , cuyo auge con algoritmos de clasificación, predicción y reconocimiento de patrones encontró aplicaciones muy prácticas. Para muestra, los servicios de recomendación, los motores de búsqueda y los asistentes virtuales, que nos hicieron interactuar con IA sin darnos cuenta. No obstante, analizar datos y proporcionar resultados era importante, pero de repercusión pasiva, siendo la inteligencia artificial generativa la que todo cambió. Para ser exactos, a los 5 días del lanzamiento de ChatGPT, con el millón de usuarios que alcanzó, haciendo historia.  De repente, cualquier persona sin conocimientos técnicos puede generar contenido y este hecho tuvo un efecto dominó, consolidando su popularidad. ¿Y ahora qué? Ahora las personas de todo el mundo ya son más conscientes del impacto potencial de esta tecnología en sus vidas, conforme el AI Index Report de Stanford University . La financiación para la IA generativa aumentó, casi octuplicándose desde 2022. Statista  prevé que el mercado de IA generativa crecerá hasta los 1,3 billones de dólares en 2032. Se estima que, sin dudas, la inteligencia artificial generativa plantea una aceleración adicional en la automatización de las tareas, con mayor productividad y reducción de costes.  Habrá una verdadera revolución en el empleo, pues con la IA Gen, las máquinas pasan de capacidades cognitivas a creativas. Por ello, desde su aparición se dieron a conocer estimaciones como las de Goldman Sachs , donde se indicaba que podrían quedar expuestos a la automatización 300 millones de empleos a nivel global. Cifras como estas causaron pánico, hasta que se recordó que históricamente la tecnología crea más trabajos de los que destruye, palabras subrayadas por las propias autoridades de la Organización Internacional del Trabajo . Por su parte, otros estudios  explican que la exposición al uso de los modelos de IA generativa no implica que las tareas sean completamente automatizadas, en algunos casos puede haber sustitución, pero en la mayoría servirá de complemento y en unos pocos casos no representará cambio alguno.  La clave está en las nuevas habilidades a desarrollar por todos, como bien han apuntado diversas personalidades  del ámbito tecnológico y empresarial, la IA no reemplazará a las personas, son las personas que la utilicen quienes reemplazarán a quienes no lo hacen. Nos encontramos ante un fenómeno social que reconfigurará todos los ámbitos de nuestra sociedad, con cambios significativos y disruptivos en todas las industrias para los próximos años. Así son las altas expectativas que se tienen. Lo dicho precedentemente, en atención a que ya el 2024 fue el año en que realmente las organizaciones comenzaron a utilizar esta nueva tecnología y a obtener valor comercial de ella, 65% de los encuestados en la última Encuesta Global sobre IA de McKinsey , informaron de su uso regular. Se le ve como una tecnología promesa. La ONU en el primer trimestre del año 2024 adoptó una resolución histórica  en la que promueve los sistemas de inteligencia artificial seguros y fiables, subrayando el potencial de los mismos para acelerar y permitir el progreso hacia la consecución de los 17 Objetivos de Desarrollo Sostenible. Dicho de otro modo, que sirva de instrumento para avanzar en las prioridades compartidas. Al mismo tiempo, se reconoce que existe preocupación por los desafíos innegables que nos vemos en la necesidad de afrontar. Alucinaciones, inconvenientes de privacidad y protección de datos personales, incertidumbre en la propiedad intelectual, profundización de desigualdades, nuevas formas de cometer delitos, son algunas de las consecuencias no deseadas que pueden producirse. De ahí que, el 78% de las organizaciones pide una mayor regulación gubernamental y un 72% más colaboración global como garantías necesarias para un desarrollo responsable de esta tecnología, según resultados publicados por Deloitte . Por tanto, se espera que normas como el Reglamento de Inteligencia Artificial sean la tendencia en los años venideros. Al mismo tiempo, estaremos a expensas de distintas decisiones jurisprudenciales que servirán de referencia para abordar cuestiones legales no previstas.  ¡Solo el tiempo dirá lo acertado de estas cifras!  Más allá de las cifras: De las profecías a casos reales  El impacto real de la inteligencia artificial generativa está en cómo puede transformar vidas y ser un verdadero motor de cambio humano. Definitivamente, el alcance de la tecnología dependerá de nuestras intenciones, si desarrollamos IA Generativa con objetivos claros y responsabilidad, los resultados reflejarán esos efectos fructíferos que aspiramos a impulsar. En los próximos párrafos, comentamos algunos casos que así lo demuestran:  Los asistentes de traducción con IA generativa , a modo de ilustrar a qué nos referimos: El Centro de Traducción de la Cruz Roja Americana  es una muestra, cuya finalidad es que los usuarios de la organización puedan traducir comunicados de prensa, contenido de redes sociales o materiales educativos que luego de una traducción preliminar por el sistema, es validado por seres humanos para su perfeccionamiento, asegurando que el idioma ya no sea una barrera para acceder a información relevante.  En esa línea, el Estado de New Jersey lidera el acceso lingüístico , pues resolvió el cuello de botella en el acceso a beneficios para innumerables trabajadores que enfrentan dificultades al completar formularios en inglés, con una reducción asombrosa del tiempo promedio para completar formularios, esperas en centros de llamadas y la tasa de reclamos.  La IA generativa para restaurar obras de arte dañadas o recrear piezas perdidas . Siendo este el caso de las imágenes históricas del trío de la Facultad , obras conocidas del pintor Gustav Klimt que probablemente fueron destruidas luego de la Segunda Guerra Mundial. Lo expuesto, codificando un algoritmo de inteligencia artificial para generar predicciones de color, ofreciendo a los espectadores una idea de cómo eran estas obras antes de su destrucción.  Deepfakes para entrenamiento en ciberseguridad y defensa . A modo de muestra, el programa Semantic Forensics  perteneciente al Defense Advanced Research Projects Agency (DARPA); que busca desarrollar tecnologías innovadoras que ayuden a detectar, atribuir y caracterizar campañas de desinformación adversarias, mejorando así la capacidad de combatir la manipulación. En otros términos, la propia IA generativa enseña a determinar si un contenido ha sido creado con inteligencia artificial.  Asimismo, destacan sus aplicaciones en educación , permitiendo una interacción distinta con el conocimiento. Creación de contenido educativo personalizado, tutores inteligentes, simulaciones con entornos inmersivos, entre otros. Khanmigo, Humata, Inmerse y Gradescope son claros ejemplos de sus usos y son tantos que a finales del año 2024 comenzó el proyecto internacional GenAI4ED  del programa Horizon Europe, que tiene entre diversos objetivos, desarrollar una plataforma digital que evalúe la eficacia técnica, el cumplimiento normativo y el impacto de herramientas de IA generativa en educación, optimizando su implementación en las aulas.  Del mismo modo, Wall Street ha convertido la inteligencia artificial generativa en una tendencia clave en el sector financiero , impulsada por la creciente adopción de esta tecnología por parte de los principales bancos y firmas de inversión , instituciones como JPMorgan, Morgan Stanley y Goldman Sachs han liderado el camino, utilizando IA generativa para optimizar sus operaciones, personalizar servicios al cliente y mejorar las estrategias de inversión. 8 de cada 10 entidades están aplicando tácitamente la IA generativa en al menos un caso de uso conforme el 2024 Global Outlookfor Baking and Financial Markets .  Entre los casos destacados se encuentra Bank of America con Erica , asistente virtual que ha cautivado con sus análisis financieros personalizados, recordatorios de pago, asistencia para gestionar cuentas, entre otras funcionalidades. Mientras que Grupo Cooperativo Cajamar  le utiliza en su lucha contra el fraude digital, captando atención su acuerdo para la adopción de la plataforma de IA generativa IBM Watsonx, marcando la evolución del core  bancario.  Los LLM especializados por sector  también han tenido impacto positivo, como Harvey AI en el sector legal, cuya IA generativa, entre muchos usos, se utiliza en tribunales de Singapur  para favorecer a individuos que están en desventaja al no contar con representación legal en determinados procesos legales; un acuerdo para mejorar el acceso a la justicia para todos. Básicamente, si una persona busca presentar una reclamación, el sistema le indica cuáles son sus derechos, los próximos pasos, plazos, estimaciones de lo que podría obtener, la documentación relevante a aportar, entre otros puntos.  En continuidad de lo expuesto, encontramos a MedPalm 2 , modelo de lenguaje diseñado para responder preguntas médicas con alta calidad y precisión, alcanzando un 85.4% en su desempeño, superando ampliamente la puntuación de aprobación en los exámenes de licencia médica en Estados Unidos y también superó el porcentaje en los de India. Sus usos potenciales se enmarcan en investigaciones, responder a inquietudes complejas, encontrar información en textos médicos no estructurados, resumir documentación, etc.  Siguiendo este orden de ideas, otro caso es HiVE by bertha  en el sector nuclear. Lanzada por Westinghouse Electric Company que impulsa una mejora de los costos y los plazos a lo largo de todo el ciclo de vida del reactor, desde el diseño, la concesión de licencias, la fabricación, la construcción y las operaciones. Los clientes obtienen acceso a más de 100 años de innovación y conocimientos patentados en la industria. Podemos convertir la IA generativa en cada sector que toca en una aliada universal para la humanidad.  ¿Cómo hacer de la IA generativa un motor de cambio? Mejores prácticas y lecciones aprendidas El impacto positivo no es casualidad. En efecto, para convertir esta tecnología de prometedora a transformadora, es crucial adoptar un enfoque estratégico y responsable. A partir del análisis de distintos casos de uso con foco en el beneficio o la potenciación de la humanidad, hemos identificado como claves de éxito comunes, mejores prácticas y lecciones aprendidas que pueden guiar a las organizaciones que quieran emprender en este camino.  Colaboración y co-creación El consenso es fundamental, diálogo multidisciplinario, con profesionales de diversas áreas (ética, legal, técnica, etc.) y de distintos contextos geográficos. Con el objetivo de construir soluciones de forma conjunta tras espacios de trabajo donde existan debates y se compartan conocimientos.  Evaluación integral Antes de implementar cualquier iniciativa con IA generativa, corresponde colocar todo en una balanza. El valor potencial en términos de eficiencia, innovación y mejora de procesos. Los riesgos posibles asociados a su incorporación. Así como el marco de gobernanza requerido, roles, responsabilidades, toma de decisiones y mecanismos de control.  Establecimiento de principios desde el diseño y a lo largo de todo el desarrollo Transparencia acerca de cómo funciona el modelo, qué datos utiliza y cómo maneja los mismos. Seguridad, con medidas robustas para proteger de accesos no autorizados. Privacidad, colocando en primer lugar la protección de los datos personales, garantizando el control del usuario sobre su información. Fiabilidad, que genere confianza. Y que tenga como centro al ser humano, tanto en el respeto de sus derechos como en ser una herramienta para el provecho de las personas. Cumplimiento normativo Es llamativo que se haga hincapié en todas las normativas con las que se cumple, por lo general, aquellas que han ganado fama de ser las más protectoras de derechos, como es el caso del Reglamento General de Protección de Datos de la Unión Europea y el AI Act.  Esto es una especie de signo de confianza.  Fomento del desarrollo de habilidades El capital humano incide en gran medida en el éxito del uso de IA generativa. Capacitar a los equipos para que puedan implementar las soluciones con esta inteligencia artificial es regla básica. También, para que comprendan cómo usarla de manera responsable y efectiva.  Adecuada gestión de los datos Los datos son el combustible de la IA generativa, el primer paso siempre será la base de datos sólida, siendo esencial su calidad, integridad y disponibilidad. Que sean resguardados en su gestión de acuerdo a las normativas aplicables. También, que existan criterios de calidad como, por ejemplo, la verificación sobre los sesgos algorítmicos. Por supuesto, asegurar la autorización de propiedad intelectual para los datos de entrenamiento o los términos que se han definido al respecto. Ante esta realidad, es que se han convertido en favoritos los modelos híbridos, que combinan modelos de código abierto con modelos construidos internamente.  Implementación gradual y práctica La implementación de proyectos piloto en áreas de interés y necesidad real para probar la tecnología, obtener retroalimentación y luego ampliar su aplicación. De esta forma, priorizando los casos iniciales de bajo riesgo y alto valor, es posible realizar los ajustes necesarios.  Enfoque de mitigación de riesgos Que se actualicen constantemente los protocolos de ciberseguridad, gobierno de datos y privacidad. Se abogue por sistemas explicables y en caso contrario auditables. Monitoreo de los resultados. Mantenerse al tanto de las nuevas regulaciones y directrices. Políticas claras que direccionen el uso de IA generativa.  Conclusiones: Nuestras decisiones definen el futuro En los últimos años nos hemos centrado en el enigma de la IA generativa y la humanidad, ¿hasta dónde llegará esta tecnología? Y ¿cómo redefinirá la humanidad? Preocupándonos o fascinándonos ante lo que parece ser incierto. Sin embargo, tenemos una respuesta a la mano, ocupándonos podemos aportar hacia el futuro prometedor que queremos. El rol humano sigue siendo esencial para guiar el desarrollo de la IA generativa, supervisar su implementación y dar un verdadero sentido a sus resultados.  La inteligencia artificial generativa está aquí para quedarse, seguirá evolucionando, pero su impacto dependerá de cómo decidamos usarla. Así como hemos visto los desafíos que plantea, mediante este artículo hemos podido observar que también abre nuevas oportunidades.  Nos toca construir un porvenir de forma responsable y ya tenemos las claves para lograrlo, las cuales podemos sintetizar en pocas palabras, compromiso firme con el bien común, lo que, sin dudas, nos permitirá aprovechar al máximo el potencial de la IA generativa para transformar positivamente nuestras vidas y nuestro alrededor.   Por primera vez el poder de la innovación está en manos de más personas que nunca, desde pequeñas soluciones que mejoran nuestro día a día hasta grandes proyectos que transforman por completo a las industrias. La IA generativa nos invita a todos a trabajar en un futuro mejor, más próspero, equitativo y lleno de posibilidades.  ¿Te unes a este camino donde la tecnología es el complemento que necesitamos?

Autor: Dolores Abuin, en colaboración con los miembros del grupo del Proyecto cAIre Google Ricardo Palomo (Coordinador), Jorge Cerqueiro, Frank Escandell y José Javier Sesma. Este estudio ha sido realizado por OdiseIA en el marco del proyecto Google cAIre. Puedes conocer más sobre esta iniciativa en el siguiente enlace: Google Caire - OdiseIA . Este blog es una síntesis de la primera versión del entregable principal del subproyecto 2.1 "Profesiones del Futuro: Nuevas Oportunidades y Requerimientos" , cuyo informe definitivo estará disponible en 2025. El grupo de trabajo realizó entrevistas personales estructuradas de aproximadamente 45 minutos de duración con un mismo cuestionario común. La relación de expertos entrevistados es la siguiente: NOMBRE EMPRESA O INSTITUCIÓN Román Gil Alburquerque Sagardoy Abogados María Gabriela Busellini Universidad de Buenos Aires Lourdes Hernández Vozmediano Ana Lazcano de Rojas Yolanda Cerezo López Universidad Francisco de Vitoria Juan Luis Aguirrezabal Arroyo Iberdrola Beatriz Sanz Saiz Elena Maestre García EY Ignacio Gutiérrez Peña AYGLOO Matthew James Bailey María Eugenia Blázquez UDIT Iñaki Pertusa DECIDATA Erik Díaz Fuentes XENIOR STUDIO Andrés Pedreño Muñoz OST Torrejuana Alfonso Gutiérrez Universidad de Helsinki Chema Leal Sancho PwC Matías Garcia Calvo NTT DATA Europe & Latam Pedro José Mendez Vega BBVA Javier Espinosa Endesa Clarisa Doval Continental Natalia Grijalba EY Kevin Lagrandeur A continuación recogemos algunas de las opiniones más relevantes de los expertos relativas a las áreas del cuestionario desarrollado en las entrevistas personales. ¿Cómo está impactando la IA en el mercado laboral? Recopilación de respuestas con  base en las entrevistas mantenidas con expertos del sector entre junio de 2024 y enero de 2025. La inteligencia artificial ya está transformando la forma en que trabajamos y,   según los expertos entrevistados, este impacto se puede ver en varias áreas principales: Clarisa Dova l (Continental) es categórica en este aspecto y destaca que la IA ha permitido “la automatización de tareas para todos los trabajos y para todos los roles”. Esto implica que muchos trabajos repetitivos desaparecerán o cambiarán significativamente. Desde la ingeniería de datos hasta la optimización de procesos con IA, existe una creciente demanda de perfiles profesionales que antes no existían. Según EY  “se van a crear nuevas industrias, nuevos puestos de trabajo” y además se enfatiza en un hecho relevante “creo que de momento casi se están creando más puestos de trabajo de los que se están eliminando y de eso se habla relativamente poco"​. José María Leal Sancho (PWC) , menciona directamente una redefinición del valor del trabajo al señalar qu e  "No solo hay una reconversión laboral, sino que va a haber un cambio generacional sobre las necesidades que hay en la sociedad. La inteligencia artificial nos ha llevado a un punto en el mercado laboral en el que va a redefinir qué es lo que es trabajar, qué tiene valor, qué no tiene valor, en base a las personas". ¿Qué sectores están siendo más afectados? Gráfico sobre el impacto de la IA en diferentes sectores laborales (basado en las entrevistas y las puntuaciones otorgadas por los entrevistados). Cada entrevistado aportó su perspectiva sobre los sectores más afectados por la IA .  A cada sector se le asignó una puntuación en una escala de 0 a 10 basada en la intensidad del impacto.  Atendiendo a las opiniones de todos los expertos, podemos adelantar que la IA no solo sustituye tareas repetitivas, sino que también genera nuevas oportunidades. Aunque en algunos casos su integración ha sido gradual, en otros será necesario la formación de los trabajadores en nuevas habilidades y la adaptación a nuevos roles laborales. Las entrevistas reflejan cómo algunas empresas ya están experimentando esta transformación. A continuación, veremos cómo la IA está impactando en estos sectores, con testimonios directos de expertos que nos muestran el panorama actual. “Atención al cliente y servicio al consumidor” obtuvo una puntuación de 9 . La automatización de chats y asistentes virtuales está transformando radicalmente esta área. Iñaki Pertusa ( Decidata ) nos comenta que “si hablamos de sustitución laboral, muy, muy bajo, pero si hablamos de mejoras de eficiencia gracias al uso de la IA, especialmente la generativa, lo que nos encontramos tanto en el sector privado como en la administración pública es que la integración de esta tecnología ahora mismo es residual y su impacto tanto desde el punto de vista de negocio como desde el punto de vista laboral está siendo muy limitado”​. “Industria y manufactura” recibió un 8. Como explica Andrés Pedreño (Torrejuana) , “cuando la inteligencia artificial se suma a la robotización, en países como China, donde hay una mano de obra muy abundante, están mecanizando y robotizando con IA fábricas del automóvil, lo cual está logrando niveles de competitividad extraordinarios”​. “Sector financiero” alcanzó un 7, destacando la revolución de la IA aplicada al análisis de datos: la IA está optimizando ya, por ejemplo, la toma de decisiones en la banca. Pedro José Méndez Vega (BBVA)  destaca que “los profesionales de auditorías y cumplimiento normativo tienen que familiarizarse con nuevas herramientas para poder interpretar y actuar en consecuencia. Todo el mundo del asesoramiento personalizado también va a tener muchísimas mejoras”. “Marketing” obtuvo otro 7, con referencias a la generación de contenido automatizado. “El mundo de la publicidad ha cambiado radicalmente. Ya ha cambiado. Va a cambiar más, pero ya ha cambiado. La publicidad programática... Todos son algoritmos. Tú defines audiencias, ya no defines medios, espacios en medios. Tú defines una audiencia y quiero llegar a esta audiencia que tiene unos componentes determinados de intereses”, menciona Juan Luis Aguirrezabal (Iberdrola) . “ Administración ”  fue valorada con un 6 por el reemplazo de tareas administrativas rutinarias. “El impacto de la IA en la administración es claro: muchas tareas rutinarias están siendo automatizadas, desde la gestión de documentos hasta la organización de datos. Esto libera tiempo para que los profesionales puedan enfocarse en tareas más estratégicas y de mayor valor añadido” tal y como nos relata Alfonso Gutiérrz desde la Universidad de Helsinki. “Legal” recibió un 5, indicando un impacto en tareas relacionadas con el análisis y generación de documentos legales. Desde Decidata , Iñaki Pertusanos comenta un caso real de uso con ChatGPT. Nos indicó que “generamos un recurso, que lógicamente nos dio la razón porque era un error administrativo. En otro momento, lo hubiéramos externalizado con un abogado que nos hubiera cobrado un mínimo porque era algo muy rutinario, pero que ya no lo necesitamos. Y hay muchas profesiones de ese tipo que con los sistemas de IA generativa han sido superadas”. “Supervisión intermedia” se calificó con un 6 gracias a los avances en herramientas que permiten gestionar más eficientemente con menos recursos. Desde NTT Data,  Matías García Calvo, apunta que “tareas administrativas sobre todo, tareas muy vinculadas a actividades manuales, actividades que se tienen que hacer de forma manual, sin duda estas son las que más se van a transformar.” ¿Cuáles son los trabajos más vulnerables? Los expertos coinciden en que los empleos más repetitivos y de supervisión intermedia son los más amenazados. Ahora mismo, todos nos preguntamos qué empleos están en mayor riesgo de desaparecer o cambiar totalmente. Aunque podamos pensar que la IA no reemplaza puestos de trabajo en su totalidad, sí está automatizando tareas específicas dentro de muchas profesiones, lo que obliga a redefinir roles y competencias. Los trabajos más vulnerables son aquellos que dependen de tareas repetitivas, mecánicas o basadas en la supervisión de procesos automatizables. Esto incluye desde puestos operativos básicos, que están siendo optimizados con IA en sectores como manufactura y logística, hasta cargos de supervisión intermedia, donde las herramientas digitales permiten gestionar equipos con menos intervención humana. Además, sectores como administración y atención al cliente ya sufren una transformación acelerada con el uso de chatbots,  asistentes virtuales, automatización de gestión documental o sistemas de análisis predictivo. La adaptación a esta nueva realidad no solo implica la pérdida de ciertas funciones, sino la urgencia de desarrollar nuevas habilidades que complementen la IA. ¿Cómo será el mercado laboral en 5 años? Gráfico sobre el impacto de la IA en el mercado laboral en los próximos 5 años (basado en las entrevistas y las puntuaciones otorgadas por los entrevistados). Se pidió a los entrevistados que dieran una puntuación del 0 al 10 sobre el impacto actual de la IA en el empleo y su impacto proyectado en los próximos 5 años. En general, todos coinciden en que aún estamos en una etapa inicial de adopción, y  la mayoría prevé que en los próximos cinco años el impacto de la IA será mucho más profundo, con una previsión de 8 o 9 sobre 10 en términos de transformación laboral. Algunos sectores como el financiero, el manufacturero o el marketing, ya han comenzado a experimentar cambios significativos, pero se espera que esta disrupción alcance a prácticamente todas las industrias. Sin embargo, no se trata únicamente de la sustitución de empleos, sino de una redefinición del valor del trabajo. Según los expertos, la IA generará nuevos roles y oportunidades, al tiempo que exigirá una adaptación constante de las competencias profesionales. La clave estará en la formación y en el desarrollo de habilidades complementarias a la IA, como el pensamiento crítico, la creatividad y la toma de decisiones. En los próximos cinco años, las empresas y los trabajadores que no integren estas herramientas en su operativa diaria podrían verse en desventaja competitiva, mientras que aquellos que sepan aprovechar su potencial se beneficiarán de un entorno laboral más eficiente y productivo. Reflexión final sobre el futuro laboral La IA es ya una realidad que debemos afrontar, y que nos sitúa en el inicio de una transformación sin precedentes. La clave no está en resistirse al cambio, sino en adaptarse a él y aprovechar lo mejor que esta tecnología puede ofrecernos en beneficio de todos. A lo largo de las entrevistas realizadas, los expertos consideran que la IA no eliminará empleos de manera indiscriminada, pero sí transformará las funciones y habilidades requeridas. En las entrevistas hemos percibido una mezcla de realismo y esperanza, con un mensaje claro de todos los expertos que apunta a la necesidad de formarse y prepararse para utilizar la IA como una herramienta (o quizá como un compañero de trabajo). Todos ellos vislumbran importantes cambios en el futuro del trabajo que pueden llevar a la creación de nuevos roles laborales, así como también a la transformación y, en algunos casos, a la desaparición de determinados puestos de trabajo, aunque pronostican un saldo neto positivo con mayor creación que eliminación en términos globales. No son ajenos, sin embargo, a las tensiones y efectos perturbadores que la velocidad de esta revolución, comparada con las anteriores, puede tener sobre los tejidos social y económico de nuestros países. Esta visión general de los expertos pone también de manifiesto la vulnerabilidad laboral actual y futura de aquellas personas cuyas funciones pueden ser desempeñadas de modo más eficiente por la IA. Para evitar o atenuar la vulnerabilidad será fundamental la formación y el reciclaje profesional. Desde un enfoque distinto de la vulnerabilidad, si se atiende a los grupos de personas consideradas como vulnerables por sus condiciones físicas o mentales, los expertos coinciden en el valor que puede tener la IA para complementar las capacidades diversas de estas personas y así apoyarlas en el desempeño de sus funciones. A modo de resumen, a juicio de los expertos entrevistados, el talento humano seguirá siendo insustituible, pero aquellos trabajadores que no aprendan a trabajar con la IA verán mucho más complicado avanzar en el nuevo panorama laboral. “La Inteligencia Artificial  es un instrumento fascinante y tremendo”, que puede traer muchas oportunidades, aunque en manos equivocadas podría ser un desastre.

Anthropic ha lanzado el pasado día 10 de febrero, el informe “Anthropic Economic Index” ( https://www.anthropic.com/news/the-anthropic-economic-index ) .  Además, han publicado un paper ( https://assets.anthropic.com/m/2e23255f1e84ca97/original/Economic_Tasks_AI_Paper.pdf ) titulado “ Which Economic Tasks are Performed with AI? Evidence from Millions of Claude Conversations ” , en el que analizan en detalle cómo la IA se aplica en distintos ámbitos laborales. Anthropic es una empresa estadounidense de investigación y desarrollo de inteligencia artificial fundada en 2021 y liderada por antiguos trabajadores de OpenAI.​ los hermanos Dario y Daniela Amodei.  ¿De qué trata este informe?   Se trata de una iniciativa que busca conocer los efectos de la IA en el mercado laboral. Este índice ofrece datos y análisis, basados en millones de conversaciones mantenidas por los usuarios de forma “anónima” con Claude .   Claude es el chat conversacional de la empresa Anthropic, que dispone de versión gratuita para poder interactuar con ese LLM. Con este informe recopilatorio se pretende conocer cómo se está utilizando la IA en tareas laborales reales.El aspecto más llamativo ha sido el dataset utilizado para el análisis.  Se han utilizado alrededor de 4 millones de conversaciones realizadas con Claude. Su estudio se ha centrado en el impacto de la IA en el trabajo utilizando un enfoque basado en datos para identificar qué tareas y ocupaciones están adoptando esta tecnología, en lugar de utilizar suposiciones. Los resultados muestran que la IA se usa sobre todo en código y en redacción (juntos representan casi la mitad de todos los casos de uso). Sin embargo, su adopción es mucho más amplia y alcanza aproximadamente al 36% de las ocupaciones, aunque en distintos grados. El informe también diferencia dos formas de uso de la IA: Un 57% lo usa como una herramienta de apoyo para mejorar la productividad humana, como mejorar textos o aprender nuevas habilidades. Un 43% lo usa como una automatización directa, donde la IA ejecuta tareas con la mínima intervención humana. El análisis tiene limitaciones y solo refleja datos de la plataforma específica de Claude. Pero se abre la puerta para que utilicen este método otras compañías y puedan seguir la evolución y tendencias futuras de la IA en el mercado laboral. La intención de Anthropic es poner en el foco el uso real de la IA en el trabajo y así fomentar un debate abierto entre todos los sectores afectados (economistas, abogados, expertos en políticas públicas o académicos) con el objetivo de prepararse para dar respuestas reales a los cambios inevitables que la IA traerá al mundo del trabajo. ¿Qué datos son los más reveladores del estudio? Este primer informe ha revelado datos clave sobre la adopción de la IA en diferentes sectores.  Pueden afirmar que actualmente, el uso de la IA se centra principalmente en el desarrollo de código (software) y la redacción de textos.  La primera sección “Porcentaje de trabajos que usan IA” muestra cómo se distribuye el uso de IA en los trabajos. Color rojo: solo el 4% de los trabajos usan IA de forma intensiva. Color azul: el 36% de los trabajos usan IA moderadamente. Color gris: el 60% de los trabajos usan poco o nada de IA. La segunda sección muestra “Cómo se utiliza la IA” Se puede observar cómo la IA se utiliza más para "aumentar" el trabajo humano (57%) en lugar de "automatizar" tareas por completo (43%).  En este sentido, la IA está funcionando como una herramienta de apoyo al trabajador que mejora la productividad en lugar de automatizar tareas de manera masiva.  Sin embargo, este equilibrio podría cambiar en poco tiempo, ya que los modelos de IA están avanzando muy rápidamente. El análisis de Anthropic ha identificado seis categorías profesionales en las que la IA tiene una presencia significativa: Computación y matemáticas (37,2%): programación, depuración de código y resolución de problemas de red. Artes y medios (10,3%): escritura y edición de contenidos. Educación y bibliotecas (9,3%): soporte en la generación de materiales educativos. Administración y oficinas (7,9%): automatización de informes y asistencia en tareas administrativas. Ciencias de la vida (6,4%): análisis de datos y documentación científica. Negocios y finanzas (5,9%): redacción de informes y asistencia en análisis de datos financieros. El estudio también muestra que los sectores con menor adopción de IA son aquellos que requieren un alto grado de trabajo manual o físico, como la agricultura, la pesca y la silvicultura, donde la presencia de IA es prácticamente nula (0,1%). ¿Cómo consiguieron analizar millones de conversaciones? Para llevar a cabo este análisis, Anthropic desarrolló una herramienta llamada Clio , que permite analizar conversaciones con Claude mientras se respeta la privacidad de los usuarios.  Clio categorizó aproximadamente un millón de conversaciones según las tareas laborales descritas en la base de datos O*NET del Departamento de Trabajo de EE.UU. Esto permitió mapear la relación entre el uso de la IA y diferentes tipos de ocupaciones. Los resultados también permitieron comparar la frecuencia del uso de la IA en cada ocupación con su representación en la fuerza laboral general.  Por ejemplo, los desarrolladores de software representaron el 37,2% del uso de IA, a pesar de que solo constituyen el 3,4% de la fuerza laboral en EEUU. En contraste, los trabajadores administrativos, que representan el 12,2% de la fuerza laboral, solo usaron IA en el 7,9% de las conversaciones. ¿En qué franja salarial impacta más la IA? El estudio comparó la tasa de adopción de la IA con el salario medio de cada ocupación y encontró que los trabajos con salarios bajos y muy altos son los que menos utilizan IA.  El informe también destaca que el uso de la IA es más común en ocupaciones de salario medio y alto, como programadores y científicos de datos, mientras que su adopción es menor tanto en trabajos con sueldos más bajos como en los de mayor remuneración.  Esta tendencia sugiere que existen barreras prácticas y limitaciones tecnológicas que impiden la automatización total de ciertas tareas. Por ejemplo, ocupaciones como estilistas y obstetras presentan bajos niveles de adopción de IA, debido a la necesidad de habilidades manuales o conocimientos altamente especializados. En cuanto al equilibrio entre automatización y aumento de capacidades, los datos revelan que la IA colabora con los trabajadores más de lo que los reemplaza. En un 57,4% de los casos, la IA se utilizó para validación, iteración de tareas y aprendizaje, mientras que en el 42,6% de los casos, la IA completó tareas de manera autónoma. ¿Cómo será el futuro según el Anthropic Economic Index? Todavía no se puede determinar con certeza si el uso de IA en las conversaciones analizadas está directamente relacionado con el trabajo de los usuarios, ni si los resultados generados fueron usados sin modificaciones o revisiones posteriores.  Además, el estudio se basó únicamente en datos de Claude.ai Free y Pro, excluyendo el uso empresarial y de API. Además, este análisis se centra únicamente en la fuerza laboral de EEUU. Para abordar estas limitaciones y seguir monitoreando la evolución de la IA en el mercado laboral, Anthropic planea actualizar periódicamente el Economic Index.  La empresa espera identificar más tendencias a largo plazo en el campo de la automatización y asistencia de la IA en el trabajo. En conclusión, el Anthropic Economic Index ofrece una primera visión sobre el impacto de la IA en el mundo laboral. Aunque actualmente la IA actúa más como un complemento que como un reemplazo de los trabajadores, su papel en la economía podría cambiar a medida que las tecnologías evolucionen.

En una era donde la tecnología avanza a pasos agigantados, 6 millones de personas mayores solo en España aún enfrentan barreras para integrarse en el mundo digital. Y es que no es lo mismo tener una app descargada que ser un usuario activo. Esta brecha en el uso no solo limita su acceso a servicios y oportunidades, sino que también aumentar sentimientos de soledad y aislamiento digital.  Con el objetivo de abordar esta problemática, nace COTI , una plataforma digital inclusiva que utiliza la Inteligencia Artificial (IA)  para conectar a las personas mayores con sus familias y profesionales sociosanitarios. Una solución personalizada gracias a la IA COTI destaca por su capacidad para adaptarse a las habilidades específicas de cada usuario. Al iniciar la aplicación, la persona realiza un sencillo juego cognitivo potenciado con Inteligencia Artificial que evalúa sus habilidades tecnológicas. Basándose en los resultados, la plataforma ajusta su interfaz y funcionalidades para ofrecer una experiencia personalizada y accesible. Además, un algoritmo de machine learning  analiza continuamente el uso de la aplicación, adaptándose a las necesidades cambiantes del usuario y garantizando una interacción óptima. Un entorno seguro y controlado La seguridad es una prioridad en COTI. La plataforma funciona como una red social cerrada por invitación, asegurando que los usuarios solo interactúen con personas autorizadas. Esta característica protege la privacidad y proporciona un entorno confiable para la comunicación. Beneficios para todos los involucrados Personas mayores : COTI les permite mantenerse conectadas con sus seres queridos, mejorando el bienestar emocional y fomentando la estimulación cognitiva. Familiares : La plataforma facilita la comunicación y el seguimiento del estado de sus familiares mayores, ofreciendo tranquilidad y fortaleciendo los vínculos.  Profesionales sociosanitarios : COTI optimiza la coordinación y el seguimiento de los pacientes, mejorando la eficiencia en la atención y permitiendo una gestión más personalizada. Son alertados cuando hay variaciones en la cognición de los usuarios. Compromiso con la ética y la responsabilidad en la IA La implementación de la IA en COTI se alinea con las directrices éticas promovidas por organizaciones como OdiseIA , el Observatorio del Impacto Social y Ético de la Inteligencia Artificial. OdiseIA trabaja activamente para impulsar el uso de la IA de manera ética, responsable y centrada en el bienestar social. La colaboración entre iniciativas como COTI y entidades como OdiseIA es fundamental para garantizar que la tecnología beneficie a toda la sociedad, especialmente a los colectivos más vulnerables. Un equipo multidisciplinar al servicio de la inclusión Detrás de COTI hay un equipo de profesionales comprometidos con la mejora de la calidad de vida de las personas mayores. Liderados por Antonio González-Adalid , neuropsicólogo y CEO de la plataforma, el equipo combina experiencia en neurociencia, diseño de interfaces y accesibilidad digital para ofrecer una herramienta intuitiva y efectiva. Conclusión COTI representa un avance significativo en la integración de las personas mayores en la era digital. Al combinar tecnología avanzada con un enfoque centrado en el usuario, la plataforma no solo facilita la comunicación, sino que también promueve la autonomía y el bienestar de sus usuarios. Iniciativas como COTI demuestran cómo la IA, implementada de manera ética y responsable, puede ser una herramienta poderosa para la inclusión social y la mejora de la calidad de vida. Desde el lunes 3 de marzo ya puedes descargar la aplicación: Gracias a que esta startup de impacto social están en periodo de lanzamiento, puedes disfrutar de 3 meses gratis con el código descuento: COTIPRES