Search Results

El borrador de la ley europea sobre inteligencia artificial establece nuevos requisitos para las soluciones tecnológicas que hagan uso de la inteligencia artificial en casi todos sus ámbitos de aplicación. En este análisis desgranamos las implicaciones para aquellas soluciones destinadas a optimizar procesos de gestión urbana. El pasado mes de abril de 2021 la Comisión Europea presentó una propuesta de ley sobre inteligencia artificial que en la actualidad se encuentra en tramitación parlamentaria. En aquel momento debatimos sus principales novedades en esta jornada organizada por OdiseIA y FIAL. Hoy queremos aterrizar sus implicaciones en un ámbito bastante transversal como es el de las soluciones orientadas a mejorar la gestión urbana, IA para ciudades inteligentes. Ante la regulación hay básicamente dos actitudes: hay quienes la consideran una barrera para la innovación, y quienes consideramos que ha sido precisamente la regulación la que ha contribuido de forma determinante a la seguridad en muchísimos ámbitos: el transporte terrestre, aéreo o la seguridad alimentaria son ejemplos del pasado. Hoy llega al ámbito de los desarrollos tecnológicos, y sin duda será positivo para evitar determinados riesgos a través de protocolos y controles de calidad. El primer punto a destacar es la definición amplia de inteligencia artificial que hace el borrador en su artículo 3 y en su anexo I. Así, cualquier sistema que recabe datos y los procese para generar un resultado (desencadenar una acción o decisión, esté o no automatizada) cae bajo dicha definición y por tanto bajo lo dictado por esta nueva norma, independientemente del nivel de sofisticación analitica de los algoritmos empleados en el procesamiento de datos para generar la información de salida. El segundo punto relevante es que la AI Act hace una jerarquización de las soluciones específicas en función de su riesgo potencial. Esta taxonomía no se basa en sectores específicos (salud, justicia, movilidad, ciudades inteligentes, etc.) sino que reconoce que dentro de cada uno de estos sectores puede haber multitud de casuísticas de nivel de riesgo muy dispar, y por tanto es más granular: se centra en aplicaciones específicas que pueden aplicar a uno o varios de estos sectores. Así, distingue entre las siguientes clases: Aplicaciones prohibidas (título II, art. 5) Aplicaciones de alto riesgo (título III, art. 6 y siguientes) Aplicaciones sujetas a obligaciones de transparencia (título IV, art. 52) Resto de aplicaciones, que podrán estar sujetas a códigos de conducta voluntarios (título IX, art. 69) Recorramos a continuación las soluciones utilizadas en ciudades inteligentes de acuerdo a esta jerarquización según su primera versión, que será revisada periódicamente. 1.-Aplicaciones prohibidas Entre otras, prohíbe las aplicaciones de IA para vigilancia y seguridad ciudadana mediante identificación biométrica remota «en tiempo real» en espacios de acceso público*. *salvo que dicho uso sea estrictamente necesario para alcanzar uno o varios de los objetivos siguientes: i) la búsqueda selectiva de posibles víctimas concretas de un delito, incluidos menores desaparecidos; ii) la prevención de una amenaza específica, importante e inminente para la vida o la seguridad física de las personas físicas o de un atentado terrorista; iii) la detección, la localización, la identificación o el enjuiciamiento de la persona que ha cometido o se sospecha que ha cometido algún delito grave (para los que la normativa en vigor en el Estado miembro implicado imponga una pena privativas de libertad cuya duración máxima sea al menos de tres años) Aquí hay varios aspectos por revisar: ¿qué riesgo se quiere evitar? Si es la vigilancia indiscriminada por el problema de privacidad que supone, entonces debería prohibirse no solo «en tiempo real» sino también «en diferido», y además debería vetarse que se haga cuando es un humano el que está tras la cámara, o en caso contrario estaríamos penalizando una tecnología como la IA, y no una aplicación. La segunda cuestión abierta es si por «espacio de acceso público» estamos abarcando no solo espacios de titularidad pública (calles, plazas, edificios administrativos, terminales de transporte) sino además todo inmueble abierto al público y accesible por la población general (comercios, oficinas bancarias, etc.). Recordemos que el vigente reglamento general de protección de datos europeo y la LOPD nacional ya fueron suficientes para sustentar la sanción de AEPD frente a Mercadona. 2.-Aplicaciones de alto riesgo Entre ellas, las que pueden afectar a un gobierno local o a una empresa de prestación de servicios urbanos son: Sistemas de IA que manejen maquinaria con efectos potenciales sobre la seguridad física de sus usuarios, lo que afecta a las soluciones de movilidad mediante vehículos autónomos, entre muchas otras. Sistemas de IA de identificación de personas por imagen, voz o cualquier otra característica personal, lo que afecta a los sistemas autenticación biométrica utilizados por cualquier entidad, incluídos los desarrollados para facilitar las interacciones entre un ayuntamiento y los ciudadanos, o los de control de acceso a edificios públicos por parte de ciudadanos o empleados municipales. Relaciones laborales y gestión de recursos humanos: sistemas de IA que guíen decisiones de contratación, promoción, despido, o la asignación de tareas y evaluación del rendimiento de empleados. Algo que afectará a entidades tanto públicas como privadas y que responde a preocupaciones desencadenadas por determinadas consecuencias del uso de algoritmos para estos propósitos. Acceso a servicios públicos esenciales: sistemas de IA para evaluar la admisibilidad de las personas físicas de cara a regular su acceso a prestaciones de asistencia pública, o que prioricen la respuesta en el envío de servicios de primera intervención en situaciones de emergencia (bomberos, policía, protección civil, restablecimiento de servicios urbanos, etc.) Asuntos relacionados con procesos democráticos: queda por ver si se ciñe a sistemas informáticos para facilitar procesos electorales, o abarca también las herramientas utilizadas en procesos de participación ciudadana. Todas estas aplicaciones estarán sujetas a una serie de requisitos que comenzarán por la obligación de registrar la solución desarrollada en una una base de datos pública para toda la UE, lo que permitirá que las autoridades competentes, los usuarios y otras personas interesadas verifiquen si un sistema de IA de alto riesgo cumple los requisitos estipulados, y que se resumen en el siguiente cuadro: 3.-Aplicaciones sujetas a obligaciones de transparencia Los sistemas de IA destinados a interactuar con personas físicas -por ejemplo, los chatbots de atención ciudadana, ya sea por comunicación escrita u oral-estarán diseñados de forma que dichos ciudadanos estén informados y sean conscientes de que están manteniendo una conversación con un sistema de IA, excepto en las situaciones en las que esto resulte evidente debido a las circunstancias y al contexto de utilización. 4.-Códigos de conducta voluntarios para el resto de aplicaciones La Comisión y los Estados miembros fomentarán y facilitarán la elaboración de códigos de conducta destinados a promover entre el resto de sistemas de IA no considerados de alto riesgo la aplicación voluntaria de todos o algunos de los mencionados requisitos establecidos para el control de dichos sistemas. Conclusiones La propuesta de ley sobre inteligencia artificial de la Unión Europea es pionera a nivel mundial al establecer un marco claro de desarrollo y uso de la IA sobre la base de las consideraciones que las diferentes estrategias nacionales de IA ya habían avanzado en los últimos años. Los estándares de trabajo, controles de calidad, procesos de certificación y agencias de control que deriven de esta novedad regulatoria dotarán de nuevas garantías de seguridad a los ciudadanos de la UE, y los desarrolladores extranjeros que desplieguen sus soluciones en la UE estarán también obligados a cumplir con este nuevo marco. Los sistemas de IA sujetos a requisitos son ante todo aquellos que interactúan con los ciudadanos, y que comportan riesgos potenciales para los bienes jurídicos que la AI Act quiere proteger: la seguridad física de los individuos, su intimidad, o sus derechos de acceso a servicios públicos en igualdad de condiciones y sin sufrir discriminación. El resto de aplicaciones a priori no estarán sujetas a requisitos especiales, salvo que sus desarrolladores quieran adherirse y aplicar códigos de conducta voluntarios. Ejemplos de este tipo de aplicaciones son los desarrollos orientados a hacer una lectura y monitorización de los flujos del metabolismo urbano sobre dato no personal: análisis de movilidad a partir de datos agregados de geoposición de terminales móviles análisis de consumo o de actividad turística sobre datos agregados de pagos con tarjeta análisis y gestión de las redes de suministro de energía eléctrica análisis y gestión de la red de suministro de agua potable gestión automatizada del riego en zonas verdes gestión de las redes de saneamiento e infraestructuras de depuración gestión de la limpieza de espacios públicos y de recogida y tratamiento de residuos sólidos urbanos gestión automatizada del sistema de alumbrado público (…) Así, las soluciones empleadas para diseñar las infraestructuras que dan soporte a dicho metabolismo, para optimizar o automatizar la gestión de redes, o para llevar a cabo mantenimiento predictivo, se consideran de bajo riesgo siempre que funcionen sobre datos no personales y no den respuesta a ciudadanos concretos en una interacción individual. Lo mismo sucede con el desarrollo de gemelos digitales o modelos informáticos de la realidad física para su diseño ex novo -o para el análisis de su funcionamiento en el caso de elementos ya existentes- siempre que no pongan en riesgo los bienes jurídicos que la AI Act protege. En definitiva, una vez que este nuevo marco legal sea aprobado por el parlamento europeo, habrá un periodo de tiempo previo antes de su aplicación plena. Este tiempo debe ser aprovechado por empresas y gobiernos para conocer pormenorizadamente los nuevos requisitos, adaptar las soluciones para ciudades inteligentes al mismo, y tenerlas en cuenta en el diseño de nuevos servicios. Formamos parte del área de Sostenibilidad y Ciudades Inteligentes de OdiseIA: Ignacio Alcalde, Fernando Tomás, Carmen Panadero, Juan Jose González y Juan Murillo, entre otros.

La Inteligencia Artificial es, sin duda, una tecnología en plena expansión, pero en realidad no tengo tan claro si sigue necesitando el calificativo de “nueva”. No es tan nueva tecnología. En realidad, lleva desarrollándose: al menos desde 1956, según cuenta el Dr. Esteban García-Cuesta en su artículo “Inteligencia artificial: presente y futuro”, en la colección de artículos STEAM Essentials de la Universidad Europea. Es decir, la inteligencia artificial lleva desarrollándose casi el mismo tiempo que los ordenadores. ¿Alguien llama “nueva tecnología” a la computación? Me temo que no. Lo que sí que ocurre con la IA es que cada vez está presente en más entornos, cada vez utilizamos más sus técnicas para más procesos. Navegadores que calculan la ruta más rápida teniendo en cuenta el tráfico actual, altavoces inteligentes, recomendadores de servicios o de productos, asistentes personales que reservan huecos de tu agenda para “concentración”, etcétera. Ahora, la IA está presente en casi todas partes y, en los entornos donde no está, es porque aún no ha llegado, pero ya está en camino. Todos los artículos sobre la historia de la IA coinciden en una cosa: el objetivo de la IA en sus comienzos era simular la inteligencia humana, así que su desarrollo está muy ligado a lo que realmente conocemos sobre ese concepto, el concepto de inteligencia. “Doctores tiene la iglesia”, así que dejo a las personas expertas que nos expliquen, si quisieran hacer el favor, en los comentarios, el estado actual de la cuestión sobre “qué es la inteligencia” y, sobre todo, qué aún no sabemos pero sospechamos sobre ella. Quizás ahí encontremos los próximos caminos de desarrollo de la propia IA. Una cosa que sí sabemos sobre la inteligencia, sin ninguna duda, es que es diversa. Existe la inteligencia en múltiples formas. Ya no es, como se creía hace no mucho tiempo, patrimonio exclusivo de “la mente”, la filosofía y las matemáticas. Hay inteligencia en el movimiento (inteligencia kinesética), en la música (inteligencia musical) y resto de las artes. También en las emociones: la inteligencia emocional. La inteligencia emocional nos permite comprender las emociones, propias y ajenas, y manejarlas correctamente. Incluso, con entrenamiento (ya sea consciente o inconsciente), una persona emocionalmente inteligente, es decir, con un alto grado de desarrollo de la inteligencia emocional, es capaz de provocar (y provocarse) determinadas emociones de forma consciente. La inteligencia emocional cuenta con la empatía emocional como vehículo de transmisión de emociones. Photo by Tengyart on Unsplash Pues bien, si la inteligencia artificial pretende emular la inteligencia natural de los seres humanos, lógico es que queramos desarrollar una Inteligencia Emocional Artificial (IEA). El término IEA tiene gancho, pero ¿qué es? ¿Cómo lo definiríamos? ¿Existe algo similar o es pura ciencia ficción “de momento”? ¿Existirá en el futuro o es una quimera? IEA DÉBIL Y FUERTE: PRESENTE Y FUTURO Sabemos clasificar a la IA en dos tipos: la IA débil y la IA fuerte. La IA débil existe en la actualidad. Consiste en utilizar las técnicas desarrolladas en la IA para resolver problemas complejos, pero conocidos previamente. Es decir, un programa de IA que ayuda en el diagnóstico de enfermedades, como la detección de COVID analizando radiografías de pulmón, o un altavoz inteligente que analiza las órdenes verbales para ejecutarlas. La IA fuerte consistiría en programas de IA que deciden, de forma autónoma, qué problemas van a resolver y luego, lo resuelven de nuevo eligiendo autónomamente las técnicas y los algoritmos más apropiados “según su criterio”. Es decir, la IA fuerte se comportaría como una persona humana en muchos aspectos, discriminando de sus datos de entrada lo que le interesa en un momento determinado y utilizándolos para lo que estime oportunos. Esta IA fuerte aún no existe y, al menos yo, no soy capaz de aventurar una fecha para su “primer lanzamiento”. Lo que sí que sabemos es que se están dando pasos decididos en esa dirección. Puede que sea la línea del horizonte, inalcanzable nunca porque se aleja según nos acercamos, pero sí que sirve para marcar el avance de la IA. Intentar alcanzar la IA fuerte es el motor que permite hacer crecer a la IA débil y explorar cada vez más escenarios. Pues bien, de la misma forma podemos definir la IEA fuerte y la IEA débil. La IEA débil (IEAD) sería entonces aquellos desarrollos basados en IA capaces de identificar emociones humanas entre sus datos de entrada y, puede, que usarlos para proponer o realizar nuevas acciones. Esta IEAD sí que existe ya y crece por momentos. Prueba de ello es el congreso Emotion AI organizado hasta el 2019 en el MIT (el 2020 fue suspendido por la pandemia). Hay muchos ejemplos concretos en entornos de investigación (análisis de interacciones de un usuario en redes sociales o foros para detectar su estado anímico; avatares gráficos que simulan emociones con sus gestos, diversos tonos de voz para altavoces inteligentes o en chatbots) y en la prensa aparecen de vez en cuando situaciones en las que se usa para cometer delitos o crear fake news (suplantación de voces para ordenar transferencias de dinero; vídeos trucados que simulan personas famosas hablando, etc.). De momento, aplicaciones de uso común que usen claramente IEA hay pocas, pero parece que proliferarán pronto, seguramente durante los primeros años de esta década del 2020. La IEA fuerte (IEAF) es otra cosa. Creo que confiar que pronto aparezca una IEA (montada sobre un androide o en un servidor en la nube) que nos ayude a prevenir los suicidios, las bajas laborales por causas emocionales, a tratar la depresión, es posible. Pero esperar que exista una IEAF que decida autónomamente qué emoción “sentir” y comportarse en su relación consigo misma y con el medio que la rodea, incluyendo su relación con los seres humanos, es todavía muy aventurado. No digo que no sea posible; lo que digo es que la moneda de su existencia está todavía volando y no sabemos si caerá de cara (existirá) o de cruz (se quedará en el campo de la ciencia ficción). NUEVAS DIRECCIONES Pero, de nuevo con el símil del horizonte, los pasos que demos en esa dirección, si los damos bien, con responsabilidad y bajo el timón de fuertes principios éticos, harán avanzar el estado del bienestar hacia adelante. Si, por el contrario, miramos para otro lado o cerramos los ojos, negando esa posibilidad y sin hacer nada al respecto, corremos un fuerte peligro. La comprensión de nuestras emociones y su análisis formal que permita desarrollas la IEA como herramienta, facilitará, y mucho, las posibilidades de inclusión de cada vez más personas y colectivos. De hecho, para muchas personas con una forma distinta de aprender (discapacidad cognitiva), con formas diferentes de relacionarse con los demás (como las personas enmarcadas dentro del espectro autista), o personas mayores, muy mayores, la IEA podría ser una mejor opción para formar parte de una sociedad con una fuerte tendencia a la estandarización en todo. Juan José Escribano Otero es Profesor titular de la Universidad Europea. Miembro de AENUI (Asociación de Enseñantes Universitarios de Informática) y director del Área IAI (Inteligencia Artificial Inclusiva) de OdiseIA. juanjose.escribano@gmail.com juanjose.escribano@universidadeuropea.es

OdiseIA y PwC han celebrado la sesión AI FOR GOOD, Inteligencia artificial para una sociedad y un planeta mejor, dondeseha puesto de manifiesto la importancia de tener información actualizada para enfrentarnos a retos difíciles de resolver con métodos tradicionales. La colaboración de humanos y tecnología, con un marco ético, permite atajar de manera más precisa estos grandes desafíos de nuestro tiempo. Sobre las diferentes aplicaciones de la Inteligencia Artificial hemos hablado con un panel de especialistas invitados de primer nivel: Alberto Pinedo. National Technology Officer y responsable del equipo dedicado al uso ético y responsable de la inteligencia artificial en Microsoft. Víctor Khodayar. Asesor Regional de Alianzas Estratégicas y Programas para Europa y Asia Central en la Oficina de las Naciones Unidas. Miguel Rodríguez. Ingeniero de nuevas tecnologías y metodologías de innovación para el impacto social en TECSOS (Fundación Vodafone España y Cruz Roja Española). Celia Roca. CEO ITWILLBE, organización dedicada a la erradicación de la pobreza a través de ideas innovadoras y tecnología disruptiva. Marta Colomina. Directora General de la Fundación PwC Aplicaciones de la Inteligencia Artificial La IA es un instrumento clave para enfrentarnos a los grandes desafíos de nuestra era y debe dar resultados tangibles, claros y duraderos. Debemos promover la Inteligencia Artificial para que sea una prioridad y esté en la hoja de ruta de cada compañía. La inteligencia artificial tiene mucho por aportar. Alguno de los campos en los que tiene aplicación son: Aspectos medioambientales, proyectos que tengan alto impacto, visión pragmática y de futuro. Herencia cultural. Innovación usable por las personas de las ONGs que están en el terreno esforzándose en preservar la cultura. Especialmente relevante con la invasión rusa a Ucrania y las consecuentes migraciones. Cambio social y cultural. El consumidor cada vez pide más a las empresas que hagan algo. Como sociedad queremos trabajar para empresas que colaboren por un bien social. Tercer sector. Ayudar a los clientes a mejorar sus estrategias. Fortalecer los sistemas de prevención de desastres naturales como el cambio climático, la calidad del aire y los océanos; y de salud, como contagios por la COVID-19 y la vacunación. Prevención de la soledad gracias a herramientas como los asistentes de voz que han permitido dar compañía y facilitar el uso de herramientas digitales a personas en riesgo de soledad. ¿Por dónde empezar? Incorporar a las personas en su planificación. Las nuevas tecnologías, la IA, tienen que estar hechas por y para las personas y deben atender a las problemáticas diversas que existen en el mundo. Colaboración y sinergIA para el impacto. Unión de los diferentes sectores para que las iniciativas que se ponen en marcha tengan un impacto real y grande en los problemas que tratan resolver. Calidad, disponibilidad y privacidad de los datos. Cada dato tiene un valor dependiendo de la organización. Hay que sacar valor y hacer una buena gestión del dato. Incorporar a las administraciones públicas. Las empresas privadas han invertido tiempo en elaborar aplicaciones especializadas con IA para intentar aportar. Soluciones. Hace falta un cambio de mentalidad desde las administraciones públicas para enfrentarnos a los desafíos a nivel estratégico. Financiación tanto individual como colectiva, pública y privada. Visualiza el webinar y/o descarga el informe si deseas ampliar los contenidos. ¿Te ayudamos? Ponte en contacto con nosotros para profundizar en cualquier aspecto que consideres relevante y conocer más detalles en: contacto@odiseia.org y es_hablemos@pwc.com

INDESIA es una asociación para impulsar el uso de los datos y la IA en empresas y PYMES de la industria española, liderada por Repsol, Gestamp, Navantia, Técnicas Reunidas, Telefónica, Inditex, Ferrovial, Microsoft y Airbus. Estas empresas decidieron crear esta asociación de ámbito nacional, aunque con convocación europea, con el objetivo de promover el desarrollo de las empresas en el ámbito de la digitalización y su transición hacia una cultura data driven. Por ello, diseñaron un proyecto tractor para escalar el uso de los datos y la inteligencia artificial a lo largo de toda la cadena de valor, definiendo un propósito para cada uno de los participantes; grandes empresas, PYMES, start-ups, proveedores tecnológicos e instituciones académicas. Su objetivo es desarrollar una nueva economía que genere crecimiento económico para España a través de la aceleración del uso de los datos y la Inteligencia Artificial por parte de las empresas y PYMES industriales. Alcance nacional Transversalidad industrial y accesibilidad Sostenibilidad medioambiental Ecosistema escalable Desde el I+D+i a la comercialización Capacitación y empleo STEM ¿Por qué ahora es necesaria INDESIA? El sector industrial en España se enfrenta a grandes retos, para los que va a necesitar incrementar la competitividad mediante la automatización y optimización de los procesos industriales, así como mejorar la sostenibilidad mediante la eficiencia energética, el desarrollo de nuevos materiales no contaminantes y el refuerzo de la economía circular. ¿Qué papel desempeñará OdiseIA? El objetivo es que OdiseIA aporte a las iniciativas de IndesIA un enfoque que permita garantizar la asimilación de la Inteliegncia Artificial de manera responsable, atendiendo a los principios éticos necesarios para su adopción y las normativas que están en curso. Como primera línea de trabajo, OdiseIA está trabajando junto a Microsoft y Telefónica en la elaboración de un documento de buenas prácticas para una IA responsable, alineado con la iniciativa GuIA de OdiseIA, que a su vez recoge las prácticas de estas dos compañías.

Un curso diseñado por Fabian Garcia Pastor, e impartido por expertos de OdiseIA como el propio Fabian, Lorenzo Cotino, Ignacio Gonzáles de los Reyes y Juan Manuel Belloto Gómez, donde se muestra cómo tratar la Privacidad en la Inteligencia Artificial con una visión 360. La OdiseIA School imparte formacionessobre Inteligencia Artificial y su uso responsable en empresas, administraciones públicas, escuelas de negocio, etc., contando para ello con los expertos de OdiseIA, quienes la abordan desde una perspectiva de negocio, tecnológica, ética y jurídica como es necesario para comprender todas las posibles aplicaciones prácticas y sus implicaciones de esta tecnología emergente. En este curso, con una versión reducida disponible de manera abierta en nuestro canal de Youtube (https://www.youtube.com/watch?v=njkghAyc1d8), los expertos de OdiseIA Fabian García Pastor, Lorenzo Cotino, Ignacio Gonzáles de los Reyes y Juan Manuel Belloto Gómez, muestran cómo tratar la Privacidad en la Inteligencia Artificial con una visión 360, atendiendo a las perspectivas antes mencionadas. En él se descubren las claves para gestionar con éxito la privacidad en las organizaciones, tratando los siguientes contenidos: La esencia de la privacidad Los fundamentos de la protección de datos La privacidad, la inteligencia artificial y la ética Aspectos regulatorios clave La aplicación de la privacidad en varios sectores Las tecnologías PET (Privacy Enhancing Technologies) y los marcos para la gestión de la privacidad El impacto de la protección de datos en la IA y en la ética El enfoque de la privacidad que hacen Google, Microsoft, IBM y Telefónica La aplicación de la privacidad en varios sectores Este curso, en su versión extendida, está disponible para aquellas entidades que así lo deseen, atendiendo a sus necesidades particulares. Para ello pueden dirigirse a contacto@enrique-javier-benitez

El programa, con 5 convocatorias de 20 horas de duración cada una, tuvo una valoración media de 8,8 sobre 10 por parte de los más de 100 asistentes. OdiseIA imparte formaciones sobre Inteligencia Artificial y su uso responsable en empresas, administraciones públicas, escuelas de negocio, etc., contando para ello con los expertos de OdiseIA, quienes la abordan desde una perspectiva holística atendiendo a dimensiones de negocio, tecnológica, ética y jurídica como es necesario para comprender todas las posibles aplicaciones prácticas y sus implicaciones de esta tecnología emergente. Desde el mes de Abril al de Julio de 2021 impartimos un programa formativo en el que compartimos el conocimiento de OdiseIA en Inteligencia Artificial con miembros del Ministerio de Asuntos Económicos y Transformación Digital (MINECO), y de la Secretaría de Estado de Digitalización e Inteligencia Artificial (SEDIA) del gobierno de España. El programa, de 20 horas de duración, tuvo cinco convocatorias de unos 20 alumnos cada una. El contenido del programa proporcionaba una visión 360 sobre la Inteligencia Artificial, partiendo de los conceptos necesarios para entender la IA, continuando con los enfoques estratégicos en la Administración Pública tanto en España como en Europa, aterrizados mediante casos de uso concretos, pasando por la gestión de proyectos y llegando a las tecnologías inteligentes e incluso su integración con otra tecnología emergente como Blockchain. Por supuesto, alineado con la misión de OdiseIA, en todos los módulos abordamos los enfoques responsables y normativos imprescindibles en los planteamientos sobre Inteligencia Artificial, además de impartir módulos específicos sobre dichas dimensiones. Además, el programa terminó con una práctica grupal que permitió a los asistentes aplicar los conocimientos adquiridos. En esta aventura participaron once miembros de OdiseIA que tuvieron un desempeño sobresaliente, ya que los más de cien alumnos del MINECO y la SEDIA que lo cursaron otorgaron al programa una valoración media de 8,8 sobre 10. Diseño del programa: Juan Manuel Belloto Gómez y Adrián González Sánchez. Coordinación: Juan Manuel Belloto Gómez Instructores (por orden alfabético) Juan Manuel Belloto Gómez Enrique Javier Benítez Palma Richard Benjamins Lorenzo Cotino Hueso Juan de la Cruz Juan José Escribano Otero Ignacio Gonzalez de los Reyes Gavilán Adrián González Sánchez Idoia Salazar Paul Van Branteghem Mónica Villas Estos programas formativos impartidos por OdiseIA están disponibles para aquellas entidades que así lo deseen, atendiendo a sus necesidades particulares. Para ello pueden dirigirse a contacto@odiseia.org

Acabamos de publicar nuestra Memoria de Actividades 2021. En ella podrás conocer mejor quiénes somos, qué actividad hemos desarrollado en 2021 y qué nos proponemos conseguir en este 2022 ya en curso. Acaba de ver la luz la Memoria de Actividades 2021 de OdiseIA. Aunque ya está algo avanzado el año actual, no hemos querido dejar de publicar este documento que recoge, en unas 50 páginas, los datos más importantes más importantes sobre nosotros y nuestra actividad en el año anterior. Contamos en qué consiste OdiseIA, sus objetivos y sus valores y también cómo estamos organizados. Resumimos cuáles han sido nuestros principales logros en el año 2021 incluyendo iniciativas tan importantes como el lanzamiento del Proyecto GuIA, la participación en los consorcios Indesia y Gaia-X, la realización de nuestra primera acción de formación externa con la SEDIA (Secretaría de Estado de Digitalización e Inteligencia Artificial) o el más que relevante crecimiento en socios tanto individuales como institucionales. Además, contamos, área a área, sus objetivos, la labor que han realizado en 2021 y lo que se proponen conseguir en 2022. Y cerramos con los principales retos para este año 2022: participación en el piloto de reglamento de la UE sobre Inteligencia Artificial, primeros entregables de GuIA o el lanzamiento de OdiseiA School y el Certificado OdiseIA. Pero quizá, lo que más nos satisface, es el caluroso ‘feedback’ de nuestros socios, privados e institucionales, con que abrimos el documento. A partir de ahora esperamos resumiros, cada año, lo que vamos haciendo y consiguiendo. Puedes encontrar el documento con la Memoria 2021 en este enlace y mucha más información, en nuestra página web: https://www.odiseia.org/ Ignacio G.R. Gavilán Director del Área de Relación Robots-Personas y Director de Operaciones en OdiseIA. Ignacio G.R. Gavilán es Ingeniero Industrial, MBA y PMP. Es Fundador y CEO de Reingeniería Digital. Además, es Profesor, Director académico y mentor de proyectos en Escuela de Organización industrial y colaborador en otras escuelas de negocio. Escritor y conferenciante, es autor de “La Carrera Digital” (ExLibric 2019) y “Robots en la sombra” (Anaya Multimedia, 2021).

Tras dos años de su puesta en marcha la Agenda España Digital ha sido actualizada para su adecuación al horizonte 2026 y su alineamiento con el Plan de Recuperación. Esta Agenda se erige como pilar estratégico de recuperación y como vector de modernización y prosperidad impactando tres dimensiones: infraestructuras y tecnología, economía y personas. La inversión del Estado a través del Plan de Recuperación y la Agenda España Digital tiene como finalidad impulsar el salto tecnológico en conectividad, ciberseguridad, Inteligencia Artificial y datos. Este gran proyecto de transformación digital incluye 8 planes específicos: el Plan para la Conectividad y las Infraestructuras Digitales de la sociedad, la economía y los territorios; la Estrategia de Impulso a la Tecnología 5G; la Estrategia Nacional de Inteligencia Artificial; el Plan Nacional de Competencias Digitales; el Plan de Digitalización de pymes; el Plan de Digitalización de las Administraciones Públicas; España Hub Audiovisual de Europa y el Plan Nacional de Ciberseguridad. Dentro de todas las novedades comunicadas en el evento del pasado 8 de julio, la Dirección del área “Bioética y Neuroética” de OdiseIA se hace eco del anuncio de Nadia Calviño, vicepresidenta del Gobierno y ministra de Asuntos Económicos y Transformación Digital, acerca del inicio del diálogo entre el Gobierno y la Comunidad de Madrid con el objetivo de materializar la creación del 𝗖𝗲𝗻𝘁𝗿𝗼 𝗡𝗮𝗰𝗶𝗼𝗻𝗮𝗹 𝗱𝗲 𝗡𝗲𝘂𝗿𝗼𝘁𝗲𝗰𝗻𝗼𝗹𝗼𝗴í𝗮. La Comunidad de Madrid ha presentado su candidatura para albergar la sede del nuevo proyecto 𝗦𝗽𝗮𝗶𝗻𝗡𝗲𝘂𝗿𝗼𝘁𝗲𝗰𝗵, concretamente en el campus de la UAM (Universidad Autónoma de Madrid) junto al Parque Científico de Madrid y a otras reputadas entidades como son el Centro de Biología Molecular Severo Ochoa, IMDEA Nanociencia, el Instituto de Física Teórica, el Instituto de Ciencias Matemáticas o el Centro de Investigación en Ciencias de la Alimentación. El proyecto ha sido asesorado por prestigiosos expertos internacionales en la materia como científicos provenientes de universidades de Harvard, Columbia y Berkeley. Asimismo, se creará una red que interconectará a todas las universidades y centros punteros en neurotecnologías, que se llamará NeuroMadrid, como una apuesta a la ciencia de excelencia global. El objetivo es posicionar a España como un centro de referencia en Neurotecnología tanto en Europa como a nivel mundial. Estamos hablando de un proyecto que se convertirá en motor de atracción del talento internacional en este campo de conocimiento interdisciplinar. El pasado octubre la vicepresidenta primera, Nadia Calviño, expresó el interés por recoger propuestas sobre la aplicación de la Inteligencia Artificial en la neurotecnología que fomenten la investigación, la transmisión de conocimiento a la industria y la transferencia de los éxitos en beneficio de la sociedad. La Manifestación de Interés dirigida a agentes privados y públicos que incluía a empresas, a centros de investigación y a universidades, presentaba dos objetivos: Identificar acciones y desafíos ante el deseo de posicionar a España como un referente en Neurotecnología. Conocer las necesidades de los centros de investigación y del tejido empresarial para poder abordar dicha transformación. Las propuestas debían responder a cinco líneas de trabajo: Fomento de la investigación en el ámbito de la neurotecnología y la Inteligencia Artificial. Aplicación de los resultados para el beneficio de la sociedad. Transferencia de conocimiento. La generación de talento, atracción de talento internacional y retención de talento extranjero. Identificación y posterior desarrollo de soluciones para mitigar el impacto ético de las neurotecnologías. Esta acción permitirá seguir avanzando también en la Estrategia Nacional de Inteligencia Artificial (ENIA) en una prometedora industria con proyección exponencial.

¿Veremos en un futuro próximo una Justicia con una Inteligencia Artificial que tome decisiones? Conversación entre el juez Alfonso Peralta Gutiérrez y Fabián García Pastor en el marco de la iniciativa Diálogos 360 de OdiseIA. Se pasa revista a diversos aspectos relacionados con la llegada de la Inteligencia Artificial en la Justicia: la situación actual, las aplicaciones, el impacto social, el impacto ético, etc. #video

Intervención de Idoia Salazar y Richard Benjamins en las Cortes de Aragón, en las Audiencias Legislativas de la Comisión de Ciencia, Universidad y Sociedad del Conocimiento, dentro del proceso legislativo de tramitación del  PROYECTO DE LEY DE MEDIDAS PARA LA IMPLANTACIÓN Y DESARROLLO EN ARAGÓN DE TECNOLOGÍAS EN LA NUBE (CLOUD COMPUTING). Intervención de Idoia Salazar y Richard Benjamins (minutos 42:30 hasta 52:10): Los representantes de OdiseIA, Observatorio Del Impacto Social y Ético de la Inteligencia Artificial, destacaron los siguientes aspectos del Proyecto de Ley: a) El énfasis puesto en la protección de datos (artículo 13, puntos f y g). b) la necesidad de construir “confianza digital” (artículo 34). c) La importancia de la sostenibilidad, dado que la nube tiene su propia huella de carbono. En este sentido, recomendaron vigilar que los proveedores tengan una estrategia sostenible, alineada con los principios ESG, a la hora de realizar las contrataciones de estos suministros. Acceso a la web de las Cortes de Aragón y al texto del Proyecto de Ley: https://ecomisiones.cortesaragon.es/index.php?option=com_content&view=article&id=5030:x-legislatura-ciencia-universidad-y-sociedad-del-conocimiento-proyectos-de-ley-proyecto-de-ley-de-medidas-para-la-implantacion-y-desarrollo-en-aragon-de-tecnologias-en-la-nube-cloud-computing&catid=468:ciencia-universidad-y-sociedad-del-conocimiento-docu&Itemid=177

Coincidiendo con el Día Internacional de Ada Lovelace, la primera programadora de la historia, 42Madrid, el campus gratuito de programación más innovador del mundo impulsado por Fundación Telefónica, y la mayor red de mujeres profesionales y emprendedoras de habla hispana, Womenalia, han organizado una jornada para visibilizar a mujeres referentes en el ámbito STEAM, impulsar la vocación de estas en el ámbito de la programación y contribuir a romper la brecha digital de género. Idoia Salazar, presidenta y co-fundadora del Observatorio del Impacto Social y Ético de la Inteligencia Artificial (OdiseIA), ha sido la responsable de inaugurar la sesión con una charla sobre la importancia del papel de la mujer en la implantación positiva y ética de la Inteligencia Artificial, y las consecuencias de la falta de mujeres en la programación en general y la programación de algoritmos en particular. Enlace a la noticia: https://www.eleconomista.es/ecoaula/noticias/11986570/10/22/Fundacion-Telefonica-y-Womenalia-impulsan-la-vocacion-de-las-mujeres-por-la-programacion.html

Desarrollar modelos entrenados con datos racistas o sexistas, utilizar datos de personas fallecidas para crear vídeos falsos y tomar decisiones basadas en los criterios de un algoritmo. La presidenta de OdiseaIA, Idoia Salazar, y la fundadora de The Ethical Tech Society, Lorena Jaume-Palasí, debaten sobre los riesgos de la IA y la forma de abordarlos en el cuarto episodio del pódcast ‘Constante Futuro’ Predecir proteínas para descubrir nuevos fármacos, vaticinar la lluvia o anticipar fallos en la cadena de suministro.  Pese a las aplicaciones útiles de la inteligencia artificial (IA), las lagunas de privacidad o la perpetuación de comportamientos racistas, machistas o colonialistas debido al origen de los datos que se emplean para entrenar a los algoritmos son preocupantes. Para abordar esos desafíos éticos, la Unión Europea ha presentado un reglamento que propone multar a las empresas que desarrollen sistemas de IA dañinos, una norma que puede definir las bases para regular esta tecnología en todo el mundo. Más allá de la regulación, algunos expertos ya están reflexionando sobre las implicaciones éticas de la IA y la forma de enfrentarse a ellas. Idoia Salazar, fundadora del Observatorio Social y Ético de la IA (OdiseIA), colaboradora de la Secretaría de Estado de digitalización e Inteligencia Artificial de España y miembro del equipo de expertos en IA del Parlamento Europeo, y Lorena Jaume-Palasí, fundadora de The Ethical Tech Society, una organización que investiga las implicaciones sociales de los procesos de automatización y miembro del panel de Evaluación de Opciones Científicas y Tecnológicas de la Unión Europea, han debatido sobre las luces y las sombras de la inteligencia artificial en el cuarto episodio del pódcast Constante Futuro, que puedes escuchar en Spotify, Ivoox y Apple Podcasts. Uno de los problemas de la inteligencia artificial más conocidos es la discriminación. Un caso real fue el de COMPAS, un sistema utilizado por la justicia penal de EE UU con sesgos hacia los acusados afroamericanos. Los propios modelos de inteligencia artificial que generan textos automáticamente analizan datos de internet, entre ellos contenidos tóxicos y desinformación, que pueden replicar después. ¿Cuáles son los principales riesgos de que un algoritmo tenga prejuicios? Idoia: Sabemos que estos sistemas de IA necesitan muchísimos datos para su entrenamiento. La mayor parte de las veces son datos históricos de empresas donde ha habido casos de discriminación hacia mujeres o hacia razas específicas. Casos como el de COMPAS son un problema porque maximizan estos prejuicios sociales que han existido desde siempre. Pero a mí me gusta ver también el lado positivo de la situación que vivimos con el desarrollo de la IA: cada vez tenemos mayor consciencia sobre el problema de los sesgos. Existen herramientas para quitar estas variables de sexo, raza u otras para intentar entrenar de una manera más objetiva al algoritmo. Por otro lado, también se toma consciencia de esa necesidad de no dejar que sea el algoritmo el que tome la decisión final en casos en las que haya implicaciones humanas. Lorena: Yo soy un poco más escéptica, porque la semántica de sesgo le quita gravedad y distrae el debate de la discriminación. Ya no estamos hablando de racismo o de sexismo, sino que hablamos de sesgo, como si fuese un tema estadístico. Los sistemas algorítmicos tienen un pensamiento muy europeo y antiguo. Hacemos sistemas algorítmicos basados en una aproximación de reglas exactas estandarizadas. Y cuando se crean estándares, se crean cajones, y este tipo de sistemas tienden a discriminar. La revista ProPublica descubrió hace unos años que COMPAS estaba utilizando datos históricos y, con ello, discriminando o siendo racista con las personas negras en el sistema penitenciario norteamericano. Se siguen utilizando métodos como los que ha descrito Idoia para eliminar la clasificación racial o eliminar cualquier tipo de discriminación en este tipo de sistemas, lo cual es imposible porque ya sabemos que se puede inferir el género o la raza con las que se clasifica a una persona con otro tipo de datos. En la Guía de Buenas Prácticas de Impacto social y ética del Observatorio de Impacto Social de la IA del que forma parte Idoia, se comparan las competencias de la IA con las de los seres humanos o empresas. Y aquí me surge una pregunta, si los propios seres humanos ya fallamos en esas cuestiones y lo vemos constantemente. ¿Cómo podemos asegurar que los algoritmos no tienen esos sesgos si directamente están creados por seres humanos que ya los tienen? I: La cuestión es ver a estos sistemas de IA como lo que son, por muchas peculiares que tengan similares a los seres humanos, son herramientas que nos ayudan a lidiar con la cantidad de datos que tenemos a nuestro alrededor. Yo cada vez estoy más convencida que debiéramos desechar del concepto de toma de decisiones y decir solamente recomendaciones o conclusiones. Porque la decisión final la tiene que tomar la persona que es la capaz aplicar un contexto. Aun así, los profesionales deben formarse en IA para poder aprovechar las ventajas de este sistema. Hay una falta de formación muy clara. Foto: Idoia Salazar, presidenta de OdiseIA, y Lorena Jaume-Palasí, fundadora de The Ethical Tech Society. Crédito: cortesía de las entrevistadas La Comisión Europea presentó hace unos meses una propuesta de marco legal pionero para la inteligencia artificial que actualmente está en trámite. Entre otros muchos aspectos, pretende que esta tecnología sea más explicable y transparente. ¿Cómo se puede lograr esa transparencia? L: La transparencia en los sistemas de inteligencia artificial es una cortina de humo, como lo es el cambio de semántica cuando no hablamos de discriminación o de racismo sino de sesgos. Forma parte de este problema del solucionismo tecnológico: si cambiamos la fórmula matemática, lo solucionamos. Esa cortina de humo en la transparencia me parece bastante problemática porque lo que vemos en la tradición legal europea es que, con la transparencia, en muchos casos, se transfiere la responsabilidad allá dónde no toca, de la empresa al consumidor. I: En la declaración que hizo la UNESCO de los principios éticos de la IA, se está intentando materializar esa transparencia para que todo aquel que use un sistema de IA sepa de qué manera ha llegado a la toma de decisiones, los datos que ha usado y su metodología para que las personas entiendan cómo se llega a esa toma de decisiones. Creo que es importante que empecemos a hacer una labor de divulgación porque la sociedad debe ser partícipe de las decisiones al respecto de la IA. Además de la transparencia, en la propuesta de la Comisión Europea se están planteando de los algoritmos en cuatro niveles de riesgo, con obligaciones asociadas para los fabricantes. Hablamos de riesgo inaceptable, riesgo alto, riesgo limitado y riesgo mínimo. Me recuerda un poco al debate que se planteó durante la regulación de la privacidad en Europa. ¿Cómo esta norma puede obstaculizar la innovación como han sugerido ya algunos expertos? L: No creo que las categorías de la UE obstaculicen la innovación. Esta regulación se basa en el artículo 114 de los tratados fundamentales que tenemos en la UE, es decir, es derecho mercantil. No estamos en una disciplina de derechos constitucionales. El riesgo es multidimensional y este tipo de categorizaciones que se hacen son muy simplistas porque no se especifica qué tipo de riesgo. Por otro lado, creer que se puede decir ex ante cuánto riesgo tiene un sistema es también irónico y demuestra la mirada cosmética de este tipo de regulación. I: Creo que la UE tiene claro que hay que impulsar los sistemas de IA. Para ello, quiere aumentar la confianza de los consumidores y no regular la tecnología en sí misma sino estos casos concretos. No solamente analizando los casos de uso que ya hemos tenido con la implementación de sistemas de IA en diferentes productos y situaciones sobre casos reales, sino intentar prever de qué manera va a seguir esta evolución en los distintos sectores y la distinta casuística que se está planteando. ¿Qué si va a ser difícil y en la regulación vamos a tener más problemas para incentivar el uso de la IA? Todo esto se está trabajando en el sandbox que está desarrollando el Gobierno de España en el que se va a intentar dotar de herramientas sobre todo a las pymes para que se produzcan todos los procesos de adecuación al reglamento de IA de una manera lo más ágil posible. El gran riesgo que tenemos aquí es que las pymes y las startups sean capaces de adecuarse, pero se está trabajando en eso. Algunos de los resultados de los algoritmos suscitan controversia. Es el caso de los ‘deepfakes’, imágenes, vídeos y audios ultrarrealistas que pueden imitar a personas vivas e incluso a fallecidas. Aunque la Unión Europea considera que tienen riesgo limitado, ¿es ético utilizar la cara, los gestos y la voz de otra persona, en especial si ya no está? L: Las personas que han fallecido dejan de tener esa protección con sus datos. Es legal. Y lo legal es una forma de fijar lo que creemos que es ético o aceptable en una sociedad. Sin embargo, a nivel técnico, se tiene que decir que se pretende replicar a una persona, pero no se está replicando a una persona; se está extrapolando lo que esa persona era en base a determinados modelos. Es como hacer títeres de gente fallecida y a mí me parece una falta de respecto teniendo en cuenta la cultura que tenemos con las personas fallecidas. Gracias a los avances de la inteligencia artificial, estamos preguntándonos qué es la inteligencia o la conciencia, e incluso se ha puesto de nuevo sobre la mesa una disciplina tan antigua como la ética. ¿Nos está ayudando la tecnología a replantearnos nuestros propios valores? I: Sí. Hacía mucho que no se hablaba tanto de ética y cuestiones filosóficas. Debemos pararnos a pensar en ese tipo de cuestiones como qué es el ser humano, hacia dónde queremos ir como humanidad, qué es la privacidad u otras cuestiones que nos ayudan a ser más conscientes de muchas de las acciones para que tomemos la decisión correcta. L: El problema que tenemos con la IA y las consecuencias negativas que esta tecnología tiene no es por la tecnología en sí en sí, sino por el pensamiento con el que hacemos ese tipo de tecnología. Ese pensamiento es profundamente racista y colonialista. Por ello, yo no diría que en general la tecnología nos está haciendo repensar cómo utilizamos las cosas, depende de dónde esté cada uno y el contexto donde uno esté. por Editores de MIT Technology Review en español https://www.technologyreview.es/podcast/constante-futuro/racismo-deepfakes-y-opacidad-la-etica-de-la-ia-debate