Search Results

Desarrollar modelos entrenados con datos racistas o sexistas, utilizar datos de personas fallecidas para crear vídeos falsos y tomar decisiones basadas en los criterios de un algoritmo. La presidenta de OdiseaIA, Idoia Salazar, y la fundadora de The Ethical Tech Society, Lorena Jaume-Palasí, debaten sobre los riesgos de la IA y la forma de abordarlos en el cuarto episodio del pódcast ‘Constante Futuro’ Predecir proteínas para descubrir nuevos fármacos, vaticinar la lluvia o anticipar fallos en la cadena de suministro.  Pese a las aplicaciones útiles de la inteligencia artificial (IA), las lagunas de privacidad o la perpetuación de comportamientos racistas, machistas o colonialistas debido al origen de los datos que se emplean para entrenar a los algoritmos son preocupantes. Para abordar esos desafíos éticos, la Unión Europea ha presentado un reglamento que propone multar a las empresas que desarrollen sistemas de IA dañinos, una norma que puede definir las bases para regular esta tecnología en todo el mundo. Más allá de la regulación, algunos expertos ya están reflexionando sobre las implicaciones éticas de la IA y la forma de enfrentarse a ellas. Idoia Salazar, fundadora del Observatorio Social y Ético de la IA (OdiseIA), colaboradora de la Secretaría de Estado de digitalización e Inteligencia Artificial de España y miembro del equipo de expertos en IA del Parlamento Europeo, y Lorena Jaume-Palasí, fundadora de The Ethical Tech Society, una organización que investiga las implicaciones sociales de los procesos de automatización y miembro del panel de Evaluación de Opciones Científicas y Tecnológicas de la Unión Europea, han debatido sobre las luces y las sombras de la inteligencia artificial en el cuarto episodio del pódcast Constante Futuro, que puedes escuchar en Spotify, Ivoox y Apple Podcasts. Uno de los problemas de la inteligencia artificial más conocidos es la discriminación. Un caso real fue el de COMPAS, un sistema utilizado por la justicia penal de EE UU con sesgos hacia los acusados afroamericanos. Los propios modelos de inteligencia artificial que generan textos automáticamente analizan datos de internet, entre ellos contenidos tóxicos y desinformación, que pueden replicar después. ¿Cuáles son los principales riesgos de que un algoritmo tenga prejuicios? Idoia: Sabemos que estos sistemas de IA necesitan muchísimos datos para su entrenamiento. La mayor parte de las veces son datos históricos de empresas donde ha habido casos de discriminación hacia mujeres o hacia razas específicas. Casos como el de COMPAS son un problema porque maximizan estos prejuicios sociales que han existido desde siempre. Pero a mí me gusta ver también el lado positivo de la situación que vivimos con el desarrollo de la IA: cada vez tenemos mayor consciencia sobre el problema de los sesgos. Existen herramientas para quitar estas variables de sexo, raza u otras para intentar entrenar de una manera más objetiva al algoritmo. Por otro lado, también se toma consciencia de esa necesidad de no dejar que sea el algoritmo el que tome la decisión final en casos en las que haya implicaciones humanas. Lorena: Yo soy un poco más escéptica, porque la semántica de sesgo le quita gravedad y distrae el debate de la discriminación. Ya no estamos hablando de racismo o de sexismo, sino que hablamos de sesgo, como si fuese un tema estadístico. Los sistemas algorítmicos tienen un pensamiento muy europeo y antiguo. Hacemos sistemas algorítmicos basados en una aproximación de reglas exactas estandarizadas. Y cuando se crean estándares, se crean cajones, y este tipo de sistemas tienden a discriminar. La revista ProPublica descubrió hace unos años que COMPAS estaba utilizando datos históricos y, con ello, discriminando o siendo racista con las personas negras en el sistema penitenciario norteamericano. Se siguen utilizando métodos como los que ha descrito Idoia para eliminar la clasificación racial o eliminar cualquier tipo de discriminación en este tipo de sistemas, lo cual es imposible porque ya sabemos que se puede inferir el género o la raza con las que se clasifica a una persona con otro tipo de datos. En la Guía de Buenas Prácticas de Impacto social y ética del Observatorio de Impacto Social de la IA del que forma parte Idoia, se comparan las competencias de la IA con las de los seres humanos o empresas. Y aquí me surge una pregunta, si los propios seres humanos ya fallamos en esas cuestiones y lo vemos constantemente. ¿Cómo podemos asegurar que los algoritmos no tienen esos sesgos si directamente están creados por seres humanos que ya los tienen? I: La cuestión es ver a estos sistemas de IA como lo que son, por muchas peculiares que tengan similares a los seres humanos, son herramientas que nos ayudan a lidiar con la cantidad de datos que tenemos a nuestro alrededor. Yo cada vez estoy más convencida que debiéramos desechar del concepto de toma de decisiones y decir solamente recomendaciones o conclusiones. Porque la decisión final la tiene que tomar la persona que es la capaz aplicar un contexto. Aun así, los profesionales deben formarse en IA para poder aprovechar las ventajas de este sistema. Hay una falta de formación muy clara. Foto: Idoia Salazar, presidenta de OdiseIA, y Lorena Jaume-Palasí, fundadora de The Ethical Tech Society. Crédito: cortesía de las entrevistadas La Comisión Europea presentó hace unos meses una propuesta de marco legal pionero para la inteligencia artificial que actualmente está en trámite. Entre otros muchos aspectos, pretende que esta tecnología sea más explicable y transparente. ¿Cómo se puede lograr esa transparencia? L: La transparencia en los sistemas de inteligencia artificial es una cortina de humo, como lo es el cambio de semántica cuando no hablamos de discriminación o de racismo sino de sesgos. Forma parte de este problema del solucionismo tecnológico: si cambiamos la fórmula matemática, lo solucionamos. Esa cortina de humo en la transparencia me parece bastante problemática porque lo que vemos en la tradición legal europea es que, con la transparencia, en muchos casos, se transfiere la responsabilidad allá dónde no toca, de la empresa al consumidor. I: En la declaración que hizo la UNESCO de los principios éticos de la IA, se está intentando materializar esa transparencia para que todo aquel que use un sistema de IA sepa de qué manera ha llegado a la toma de decisiones, los datos que ha usado y su metodología para que las personas entiendan cómo se llega a esa toma de decisiones. Creo que es importante que empecemos a hacer una labor de divulgación porque la sociedad debe ser partícipe de las decisiones al respecto de la IA. Además de la transparencia, en la propuesta de la Comisión Europea se están planteando de los algoritmos en cuatro niveles de riesgo, con obligaciones asociadas para los fabricantes. Hablamos de riesgo inaceptable, riesgo alto, riesgo limitado y riesgo mínimo. Me recuerda un poco al debate que se planteó durante la regulación de la privacidad en Europa. ¿Cómo esta norma puede obstaculizar la innovación como han sugerido ya algunos expertos? L: No creo que las categorías de la UE obstaculicen la innovación. Esta regulación se basa en el artículo 114 de los tratados fundamentales que tenemos en la UE, es decir, es derecho mercantil. No estamos en una disciplina de derechos constitucionales. El riesgo es multidimensional y este tipo de categorizaciones que se hacen son muy simplistas porque no se especifica qué tipo de riesgo. Por otro lado, creer que se puede decir ex ante cuánto riesgo tiene un sistema es también irónico y demuestra la mirada cosmética de este tipo de regulación. I: Creo que la UE tiene claro que hay que impulsar los sistemas de IA. Para ello, quiere aumentar la confianza de los consumidores y no regular la tecnología en sí misma sino estos casos concretos. No solamente analizando los casos de uso que ya hemos tenido con la implementación de sistemas de IA en diferentes productos y situaciones sobre casos reales, sino intentar prever de qué manera va a seguir esta evolución en los distintos sectores y la distinta casuística que se está planteando. ¿Qué si va a ser difícil y en la regulación vamos a tener más problemas para incentivar el uso de la IA? Todo esto se está trabajando en el sandbox que está desarrollando el Gobierno de España en el que se va a intentar dotar de herramientas sobre todo a las pymes para que se produzcan todos los procesos de adecuación al reglamento de IA de una manera lo más ágil posible. El gran riesgo que tenemos aquí es que las pymes y las startups sean capaces de adecuarse, pero se está trabajando en eso. Algunos de los resultados de los algoritmos suscitan controversia. Es el caso de los ‘deepfakes’, imágenes, vídeos y audios ultrarrealistas que pueden imitar a personas vivas e incluso a fallecidas. Aunque la Unión Europea considera que tienen riesgo limitado, ¿es ético utilizar la cara, los gestos y la voz de otra persona, en especial si ya no está? L: Las personas que han fallecido dejan de tener esa protección con sus datos. Es legal. Y lo legal es una forma de fijar lo que creemos que es ético o aceptable en una sociedad. Sin embargo, a nivel técnico, se tiene que decir que se pretende replicar a una persona, pero no se está replicando a una persona; se está extrapolando lo que esa persona era en base a determinados modelos. Es como hacer títeres de gente fallecida y a mí me parece una falta de respecto teniendo en cuenta la cultura que tenemos con las personas fallecidas. Gracias a los avances de la inteligencia artificial, estamos preguntándonos qué es la inteligencia o la conciencia, e incluso se ha puesto de nuevo sobre la mesa una disciplina tan antigua como la ética. ¿Nos está ayudando la tecnología a replantearnos nuestros propios valores? I: Sí. Hacía mucho que no se hablaba tanto de ética y cuestiones filosóficas. Debemos pararnos a pensar en ese tipo de cuestiones como qué es el ser humano, hacia dónde queremos ir como humanidad, qué es la privacidad u otras cuestiones que nos ayudan a ser más conscientes de muchas de las acciones para que tomemos la decisión correcta. L: El problema que tenemos con la IA y las consecuencias negativas que esta tecnología tiene no es por la tecnología en sí en sí, sino por el pensamiento con el que hacemos ese tipo de tecnología. Ese pensamiento es profundamente racista y colonialista. Por ello, yo no diría que en general la tecnología nos está haciendo repensar cómo utilizamos las cosas, depende de dónde esté cada uno y el contexto donde uno esté. por Editores de MIT Technology Review en español https://www.technologyreview.es/podcast/constante-futuro/racismo-deepfakes-y-opacidad-la-etica-de-la-ia-debate

No te pierdas la Masterclass “Inteligencia Artificial y Ética” organizada por OdiseIA School y que tendrá lugar el próximo lunes 28 de noviembre a las 18:30 Con la participación de Fabián García Pastor, Mónica Villas, Javier Camacho y unos invitados excepcionales: Borja Adsuara Varela, Richard Benjamins, Ignacio González de los Reyes Gavilán, Javier Morales, José Luis Fernández Fernández. #IAyEtica

Compartimos la entrevista que la página web “El Derecho” hizo a nuestro socio Adrián Palma con motivo de su participación en el Congreso de Delegados de Protección de Datos, organizado por la Asociación Española para la Calidad en Valencia, el 14 de diciembre de 2022. Leer la entrevista

Evento híbrido sobre Neuroderechos en el espacio-temporal de las Tecnologías Disruptivas Martes 26 de enero, 18:30 horas CET Anunciamos con enorme satisfacción el primer evento organizado por OdiseIA en 2023, de la mano de A. Patricia Llaque Gálvez. En el contexto de la creación del 𝐂𝐞𝐧𝐭𝐫𝐨 𝐍𝐚𝐜𝐢𝐨𝐧𝐚𝐥 𝐝𝐞 𝐍𝐞𝐮𝐫𝐨𝐭𝐞𝐜𝐧𝐨𝐥𝐨𝐠í𝐚, Spain Neurotech, que involucra al Ministerio de Asuntos Económicos y Transformación Digital, a la Comunidad de Madrid y a la Universidad Autónoma de Madrid, es todo un orgullo y un honor poder contar con Rafael Yuste, quién ha dirigido al equipo que ha desarrollado el programa de dicho centro, en este nuevo evento. Desde OdiseIA compartimos el agradecimiento de la dirección del área de 𝐁𝐈𝐎É𝐓𝐈𝐂𝐀 𝐘 𝐍𝐄𝐔𝐑𝐎É𝐓𝐈𝐂𝐀 a Moisés Barrio Andrés, J.D., Ph.D., a nuestra compañera Wilma Arellano Toledo, Ph.D. y a Carolina Aguilar por sumarse a este nuevo encuentro híbrido en este flamante año. Enlace a las inscripciones aquí. #neuroscience #neuroethics #bioethics #neurotech #aiethics #neurotechnology #aiforgood #neurorights #brainstimulation #brainscience #brainresearch #braincomputerinterface #braindevelopment

El desarrollo de la IA, la neurotecnología, la nanotecnología, la biotecnología, la edición genómica, la biología sintética, la vida artificial… allanan el camino hacia la modificación estructural y funcional de lo que significa ser humano. La retroalimentación continua de dichos avances con nuevos hallazgos provenientes de la ciencia básica supera la velocidad de nuestro ritmo y capacidad para prepararnos social, ética y jurídicamente ante los riesgos existenciales que se presentan. Ante la creciente imprevisibilidad de dicha convergencia tecnocientífica, en este evento abordaremos la protección internacional de los derechos humanos en la era de la neurotecnología. Más información

‘Hablar’ sobre derechos digitales es siempre importante y más si cuentas con invitados firmantes y estudiosos de nuestra ‘Carta de derechos digitales’ como Borja Adsuara Varela; Moisés Barrio Andrés, J.D., Ph.D., @Ana Aba Catoira, Luis Miguel González De La Garza o Yolanda Quintana, además de con la magnífica intervención de la Carme Artigas. Un honor haber organizado este evento, junto al gran LORENZO COTINO HUESO. El resumen: queda mucho por hacer. La semilla está puesta pero el arbolito lo tenemos que hacer crecer entre todos: empresas, instituciones públicas y privadas y universidades. Algunos de los retos pendientes: mejorar la formación en impacto de la IA y otras nuevas tecnologías, a todos los niveles. También las personas mayores y discapacitados tienen derechos digitales. Debemos de ser capaces de desarrollar herramientas de fácil uso (tipo Google o chatGPT) para que cualquiera, sin nada de conocimientos técnicos, pueda hacer uso de ellas y, así, poder ejercer de manera sencilla y realista nuestros derechos digitales. La formación es importante para un impacto positivo de la transformación digital, pero no es todo… Hace falta algo más profundo. Una reforma mucho más ‘fundamental’ en los organismos públicos que, muchas veces, inciden directamente en la gestión privada. Me refiero en la necesidad de incentivar la agilidad de respuestas, al trabajo colaborativo entre dichos organismos (ya que tecnologías como la IA inciden en varias áreas), a hacer políticas más transversales y efectivas (el tema lo requiere). Muchos diréis que es fácil hablar y difícil hacer… Pero si no se intenta, seguro que no se logrará… En algún momento habrá que empezar. El tema es urgente. Hoy se ha hablado de esto. O empezamos ya con este cambio… o el futuro seguirá sembrado de incertidumbre. Aunque sea con pequeñas miguitas hagamos sentir a la sociedad de a pie, que los ‘derechos digitales’ no son solo una carta de buenas intenciones, sino algo realista que somos capaces de poner en marcha entre todos. Nosotros, desde OdiseIA, lo estamos intentando, de verdad. Muchas gracias también a Ricardo J. Palomo, PhD, María Solano Altaba y Emiliano Blasco Doñamayor (Decanos y vice rector de transformación Digital del CEU) por haber apoyado a la realización de este evento. NOVEDAD: ACCESO AL VIDEO DEL ACTO EN ESTE ENLACE.

Miércoles 15 de febrero – 18:30 horas El Emprendimiento cambiará para siempre con la nueva e intensa llegada de la Inteligencia Artificial. Masterclass emprendIA de OdiseIA School con Fabián García Pastor, Ricarlo Palomo, María Jesús González-Espejo Pinche aquí para saber más del evento

Invitada por TKNIKA, expondrá casos de éxito del uso de IA en el sistema educativo. Por parte de OdiseIA, participan nuestros socios Juan Manuel Belloto, Rosa Romero y Francisco Luque. El webinar está dirigido a docentes de FP del País Vasco, se puede seguir en directo en el enlace compartido al final de esta noticia, y también será grabado para quien no lo pueda seguir en directo. WEBINAR 𝗜nteligencia 𝗔rtificial: 𝗲́𝘁𝗶𝗰𝗮 𝗽𝗮𝗿𝗮 𝗹𝗼𝘀 𝗻𝘂𝗲𝘃𝗼𝘀 𝗿𝗲𝘁𝗼𝘀 𝗲𝗻 𝗲𝗱𝘂𝗰𝗮𝗰𝗶𝗼́𝗻 donde participarán expertos de Spain AI, Bilbao AI, OdiseIA y BAIC. JUEVES 23 de febrero 17:00 ONLINE Inscripción: https://bit.ly/3YbWTH1

Lunes 20 de marzo, 17:30 horas, online Jornada con motivo de la presentación del libro “Transparencia y explicabilidad de la Inteligencia Artificial” (Ed. Tirant lo Blanch, Valencia, 2022). Acceso a la reunión Zoom: https://ir.uv.es/oFDgwr3 ID de la reunión: 924 9596 4985 Código de acceso: 224584

Perspectivas interdisciplinares en la gestión de los datos Evento presencial: martes 21 de marzo, de 11:00 a 14:00 horas. Madrid Innovation Lab (C/ Bravo Murillo, 39). La Neurotecnología es una de las prioridades de la Estrategia Nacional de Inteligencia Artificial (ENIA) y se considera uno de los pilares del desarrollo científico y económico de España para los próximos años. Dentro del Plan de Recuperación, Transformación y Resiliencia, a finales de 2022, se ha creado el Centro Nacional de Neurotecnología, Spain Neurotech, para áreas como la Neurociencia y la Inteligencia Artificial están permitiendo desarrollar herramientas tecnológicas basadas en los fundamentos del cerebro humano, al servicio de la salud y de la lucha contra determinadas patologías clínicas como trastornos del neurodesarrollo, enfermedades del espectro autista, Parkinson, Alzheimer, depresión, trastornos del sueño, patologías del ritmo circadiano o en el daño cerebral agudo. La creación del Grupo de Trabajo “Neurodata, IA y Neurotecnologías” permitirá sumarnos a uno de los objetivos de la iniciativa gubernamental, como es “conectar a la comunidad investigadora con el sector público, las empresas y la sociedad, para convertir el conocimiento en soluciones innovadoras con impacto social y económico”. Para dar a conocer el estado del arte de la Neurotecnología el Clúster Big Data Madrid junto con OdiseIA, Spain AI y Tecnalia ha organizado el Workshop “Neurodata, Inteligencia artificial y Neurotecnologías” el próximo 21 de marzo de 2023. Te esperamos. Más información e inscripciones en: https://www.bigdatamadrid.org/neurodata Nota final: la imagen que ilustra esta entrada ha sido generada introduciendo el término “Neurodata” en DreamStudio (versión Beta).

Idoia Salazar, Patricia Llaque y Javier Mendoza participan en este evento Desde el jueves 30 de marzo hasta el sábado 1 de abril, se celebra en La Nave (C/ Cifuentes, 5. Madrid) el Meta World Congress. Las entradas se pueden adquirir aquí. Esta primera edición de Meta World Congress, el evento tecnológico sobre Metaverso, web 3.0, realidad virtual y realidad aumentada, se celebrará en el mundo físico real, con un aforo de 5.000 personas en La Nave de Madrid, y simultáneamente en el Metaverso, el cual contará con zona de exposiciones, ponencias de expertos y diferentes actividades inmersivas relacionadas con el sector. El viernes 31 de marzo, de 13:00 a 13:30, en el Auditorio, tendrá lugar el panel sobre “Ética en el Metaverso“, con la participación de nuestra presidenta, Idoia Salazar, y nuestro director de área, Javier Mendoza. En este panel se explorarán los dilemas éticos que surgen en el mundo virtual, desde la privacidad y la seguridad hasta la discriminación y la justicia social. Una oportunidad única para reflexionar y debatir sobre los desafíos éticos que enfrenta la industria del metaverso y cómo podemos asegurar que se mantengan los valores éticos en su creación y uso. Javier Mendoza repite el viernes 31, en este caso en el panel sobre “Metaverso y salud“, de 11:00 a 11:30 en el aula polivalente. Se abordará un tema de gran relevancia en el contexto actual, en el que la pandemia ha puesto de manifiesto la importancia de la tecnología en la atención sanitaria. Este panel de expertos tiene como objetivo dar una visión más clara de los retos y oportunidades que la transición al metaverso plantea para los profesionales del sector sanitario. Finalmente, Patricia Llaque también intervendrá el viernes 31, en este caso por la tarde (19:00 – 19:30) en el auditorio, en el panel titulado “Mujeres disruptivas en el Metaverso“, que explorará la igualdad de género, el liderazgo femenino, la innovación tecnológica y la colaboración interdisciplinaria en el metaverso. las expertas compartirán sus experiencias y conocimientos sobre estos temas, proporcionando información sobre las últimas tendencias y avances en el ámbito del metaverso.

Liderado por Patricia Llaque, directora del área de Bioética y Neuroética de OdiseIA, el Grupo de Trabajo se presenta el Jueves 13 de abril (18:30 horas) en el Madrid Innovation Lab . NEURODERECHOS y NEUROTECNOLOGÍAS: ¿estamos aún a tiempo para legislar? Muchas de las tecnologías que posibilitan el acceso directo a los datos mentales y a las formas actuales de intervención cerebral son incluso clasificadas como «Nuevas potencias mundiales». En este evento vamos a presentar al grupo de trabajo sobre Neuroderechos que nace bajo el área de Bioética y Neuroética de OdiseIA, con el fin tanto de explorar los desafíos que presentan las tecnologías cerebrales como de abordar, en un debate interdisciplinario, la protección de nuestros Derechos Humanos y nuestra integridad mental. Más allá del hype, ¿cómo estamos explicando los procesos mentales que sustentan el comportamiento humano? ¿Qué implicaciones traen consigo la adquisición y la interpretación de nuestros datos cerebrales para la privacidad de nuestra vida mental, la discriminación, la autodeterminación, la autoincriminación, la libertad de pensamiento…? ENLACE DE REGISTRO: https://forms.gle/JyC68A1ra9ujNLFw5