Inicio > Proyectos > Valoración final de OdiseIA sobre la Estrategia Nacional de Inteligencia Artificial

Área

Ética y Responsabilidad  

Área dedicada al estudio de la ética en la Inteligencia Artificial, y desarrollo de proyectos y aplicaciones destinados a conseguir un uso responsable de esta tecnología en organizaciones. Trabajamos la concienciación empresarial y social para aprovechar sus ventajas y minimizar sus riesgos.

Valoración final de OdiseIA sobre la Estrategia Nacional de Inteligencia Artificial

por | Dic 14, 2021

Respuesta de OdiseIA a la petición al Gobierno de España sobre la moratoria en el uso del reconocimiento facial. 

El Observatorio del Impacto Social y Ético de la IA emite su valoración final tras una serie de rondas, debates e intercambio de visiones entre los y las miembros de OdiseIA, a raíz de la publicación de la Estrategia Nacional de Inteligencia Artificial por el Gobierno de España, y su impacto en cuanto a ética e impacto social. La valoración se compone de una visión general, líneas maestras, y la especificación de recomendaciones y medidas planteadas desde la perspectiva de ética e impacto social.

Visión General y Líneas Maestras

La publicación de la Estrategia Nacional de Inteligencia Artificial (ENIA) constituye un hito altamente relevante, que permite a España sumarse al conjunto de países que han desarrollado y ejecutado estrategias nacionales de IA en los últimos años. La ENIA apela a todas las palancas necesarias para aprovechar la tecnología en todo su potencial: I+D, talento, plataformas, aplicación a la economía, uso en el sector público, y los marcos éticos y normativos.

OdiseIA (Observatorio del impacto social y ético de la IA, www.odiseia.org) ve muy relevante y positiva la inclusión de un eje estratégico y fondos específicos para la ética en el uso de la IA, así como la puesta en valor de los valores humanísticos y la imbricación de la ética con la sostenibilidad. Dedicar a la ética un espacio propio y abordarla de manera transversal al resto de temas es clave para la consecución de los Objetivos de Desarrollo Sostenible de Naciones Unidas, y de la Agenda 2030 del Gobierno de España. Se valora también el objetivo de la ENIA de adaptar la legislación actual española a las oportunidades y necesidades que el uso de la IA alienta, en lugar de crear una regulación desde cero. Esta es una oportunidad para alinear el marco ético con el jurídico de forma consistente, tanto a nivel estatal como en la traducción de los principios provenientes de la Unión Europea y del plano internacional.

Para llevarlo a cabo, OdiseIA considera que la ENIA necesita un plan concreto de ejecución, con el fin de materializar los ejes estratégicos. Al mismo tiempo, es necesario establecer una serie de mecanismos que aterricen la estrategia en todo el territorio nacional, con el fin de asegurar que las medidas de la ENIA tienen impacto social en toda la población.

“Confiamos en el potencial y la gran oportunidad que la ENIA representa para hacer de la IA una herramienta ética, con impacto social, y capacitadora del desarrollo sostenible”

Para ello, este documento presenta una serie de propuestas con las que poner en valor y contribuir al trabajo de los actores involucrados en la implementación de la ENIA.

Se plantean dichas recomendaciones enfocadas bajo dos principios clave:

1. Las medidas de la ENIA deben perdurar en el tiempo, independientemente de los cambios de gobierno y ciclos legislativos. Para ello, OdiseIA propone ejecutar la ENIA en clave de colaboración público-privada con el fin de hacerla sostenible.

2. La ENIA debe complementar a otras estrategias — como la de Economía Circular u otras existentes — y el resto de estrategias deben complementar a su vez a la ENIA, a modo de plan coherente y sinérgico con enfoque de misión-país.

Feedback sobre impacto ético y social según la ENIA

OdiseIA considera muy acertado el enfoque de la ENIA en materia de impacto ético y social. El enfoque adoptado desde la identificación de riesgos y oportunidades asociados al “uso de la IA”, sin centrarse en la tecnología como tal, permite analizar el potencial de la misma y hacer un análisis realista sin entrar en otras consideraciones, ya que la tecnología por sí misma no es necesariamente peligrosa.

En relación con la noción de calidad e implementación técnica de los algoritmos, OdiseIA ha presentado el pasado 27 de noviembre la iniciativa “GuIA” (enlace) para ayudar a las organizaciones públicas y privadas españolas a aplicar los principios éticos en el día a día de sus proyectos, y compartir las mejores prácticas en materia de uso responsable de la IA. Dicha iniciativa apoyará el objetivo de la ENIA para facilitar la implementación de una IA de calidad.

A modo de recomendación, y con respecto a la Medida 16, OdiseIA apoya la creación del Proyecto Datos por el Bien Social, pero recomienda no excluir los datos voluntarios de empresas privadas (factible a través de una estructura de gobernanza adecuada). Asimismo, dicha medida está relacionada con el concepto de “Donación de datos personales” de la Carta de Derechos Digitales, y con las iniciativas de datos abiertos a nivel nacional y autonómico. Además, la noción de donación de datos está regulada en el recién presentado “Data Governance Act” de la Comisión Europea.

Finalmente, y en su labor incondicional de apoyar el uso responsable de la IA para facilitar el impacto social positivo y evitar un posible impacto ético negativo, OdiseIA valora y apuesta por la ejecución de las siguientes medidas a través de proyectos específicos:

En lo referido al Eje estratégico 6:Establecer un marco ético y normativo que refuerce la protección de los derechos individuales y colectivos, a efectos de garantizar la inclusión y el bienestar social”

a) Medida 26. “Desarrollo de un sello nacional de calidad IA”, para lo cual OdiseIA contará con estándares aplicados, basados en prácticas nacionales e internacionales adaptadas al contexto español. Adicionalmente, OdiseIA recomienda la creación y facilitación de un BizTechLab (como complemento al GobTechLab), para el registro voluntario de sistemas automatizados existentes y futuros en diferentes sectores e industrias.

b) Medida 27. “Poner en marcha observatorios para evaluar el impacto social de los algoritmos”. OdiseIA recomienda la creación de una red nacional de Observatorios (a modo de plataforma integradora), y colaboración con otras iniciativas relevantes tanto a nivel nacional como internacional (e.g., UK, Canadá, etc.).

c) Medida 30. “Promoción de foros de diálogo, sensibilización y participación nacionales e internacionales en relación con la IA”, siendo esta la misión principal de OdiseIA desde su creación en 2019, y altamente relacionada con la labor de divulgación. Se recomienda la definición y aplicación de marcos o criterios para la evaluación del impacto social, así como actividades educativas y de divulgación para facilitar la adopción real en organizaciones públicas y privadas.

Feedback sobre otros ejes estratégicos 

Adicionalmente a los puntos mencionados anteriormente, OdiseIA remarca los siguientes ejes:

En lo referido al Eje estratégico 2: “Promover el desarrollo de capacidades digitales, potenciar el talento nacional y atraer talento global en inteligencia artificial”. La página 31 menciona la necesidad de añadir materias relacionadas a la IA en los programas de Formación Profesional (FP) y en la Universidad para garantizar que toda la ciudadanía tenga una base de pensamiento computacional.

OdiseIA piensa que sería positivo llevarlo a fases más tempranas de la educación como a Primaria y Secundaria. Eso ayudaría a fomentar no sólo el conocimiento de STEM o STEAM (la A de arte), sino también lo relativo a la Relación Humano-Máquina, la ética y el impacto social de la IA (ESTEAM). Además, esto permitiría el acceso a la formación de una audiencia diversa, independientemente de los factores sociales y de género.

En lo referido al Eje estratégico 4: “Integrar la IA en las cadenas de valor para transformar el tejido económico”. La Medida 20 apunta al “desarrollo del Programa Nacional de Algoritmos Verdes; así como la aplicación de la IA en el ámbito de la sostenibilidad”.

OdiseIA aplaude la importancia dada a la aplicación de la IA en el ámbito de la sostenibilidad, así como la creación del Programa Nacional de Algoritmos Verdes, un hito tan histórico como necesario. Tal como mencionó Carme Artigas: “La reconstrucción económica debe ser verde y digital“, y el Observatorio apoya tal visión. En base a esto, OdiseIA abrirá un área específica para formar una comunidad de algoritmos verdes y la aplicación de la IA al cambio climático.

En lo relativo al Eje estratégico 5 (“Potenciar el uso de la IA en la administración pública y en las misiones estratégicas nacionales”), para potenciar el uso de la IA en la AAPP y fomentar el evidence-based policymaking, es importante la creación de una cultura del dato, que a su vez es esencial para poder valorar los impactos éticos y sociales de las aplicaciones de IA antes de ponerles en marcha.

Se habla de introducir mecanismos de compra pública innovadora en la administración pública. OdiseIA considera que la Administración sin duda puede y debe jugar un papel decisivo en la innovación, a través de la mejora de sus propios procesos y también avanzando en la administración pública digital. Sin embargo, la incorporación de nuevas tecnologías emergentes a la Administración Pública no debería hacerse sin orden ni concierto. Es necesario reflexionar sobre las necesidades que se van a atender y los problemas que se van a resolver con estas adquisiciones públicas de soluciones mediante IA. Además, es necesario considerar el impacto ético y social del uso de estas tecnologías en la ciudadanía. La ética debe estar presente en la totalidad de las fases de políticas públicas, tanto sectoriales como transversales: pre-diseño, diseño, implementación, evaluación y otros mecanismos para transparencia y la rendición de cuentas.

OdiseIA recomienda formar a las administraciones interesadas en Compra Pública Innovadora relacionada con el despliegue de la ENIApara la evaluación de la madurez, necesidad y su impacto social y ético. Además, OdiseIA considera necesario que la inclusión de IA en las administraciones públicas se haga en coherencia con las funciones que la AAPP persigue, y que se evalúen el impacto potencial en el acceso de los ciudadanos a las AAPP o en el trato igualitario de los mismos. OdiseIA ha considerado relevantes la información del Technology Readiness Assessment Guide, del USA Government Accountability Office (enlace), y la auditoría interna del proceso de inversión en tecnologías emergentes, del Instituto de Auditores Internos (enlace).

En lo referido a la Medida 23 (“Competencias de IA en las Administraciones Públicas”), según señalan numerosos informes y estudios, la plantilla pública española está envejeciendo. Una noticia publicada en La Razón (enlace) en enero de 2020 señala que “la Administración de la Seguridad Social se lleva el galardón a la plantilla más envejecida, ya que el 76% de sus empleados (19.800 trabajadores) tiene 50 o más años. Si bien la edad no es (y no debe ser) una referencia para la estimación del nivel de competencias digitales, las acciones de evaluación y formación deben adaptarse a las necesidades precisas de la AAPP española y sus empleados.

Para mejorar las competencias digitales de los empleados públicos, OdiseIA recomienda actuar en dos frentes.

a) Evaluar las competencias a las plantillas existentes, en estrecha coordinación y colaboración con el Ministerio de Función Pública y Política Territorial y el Instituto Nacional de Administración Pública (INAP), así como con las respectivas consejerías autonómicas.

b) En segundo lugar, introduciendo las competencias digitales y éticas entre las exigencias del acceso a la función pública, en todos sus niveles.

OdiseIA recomienda introducir un componente ético y social sobre el impacto de la IA en todo este proceso de formación a todos los funcionarios, e incluirlo también en las oposiciones. OdiseIA ve relevante la información contenida en la Plataforma de Autodiagnóstico de Competencias Digitales, Junta de Andalucía (enlace), y algunos contenidos del Instituto Nacional de Administración Pública (enlace).