top of page
Diseño sin título (1).png

Blog Odiseia

Sigue nuestro blog y mantente al día de todos los avances y noticias en el mundo de la inteligencia artificial y su impacto social y ético.

  • Foto del escritorEnrique Javier Benítez

Diseño centrado en la humanidad + Inteligencia artificial (HAI)

Actualizado: 26 feb

Un poco de historia y metodología.


Uno de los objetivos que compartimos como seres humanos es encontrar sentido en todo lo que hacemos y somos, o por lo menos, intentarlo. Para ello procuramos reducir tensiones en nuestro día a día, mejorar nuestra calidad de vida y superarnos como especie. Al menos, ese es un rasgo que podemos identificar de nuestra programación original, que sin ser una pizarra en blanco está mediada (no determinada) por nuestra genética y más tarde por nuestra educación, entorno y por las tres fuerzas creadoras que nos impulsan y que ya vislumbró Aristóteles: ethos (instinto), pathos (pasión) y logos (razón).


Lo que somos invariablemente se va a reproducir en las criaturas y en los proyectos que creamos. En el caso de la inteligencia artificial nos puede llevar a amplificarlo con distintos resultados: el temor, la vigilancia y el abuso o la utilidad, el beneficio mutuo y el servicio.


En cualquier punto de la pirámide de necesidades de Maslow en el que nos encontremos, vamos a tener decisiones que tienen un impacto alrededor y que seguramente vayan a estar instrumentalizadas por una máquina, datos o por un algoritmo.


A veces no hallamos respuestas y a veces nos equivocamos, pero solemos ser optimistas y trabajar duro en buscar salidas. Últimamente prestamos más atención no sólo hacia lo que tenemos al lado, sino también a lo que hay a cierta distancia. Incluso nos proyectamos hacia el futuro para poder calibrar mejor el presente y, los más conscientes, procuran tener en cuenta el pasado para eludir los bucles.


Quiénes somos incluye la pregunta de quiénes fuimos y quiénes podemos llegar a ser.


El Diseño centrado en la Humanidad crea un marco de referencia, a modo de brújula, para orientarnos en esta modernidad líquida. Nos invita a la indagación, a plantear preguntas incómodas y también poderosas que ayudan a superar obstáculos y crear experiencias positivas siempre partiendo de la comprensión de qué necesitamos y cómo nos relacionamos entre nosotros y los sistemas de los que formamos parte.


Con esa interrelación en mente, descartamos conceptos como diseño centrado en los datos o diseño centrado en el planeta o la vida, ya que consideramos que el diseño, independientemente de su afán integrador y su nivel de consciencia aplicado, continúa siendo en esencia, una actividad humana.


Ser quienes podemos o debemos ser


Podría parecer que existe un abismo entre las profesiones de ciencias sociales y humanísticas, lo que en la Universidad de Standford denominan conocimiento “fuzzy” o difuso y los profesionales del ámbito STEM (conocimiento techie). Sin embargo, cada vez más se demuestra que esa contraposición o aislamiento de la una de la otra sólo puede llevar al desconocimiento y resultados incompletos. Hasta que no se dé colaboración real entre el enfoque humanista y el tecnológico no se podrá llegar a una solución de valor auténtica. O lo que es lo mismo, hasta que no nos enfoquemos en lo que nos une y a lo que aspiramos, en lugar de lo que nos divide, no podremos “salir de la caja” y desarrollar soluciones transformadoras.


Es probable que cuando se escucha hablar de diseño centrado en la humanidad sólo se piensa en la cualidad ornamental o estética del diseño. Sin embargo, esta disciplina ha evolucionado durante el último siglo de manera que se ha orientado sobre todo a ser útil y beneficiosa para el ser humano, a resolver problemas complejos en nuestro mundo multi perspectivista donde todos los sistemas aparecen entrelazados e interdependientes cual red de redes.


Es la figura del diseñador centrado en la humanidad con su visión estratégica y multidisciplinar (psicología, antropología, lingüística…), más las metodologías basadas en la solución creativa de problemas, quien ya está generando en las empresas espacios de sinergia, diálogo y ruptura de silos. A la vez va a ser quien pueda conducir conversaciones ricas que indaguen en esa pertinencia de ser quienes podemos o quienes debemos ser, a día de hoy, con base muy probable, aunque no única, en la inteligencia artificial.


Un poco de historia del Diseño centrado en la Humanidad


Para no remontarnos a la época de las cavernas, podemos partir de la Segunda Guerra Mundial. En este momento de conflagración bélica, se detectó cómo los cuadros de mando de los aviones eran demasiado complejos de entender y usar. Por aquel entonces, los ingenieros se dieron cuenta de que su foco había estado en conseguir unas máquinas precisas e imponentes, pero nadie se estaba ocupando de entender la psicología y las necesidades de los pilotos. Era importante que el diseño priorizara la usabilidad o la resolución de una tarea con eficacia y eficiencia. Nacía así la rama de “human factors”.


En los años 50, el diseñador industrial Henry Dreifuss orienta su trabajo al “diseño para la gente” y nos recuerda cómo “hay que tener en cuenta que el objeto con el que se trabaja va a tener que ser mirado, activado, manejado o utilizado de alguna manera por las personas, individualmente o en masa. Si el punto de contacto entre el producto y las personas se convierte en un punto de fricción, el diseñador ha fracasado”. Raymond Loewy también se ocupó de introducir en sus creaciones cómo un producto nos puede llegar a hacer sentir, más allá de la pura referencia estética.


Más tarde la pareja de arquitectos y diseñadores Charles and Ray Eames, aportaron un punto más integrador incluyendo en el diseño una visión más amplia como la cocreación, la relación entre una persona y una marca o su impacto en el entorno. El Premio Nobel Herbert A. Simon se centró en los años 70 en los conceptos de prototipado rápido y de la prueba a través de la observación y Don Norman nos introduce en el diseño centrado en el usuario como marco de trabajo, investigación y desarrollo del diseño de interfaces de usuario basándose en un modelo conceptual, la interfaz y el modelo mental de las personas.


También en los años 80-90 diferentes autores profundizan en el design thinking o pensamiento de diseño. Richard Buchanan, filósofo y profesor de diseño, argumentaba que el diseño de interacción no se detiene en una pantalla del ordenador, sino que se extiende a la vida personal y social de los seres humanos. Del interés en la creación de productos con foco en lo humano, evolucionaron hacia desafíos mucho más complejos como la intervención en programas de erradicación de pobreza, cambio climático, educación o diseño de servicios innovadores.


A toda esta riqueza del diseño se unió el trabajo de Donella Meadows quien estudió la complejidad de los sistemas dinámicos y sobre todo, la consultora de Diseño Ideo, quien con los hermanos Kelley la Universidad de Standford extendió el proceso de pensamiento de diseño con sus fases y aplicaciones a compañías e instituciones del mundo grandes y pequeñas.


Actualmente las líneas de trabajo e investigación refuerzan cómo la experiencia de uso y nuestra percepción como humanos va a ser lo que garantice que un proyecto de IA tenga éxito o mayor o menor adopción, más allá de las técnicas de machine learning o el número y la calidad de los datos procesados. Gavin Lew, por ejemplo, ha explorado las relaciones entre IA y UX, cómo es fundamental partir de una propuesta de valor clara y hacer cercana y comprensible la IA a las personas, evitando las trampas que puede haber en los datos y marcando la diferencia entre productos y servicios u otros.

Además, si combinamos ética y practicidad podremos impulsar una visión de futuro que marque límites claros y potencie la dignidad humana a partir de la creatividad. Ben Schneiderman, una de las principales eminencias en interacción persona ordenador y visualización de datos, propone un marco de trabajo o framework que incide en los principios de “Human Centered AI”.


Sobre tecno personas y nuevas nociones de humanidad


Ya en el siglo pasado dentro de las corrientes de pensamiento político y social se habla de que el postmodernismo ha sustituido al modernismo y se enfatiza mucho en cómo han variado las relaciones de poder, cómo lo digital afecta a la subjetividad y la representación del mundo del individuo, Y en ese contexto se empieza a repensar QUÉ ES REALMENTE UN HUMANO HOY EN DÍA y cómo ha evolucionado en su relación con la tecnología.


La filósofa Donna Haraway con su manifiesto cyborg en 1985 ya consideraba que la noción de humano quedaba obsoleta. Más recientemente, otra filósofa, Rosi Braidotti habla de que no podemos hacer referencia al concepto de HUMANO, por tratarse de una nomenclatura desfasada por el mal uso que se ha dado.


Desde la época griega, con Protágoras, se ha considerado al humano como centro de todas las cosas. Pero según Braidotti, si analizamos esa noción de humano en el fondo es muy excluyente, por su preponderancia fundamental hacia la cosmovisión occidental u occidental centrismo.


Digamos que actualmente nos encontramos en un proceso de definición de quiénes somos como especie. Rosi Braidotti habla de Posthumanos y el filósofo Javier Echeverría trabaja sobre el concepto de tecnopersona partir del análisis: ¿qué sucede cuando las tecnologías que usamos están tan integradas en nuestra vida que afectan a lo que se considera humano?


Los avances tecnológicos también presuponen líneas rojas. Cada vez más se aúnan las voces e intereses en definir como sociedad multidisciplinar la inclusión de nuestros derechos fundamentales en los nuevos contextos digitales donde cada vez más se habla de difuminar la frontera humano/máquina, sin saber muy bien si eso es realmente lo que desean la mayoría de las personas.


Nos redefinimos constantemente. No hay nada más allá del cambio como diría el Tao o como suscribiría Heráclito. ¿Qué sucede ahora? Es probable que el factor velocidad exponencial nos haya hecho un poco más difícil mantener nuestro eje como individuos, o saber realmente cómo seguir siendo humanos con esa capacidad que subrayaban H. Dreyfus y S. Dreyfus de deliberar, de no atenerse a reglas que puedan ser expresadas en lenguaje algorítmico, o la integración más que el análisis, “en una consideración holística del problema a tratar en función de su experiencia, su biografía, su memoria corporal, su intuición, su personalidad, movilizando todos los recursos vitales que tenga a su alcance”


El rol del diseño estratégico en proyectos vinculados con IA


Como diseñadores centrados en esa visión de humanidad integradora y ampliada, tenemos el papel de generar conversaciones y conectar diferentes antecedentes, experiencias vitales, necesidades, percepciones no sólo de los perfiles que participan en un proyecto (técnicos, negocio, marketing, legal) sino de hacer de observador situando en el centro las necesidades de la humanidad ecléctica, los sistemas en los que está inmersa, los problemas complejos y las interdependencias ,retroalimentaciones e interacciones casuales considerando también el contexto local y global, repercusiones a medio y largo plazo y el impacto en el ecosistema.


Siempre hemos valorado conceptos como tener en cuenta la consistencia, escalabilidad, la reducción de incertidumbre y carga cognitiva, la accesibilidad, la facilidad de aprendizaje y uso… ahora incorporamos el uso ético de los productos y servicios digitales, privacidad, sostenibilidad, o cómo pueden afectar nuestras decisiones a las nuevas generaciones.


La tecnología ha favorecido que nuestra relación con el medio se haya constreñido y ampliado al mismo tiempo.


El proceso y el método crecen pero son las mismas bases en las que la empatía, el extrañamiento, la participación, la colaboración y la comunicación mantienen su validez.


Transformación digital y Design danish ladder


Empresas de toda índole llevan años incorporando en sus metodologías los procesos creativos de resolución de problemas. Como diría el Dr. Prabhjot Singh, director de diseño de sistemas del Earth Institute, “pensamos mucho tiempo diseñando el puente, pero no el suficiente pensando en las personas que lo cruzan”.


El nivel de familiaridad y aplicación de estas estas metodologías está bien descrito en la Design danish ladder. Para poder trabajar en procesos de diseño que integran tecnologías exponenciales como la inteligencia artificial, las empresas tendrían que situarse entre el escalón 3 y 4 e idealmente, llevar años en el último, con el fin de disponer de todos los roles y cultura para empujar sinergias.


Tanto el design thinking como el diseño participativo o la ingeniería de diseño centrada en el ser humano van a permitir crear los contextos de trabajo donde confluyan:


  1. Inquietudes éticas respecto a regulación, bien común, límites, reputación, privacidad, seguridad, transparencia, rendición de cuentas y explicabilidad de los algoritmos… – Valores, intereses y relaciones entre sistemas interdependientes (negocio, tecnología, sociedad…).

  2. Falacias, prejuicios y sesgos cognitivos. Comunicación, gestión del cambio y análisis de comportamiento para ayudar a tomar decisiones.

  3. Relaciones entre personas a lo largo de la cadena de valor (clientes, empleados, proveedores, socios, inversores, resto de la comunidad).

  4. Respeto por la diversidad, diferencia (accesibilidad, inclusividad, etc.) y espacios existenciales (culturales, generacionales, sociales, religiosos, económicos, políticos…).

  5. Reflexión acerca de externalidades e impacto ambiental.

  6. Potencialidad y barreras de dispositivos e interfaces. Narrativas asociadas y visualización de la información…

En este contexto partimos de la visión de un presente y futuro donde la tecnología vaya alineada con la experiencia humana. Rosi Braidotti incluso recuerda que cada vez más tenemos que demostrar nuestra humanidad, como con los captchas, lo que sería indicativo de que “en el centro ya no está lo humano, sino la cultura algorítmica de las redes computacionales”.


Como facilitadores de procesos en los que interviene la tecnología y el ser humano, los diseñadores, área de data, patrocinadores y otros stakeholders, tendrían la responsabilidad de participar en el proceso, diseñar una hoja de ruta con workshops, hitos, dependencias, entregables, etc y comenzar planteando preguntas similares a:


  1. ¿De qué forma podemos asegurar un uso relevante y responsable de las posibilidades que ofrece la IA?

  2. ¿Qué tenemos que adaptar para que equipos multidisciplinares trabajen codo a codo?

  3. ¿Cómo se pueden diseñar experiencias, productos y servicios en un contexto donde intervienen múltiples factores a veces inabarcables?

Aplicación de los procesos de diseño centrados en el ser humano en proyectos de IA


Una vez configurado el equipo multidisciplinar del proyecto y sentadas las bases de agendas y recursos se podría dividir en las siguientes fases:


1. Fase inicial de exploración y mapeo del contexto


A la hora de abordar un proyecto en el que es probable que intervenga la IA debemos revisar nuestro reto, saber cuál es realmente el caso que queremos tratar, desde qué prisma, para qué y con qué objetivo final.

Es crucial también analizar si para el reto, las técnicas de IA pueden ser o no beneficiosas, si existen datos relevantes y suficientes, su estado, si son representativos, grado de etiquetado y estructuración, cumplimiento normativo, incluso si la organización tiene capacidad suficiente o se tiene que aliar con algún otro actor.


En este punto se analizan mejores prácticas de casos similares, todos los riesgos y oportunidades del proyecto, con frameworks muy ligados a la ética, la gestión del cambio y se orienta la investigación cualitativa con diferentes técnicas a conocer audiencias y personas involucradas, sus expectativas, temores y actitud hacia el uso de datos.


2. Definición del reto e ideación


A partir de los hallazgos encontrados durante la investigación exploratoria o generativa en los que se aplican técnicas de análisis y síntesis, se ve desde qué ángulo enfocar mejor el reto y se fijan las métricas más adecuadas a los intereses del proyecto.


Es el momento de identificar posibles recurrencias de patrones, límites y líneas de actuación para mitigar posibles daños.


Suele suceder que, con un enfoque puramente técnico, los modelos funcionan muy bien en los laboratorios, pero al implementarlo en contextos reales hay múltiples factores que, si no se consideran, pueden invalidar los beneficios esperados. Como diría Edward Deming, “un sistema no puede explicarse a sí mismo” y es necesario comprender factores internos y externos de las personas.


Con la comprensión más clara de la situación, datos disponibles, posibles impactos, etc. se generan y priorizan ideas y se aplica un checklist de ética para tener identificado, por ejemplo, si los datos si se van a compartir con terceros u otras organizaciones, qué estilo de comunicación se va a usar para trasladar las ventajas a los destinatarios, cómo se va a hacer para comprometer a los implicados. También se decidirá si hay que añadir alguna medida de gestión de cambio complementaria, qué nivel de automatización y control humano va a ser necesario, cómo se va a medir el impacto que pueden tener un error en el modelo y posibles sesgos, qué nivel de precisión y de comprensión o explicabilidad del modelo se espera. Ya que no sería lo mismo un sistema que te recomienda series o música que otro que va a decidir la probabilidad de incidencia de una persona a la hora de cometer un delito, o un sistema que decida qué tratamiento médico es el más adecuado para un paciente. En estos casos, conviene definir cómo se va a gestionar la responsabilidad con los posibles errores del sistema.


A partir de aquí se pueden diseñar journeys y/o blueprints con los diferentes casos de uso de cara a tener en cuenta todo lo anterior y avanzar en la tarea con la identificación de artefactos que pueden ser tan variados como: una aplicación digital, un servicio de atención al paciente, elementos de comunicación, etc.


En paralelo se trabajarán todas las tareas propias de los equipos específicos. Por ejemplo, el área de data analizaría qué algoritmos son los más indicados, niveles posibles de predicción, propensión, etc.


3. Prototipado, construcción y evaluación


En este punto el equipo técnico estaría dedicado a desarrollar y validar su modelo de datos y el equipo de diseño a prototipar la interfaz y artefactos identificados donde se incluye cómo es el proceso de contar beneficios de la herramienta, cómo se podría dar de alta y baja del servicio, cómo va a ser la experiencia de uso, cuáles van a ser las métricas para mostrar la confianza en las predicciones del algoritmo, cómo la IA va a entender las intenciones del usuario, qué narrativa es la más adecuada para conectar con las personas y transmitir los valores de la organización, cómo se van a visualizar los datos…


Para finalizar, se diseñará un plan de evaluación y análisis y se probará el prototipo con el fin de obtener feedback de usuarios e iterar para tener en cuenta todos los sistemas donde está inmersa la persona: creencias limitantes, nivel cultural, contexto socioeconómico, estado emocional, edad, cómo es la fuerza de la privacidad diseñada, cómo se trasladan las previsiones, grado de fiabilidad y explicabilidad del modelo.


Tras la puesta en marcha de piloto se llevarán a cabo acciones de formación, comunicación y gestión del cambio y se hará un seguimiento continuo del modelo por si fuera necesario realizar cualquier ajuste.

La opinión y grado de satisfacción y uso de las personas implicadas en el uso de la herramienta va a servir para garantizar su satisfacción y al mismo tiempo para mejorar el comportamiento del modelo y de la interfaz, medir el impacto y garantizar que se han cumplido los objetivos previstos.


Engrasando la maquinaria


Tanto Microsoft, como Google o IBM son referentes para diseñadores y equipos deseosos de integrar la metodología de diseño centrado en lo humano con inteligencia artificial. Sus herramientas y prácticas contribuyen a que cada organización adapte el proceso a su medida y a su nivel de madurez.


El mundo va súper acelerado y tener como faro la perspectiva antropológica y social de Amber Case, Adam Alter y Marc Masip con su “calm technology” también nos sirve de sostén para diseñar soluciones de IA éticas.


La IA presenta la posibilidad de cambios mucho más radicales a los que nos hemos enfrentado hasta ahora con internet, los móviles o las redes sociales: cambios en cómo trabajamos, cómo interactuamos entre nosotros, cómo tomamos decisiones, a quién cedemos el principio de autoridad, qué opinión nos merece el tratamiento de nuestros datos, cómo balanceamos privacidad, libertad y seguridad, qué sucede con las emociones y la conciencia de las máquinas, si defendemos o no el principio de autodeterminación digital…


Para que todos, ya nos consideremos posthumanos, tecno personas o simplemente humanos con deseo de contribuir a un mundo más justo, nos podamos beneficiar, tenemos que asegurarnos de que la IA trabaje a nuestro favor y no en nuestra contra; tenemos que pensar éticamente sobre los sistemas que estamos construyendo y para eso hace falta tener un marco humanista,, un contexto de reflexión y trabajo colaborativo que aúne pensamiento sistémico, filosófico, ingeniería y técnica, antropología, sociología… y ese marco humanista y resolutivo lo proporciona el diseño centrado en la humanidad.


María José Téllez- Agosto 2022


Fuentes


  1. https://hcil.umd.edu/human-centered-ai/

  2. https://www.tensorflow.org/resources/responsible-ai

  3. https://www.ibm.com/design/thinking/page/courses/AI_Essentials

  4. https://link.springer.com/chapter/10.1007/978-1-4842-5775-3_5

  5. https://www.trea.es/books/tecnopersonas-como-las-tecnologias-nos-transforman1

  6. https://www.gedisa.com/autor.aspx?codaut=0889

  7. https://re.public.polimi.it/retrieve/handle/11311/1101203/562341/The%20impact%20of%20AI%20on%20DT_last.pdf –

  8. https://mjtellez.medium.com/estado-del-arte-de-la-%C3%A9tica-y-la-inteligencia-artificial-b16f0e44153b – (https://www.amazon.es/Mind-over-Machine-Intuition-Expertise/dp/0029080614)

0 comentarios

Entradas Recientes

Ver todo

Kommentare


bottom of page