• Darío Reyes

UX, IA y Ética - Parte 1: Diseñando soluciones soportadas en IA ¿qué cambia?

Hace unos anos se popularizó una frase del investidagor Dan Ariely sobre el Big data: “Big data is like teenage sex, everyone talks about it, nobody really knows how to do it, everyone thinks everyone else is doing it, so everyone claims they are doing it” algo que es perfectamente aplicable para el actual bombo que se le da a la inteligencia artificial (IA).


Para ir más allá de las frases comunes y nutrir el debate actual, este artículo tiene el objetivo de reflexionar sobre la creación de soluciones soportadas en IA tomando como punto de partida, aunque con algunas modificaciones personales, el modelo del “Doble diamante” usado en procesos de diseño e innovación (Ver figura). Aclaro, tuve como principal inspiración la tesis doctoral de Qinn Yang Profiling Artificial Intelligence as a Material for User Experience Design” y el “People + AI GuideBook de Google, trabajos que sin duda recomiendo.


Empecemos con el modelo:


1. El primer diamante es el “espacio problema”, en el cual, se comienza comprendiendo a las personas y sus problemas cotidianos, para luego utilizar este conocimiento en la definición del centro de nuestra intervención. En esta primera fase hay pocos cambios cuando tenemos el objetivo de diseñar soluciones soportadas en IA, el foco siguen siendo las personas, sus problemas y el establecimiento de jerarquías o prioridades. De igual forma, las técnicas de investigación y las herramientas utilizadas son las convencionales: entrevistas, observaciones, fuentes secundarias, se crean personas, se mapean procesos, etc.


2.El segundo diamante, el “espacio solución”, está dirigido a experimentar y materializar posibles soluciones que respondan al problema previamente delimitado. Subdividimos esta fase en: ideación, prototipado o proyectos pilotos y evaluación.


2.1 Ideación: tradicionalmente en esta subfase el equipo de diseño tendría total libertad de plantear cualquier idea, por loca que parezca, desde que responda al problema definido. Es un momento de divergencia.


No obstante, esta subfase en el caso particular que nos compete adquiere una importante restricción: las ideas deben utilizar algún tipo de inteligencia artificial. Claro está, no se trata simplemente de “utilizar algún desarrollo de IA porque está de moda”, como bien lo establece Google en el People + AI GuideBook, deberíamos identificar un problema de las personas que puede ser resuelto de manera única por una IA. Siendo única la palabra clave.


Esto implica el gran desafío de conocer sobre las potencialidades de la IA y tener la capacidad para conceptualizar una idea con ello. Al respecto Qinn Yang, propone considerar la IA “un nuevo material de diseño”, como si fuera un tipo especial de madera o metal, del que se recomienda conocer sus propriedades, capacidades y limitaciones para poder sacarle el mayor provecho.


En la práctica, es difícil encontrar perfiles híbridos que sepan de diseño y IA, así que es recomendable tener equipos interdisciplinares con desarrolladores, diseñadores, investigadores, etc. Aunque debe tenerse cuidado con los sesgos y la fijación, otro recurso usado por personas que no tienen formación técnica en IA es centrarse en los posibles beneficios de esta, tomando ejemplos previos conocidos: “un algoritmo de recomendación como el Netflix que ayude a xyz”, “un sistema tipo Waze que calcule la mejor ruta para xyz”.


2.2 Prototipado // Proyectos Piloto: consiste en la creación de prototipos que permitan analizar la pertinencia y viabilidad de la solución planteada. Lejos de esperarse una solución “perfecta” el objetivo es experimentar y aprender.


Esta subfase probablemente es la que más cambia versus los procesos de pensamiento de diseño convencionales. Hacer un prototipo de una solución de IA es complejo, pues aunque puede diseñarse un front-end de baja o alta calidad, experimentar con el back-end y analizar la calidad de las bases de datos disponibles y la factibilidad del modelo de IA es todo un desafío. Recientemente, han surgido herramientas como el What If Tool que facilitan esta tarea permitiendo jugar con varios escenarios de modelado, no obstante, estamos lejos de contar con alternativas que realmente faciliten el prototipado rápido de soluciones de IA.


Por este motivo, la mayoría de veces las iniciativas de IA comienzan como proyectos pilotos, que a pesar de ser más sencillos y de menor escala, requieren esfuerzos y horas de trabajo mucho mayores a los ejercicios de prototipado convencionales.


Adicionalmente, las características propias de las soluciones de IA requieren discutir y desarrollar algunos elementos específicos que de momento solo enunciaré, pues en próximos artículos espero profundizarlos. Para empezar hay una decisión fundamental sobre si la solución a desarrollar tendrá como foco la substitución de una tarea o cargo realizado por un humano, o si, el abordaje va ser de “humanidad aumentada”, es decir aumentando nuestras propias capacidades.


Luego, siguiendo algunas recomendaciones del People + AI GuideBook de Google, se sugiere continuar analizando y/o diseñando una serie de elementos como:


- Onboarding: esbozar cómo será presentado a los usuarios las capacidades y limitaciones de la IA.


- Ciclos de retroalimentación y control del usuario: definir cuál información de la interacción del usuario va a ser recolectada, qué impacto va a tener esto en la interfaz y cuál va a ser el control del usuario de todo esto.


- Explicabilidad: siguiendo lineamientos éticos es importante hacer un plan de cómo dar explicaciones a los usuarios o incluso a las autoridades sobre el funcionamiento de la solución de IA.


- Matriz de confusión: es recomendado reflexionar cómo va a ser el tratamiento a los errores del sistema, si van a privilegiarse los falsos positivos o falsos negativos.



2.3 Evaluación: por último, tenemos la subfase de evaluación que tiene el objetivo de analizar la experiencia del usuario con la solución de IA, para luego utilizar los aprendizajes en el mejoramiento de la misma .


Fuente: @NYUEntrepreneur Startup School, Lindsey Gray.

Para esto, pueden utilizarse los tradicionales test de usabilidad con algunos pequeños ajustes dirigidos a entender características específicas de la solución de IA. Por ejemplo, si en un ecommerce implementamos un sistema de recomendaciones automáticas sobre otros productos que podrían interesarle al usuario, deberíamos analizar la posición del usuario sobre las recomendaciones generadas.


En particular, una técnica de investigación que recomiendo son los experimentos “Mago de Oz”, en la cual se simula que el sistema ya está funcionando correctamente, que la IA ya es operativa, pero realmente solo tenemos un “front-end” y un ser humano por detrás encargado de hacer las operaciones solicitadas por el usuario.


Adicionalmente, es importante diseñar e implementar un plan de curaduría de la IA. Estas soluciones se caracterizan porque nunca están totalmente acabadas, a medida que los usuarios interactúan se recolecta información que puede retroalimentar la solución y ayudar a la implementación de mejorías.


En próximos artículos profundizaré varios apartados que aquí sólo enuncié. Saludos!


165 visualizaciones

Entradas Recientes

Ver todo