Diseñar el derecho a
Imagina que tu aplicación bancaria clasifica una comida con amigos como un gasto profesional. O que…
Buscar
Imagina que tu aplicación bancaria clasifica una comida con amigos como un gasto profesional. O que…
Hace unos días intenté acceder desde el móvil a la página web de un cliente. El navegador parecía…
La innovación genera titulares. Las empresas anuncian nuevas plataformas digitales, inversiones en…
La evolución de los productos digitales nos sitúa ante un escenario en el que las máquinas no solo ejecutan nuestras instrucciones, sino que también interpretan la realidad y participan en la toma de decisiones.
Imagina que tu aplicación bancaria clasifica una comida con amigos como un gasto profesional. O que un asistente de inteligencia artificial basa sus respuestas en información sobre ti que ya no es cierta. O, simplemente, que una plataforma sigue recomendándote productos relacionados con una compra puntual que hiciste hace meses.
En todos estos casos existe una particularidad: tú sabes que el sistema se equivoca, pero no siempre dispones de una manera efectiva de corregirlo.
A medida que los productos digitales incorporan capacidades de inteligencia artificial, las interfaces dejan de limitarse a ejecutar nuestras instrucciones. Ahora también interpretan información, establecen relaciones, generan recomendaciones y toman decisiones basadas en sus propias inferencias.
Esta evolución introduce un nuevo reto para el diseño de experiencia de usuario. Ya no se trata únicamente de facilitar la interacción con un sistema, sino también de permitir que las personas cuestionen y corrijan sus interpretaciones.
Porque pulsar un botón de «No me gusta» no es necesariamente corregir. Eliminar una recomendación no implica modificar aquello que la originó. Y comunicar un error no garantiza que el sistema deje de cometerlo.
La capacidad de corregir a la máquina debería formar parte del diseño de la experiencia, no ser una excepción dentro de ella.
Entonces, ¿Qué significa diseñar sistemas que aceptan correcciones? ¿Qué mecanismos de interacción pueden facilitar este proceso? ¿Cómo preservar la capacidad de intervención humana sin convertir al usuario en un supervisor permanente de la tecnología?
En una interfaz convencional, la relación entre el usuario y el sistema es relativamente directa: seleccionamos una opción, introducimos información o ejecutamos una acción. El sistema responde de acuerdo con unas reglas previamente definidas.
Los sistemas inteligentes introducen una nueva variable en esta relación: la interpretación.
Una plataforma de selección de personal puede inferir la adecuación de un candidato a un puesto. Una herramienta de productividad puede determinar qué tareas considera prioritarias. Una aplicación de comercio electrónico puede interpretar nuestro comportamiento como una preferencia de consumo.
En estos escenarios, el sistema construye una representación de la realidad que no necesariamente coincide con la nuestra.
Desde el punto de vista del diseño de interacción, esto supone un cambio significativo. Ya no diseñamos únicamente mecanismos para introducir información y ejecutar acciones, sino también para intervenir sobre las conclusiones que el sistema extrae de esa información.
Esto implica incorporar nuevas posibilidades de interacción:
Estas interacciones deberían formar parte del flujo natural de uso del producto, en lugar de quedar relegadas a formularios de feedback o configuraciones difíciles de encontrar.
Si el sistema tiene la capacidad de interpretar al usuario, el usuario debería tener la capacidad de intervenir sobre esa interpretación.
El diseño de interacción adquiere así una nueva dimensión: facilitar el diálogo entre lo que la máquina deduce y lo que la persona sabe.
La transparencia y la explicabilidad se han convertido en principios importantes del diseño de sistemas inteligentes. Sin embargo, comprender una decisión no implica necesariamente tener capacidad para modificarla.
Desde la perspectiva de la experiencia de usuario, conviene diferenciar tres conceptos:
Imaginemos una plataforma de formación que adapta sus recomendaciones al nivel de conocimientos del usuario. El sistema puede informar de que le ha asignado un nivel principiante y explicar que esta clasificación se basa en su actividad reciente. Pero ¿qué ocurre si esa actividad no refleja sus conocimientos reales? ¿Puede el usuario modificar su nivel o aportar información adicional?
En este ejemplo, el producto puede ser transparente y ofrecer una explicación comprensible, pero seguir siendo incapaz de gestionar una discrepancia.
El reto consiste en conectar la explicación con una posibilidad de actuación. La información que proporciona el sistema debería ayudar al usuario a identificar qué necesita corregir y ofrecerle un mecanismo adecuado para hacerlo, ya sea mediante una modificación directa o solicitando una revisión.
La transparencia sin capacidad de intervención puede convertir al usuario en un mero espectador de las decisiones que le afectan.
Por tanto, al diseñar una interfaz inteligente, no deberíamos preguntarnos únicamente cómo explicar las decisiones del sistema, sino también qué puede hacer el usuario cuando no está de acuerdo con ellas.
No todas las correcciones responden a la misma necesidad. En ocasiones, el usuario quiere modificar un resultado concreto; en otras, necesita intervenir sobre la información que lo ha generado o sobre el comportamiento futuro del sistema.
Desde el diseño de interacción, podemos distinguir cinco niveles de corrección:
Nivel | Qué se corrige | Ejemplo |
Resultado | Una respuesta o clasificación. | Este gasto es personal, no profesional. |
Contexto | La información utilizada por el sistema. | Esa persona ya no trabaja conmigo. |
Inferencia | Una conclusión que el sistema ha extraído. | Que consulte hoteles no significa que quiera viajar. |
Comportamiento | Una pauta de actuación futura. | No utilices esta información para personalizar mis recomendaciones. |
Decisión | Una resolución automatizada. | No estoy de acuerdo con esta evaluación y solicito que se revise. |
Esta distinción es importante porque cada nivel requiere mecanismos de interacción diferentes.
Por ejemplo, corregir la categoría de un gasto bancario resuelve un error puntual. Sin embargo, si el sistema continúa clasificando incorrectamente gastos similares, quizá sea necesario modificar el criterio que utiliza para realizar esa clasificación.
También debemos distinguir entre una corrección puntual y una persistente. No siempre queremos que una modificación se convierta en una regla permanente. Una excepción no debería interpretarse automáticamente como una nueva preferencia.
En el caso de las decisiones automatizadas, además, corregir no significa necesariamente poder modificar directamente una resolución, sino disponer de mecanismos para cuestionarla, aportar información y solicitar su revisión.
Corregir un resultado no siempre significa corregir aquello que lo ha generado.
Identificar estos niveles nos permite diseñar mecanismos de intervención más precisos y ofrecer al usuario un control proporcionado a sus necesidades y al alcance de cada corrección.
Diseñar la capacidad de corrección implica traducir este principio en mecanismos de interacción concretos. No existe un único patrón válido para todos los escenarios: su elección dependerá de la naturaleza del error, del contexto de uso y de las consecuencias de la decisión.
Algunos patrones que podemos incorporar al diseño de productos digitales son:
Un ejemplo especialmente interesante es el uso de los botones de pulgar hacia arriba o hacia abajo, habituales en las interfaces de inteligencia artificial. Aunque son útiles para recoger señales de satisfacción, un pulgar hacia abajo no comunica necesariamente qué es incorrecto, qué debería cambiar ni cómo espera el usuario que actúe el sistema en el futuro.
Existe, por tanto, una diferencia fundamental entre diseñar mecanismos para recoger feedback y diseñar mecanismos para gestionar correcciones.
El feedback informa al sistema de que existe un problema; la corrección permite intervenir sobre él.
El objetivo no debería ser llenar las interfaces de nuevos controles, sino incorporar mecanismos de intervención relevantes en el momento y el lugar en los que el usuario los necesita.
Ofrecer al usuario la posibilidad de corregir un sistema inteligente no significa trasladarle la responsabilidad de garantizar su correcto funcionamiento.
Si una herramienta de productividad requiere que revisemos constantemente sus clasificaciones, reformulemos instrucciones o corrijamos los mismos errores, parte de la eficiencia que prometía desaparece. El tiempo que ganamos mediante la automatización puede terminar invirtiéndose en supervisarla.
Desde la perspectiva de la experiencia de usuario, conviene prestar atención a cuatro aspectos:
También resulta interesante medir el coste de la corrección como indicador de calidad de la experiencia: cuántas veces debe intervenir el usuario, cuánto tiempo dedica a resolver errores y con qué frecuencia reaparecen problemas que ya había corregido.
Estas métricas pueden revelar deficiencias que los indicadores tradicionales de satisfacción o rendimiento no siempre detectan.
Ofrecer control al usuario no es lo mismo que exigirle supervisión permanente.
Una buena experiencia debería permitirnos intervenir cuando lo consideremos necesario, sin obligarnos a hacerlo continuamente para que el sistema funcione correctamente.
La capacidad de corrección debería contemplarse desde las primeras fases del diseño de un producto inteligente, con la misma importancia que otros aspectos de la experiencia de usuario, como la accesibilidad, la usabilidad o la prevención de errores.
Para ello, los equipos de UX, desarrollo y producto pueden incorporar algunas preguntas a sus procesos de diseño y validación:
Estas preguntas también deberían trasladarse a las pruebas de usabilidad. Además de evaluar si una persona es capaz de completar una tarea cuando el sistema funciona correctamente, deberíamos observar qué ocurre cuando este realiza una interpretación equivocada.
Introducir deliberadamente errores o inferencias incorrectas en los escenarios de prueba puede ayudarnos a identificar problemas de interacción que pasarían inadvertidos en condiciones ideales.
Esto requiere, además, una colaboración estrecha entre diseño y desarrollo. De poco sirve ofrecer un mecanismo de corrección si la arquitectura del producto no permite aplicar, conservar o verificar sus efectos.
La capacidad de corrección debería ser un criterio de calidad del producto desde su concepción, no una funcionalidad que incorporamos cuando aparecen los primeros errores.
Diseñar para sistemas inteligentes implica contemplar tanto sus aciertos como sus equivocaciones y construir experiencias capaces de gestionar ambos escenarios.
La evolución de los productos digitales nos sitúa ante un escenario en el que las máquinas no solo ejecutan nuestras instrucciones, sino que también interpretan la realidad y participan en la toma de decisiones.
Cuanto mayor sea su capacidad para hacerlo, más importante será preservar nuestra capacidad para intervenir.
Diseñar el derecho a corregir a la máquina no significa desconfiar de la tecnología ni renunciar a las ventajas de la automatización. Significa reconocer que el conocimiento del sistema tiene límites y que las personas pueden disponer de información, experiencias y conocimientos que la máquina desconoce.
Quizá debamos ampliar también nuestra manera de evaluar la calidad de los productos inteligentes. No valorar únicamente su capacidad para acertar, sino también cómo responden cuando alguien cuestiona sus conclusiones.
La calidad de una interfaz inteligente no debería medirse solo por lo que sabe hacer, sino también por su capacidad para aceptar que está equivocada.
¿De qué sirve una interfaz inteligente si, cuando se equivoca, no nos permite corregirla?
Comentarios