Buscar

Diseñar el derecho a
Diseñar el derecho a

Imagina que tu aplicación bancaria clasifica una comida con amigos como un gasto profesional. O que…

Cuando el fútbol
Cuando el fútbol

Hace unos días intenté acceder desde el móvil a la página web de un cliente. El navegador parecía…

Innovar está bien.
Innovar está bien.

La innovación genera titulares. Las empresas anuncian nuevas plataformas digitales, inversiones en…

Diseñar el derecho a corregir a la máquina

  • Compartir esto:
Diseñar el derecho a corregir a la máquina

La evolución de los productos digitales nos sitúa ante un escenario en el que las máquinas no solo ejecutan nuestras instrucciones, sino que también interpretan la realidad y participan en la toma de decisiones.

Imagina que tu aplicación bancaria clasifica una comida con amigos como un gasto profesional. O que un asistente de inteligencia artificial basa sus respuestas en información sobre ti que ya no es cierta. O, simplemente, que una plataforma sigue recomendándote productos relacionados con una compra puntual que hiciste hace meses.

En todos estos casos existe una particularidad: tú sabes que el sistema se equivoca, pero no siempre dispones de una manera efectiva de corregirlo.

A medida que los productos digitales incorporan capacidades de inteligencia artificial, las interfaces dejan de limitarse a ejecutar nuestras instrucciones. Ahora también interpretan información, establecen relaciones, generan recomendaciones y toman decisiones basadas en sus propias inferencias.

Esta evolución introduce un nuevo reto para el diseño de experiencia de usuario. Ya no se trata únicamente de facilitar la interacción con un sistema, sino también de permitir que las personas cuestionen y corrijan sus interpretaciones.

Porque pulsar un botón de «No me gusta» no es necesariamente corregir. Eliminar una recomendación no implica modificar aquello que la originó. Y comunicar un error no garantiza que el sistema deje de cometerlo.

La capacidad de corregir a la máquina debería formar parte del diseño de la experiencia, no ser una excepción dentro de ella.

Entonces, ¿Qué significa diseñar sistemas que aceptan correcciones? ¿Qué mecanismos de interacción pueden facilitar este proceso? ¿Cómo preservar la capacidad de intervención humana sin convertir al usuario en un supervisor permanente de la tecnología?

De interactuar con una interfaz a negociar con sus interpretaciones

En una interfaz convencional, la relación entre el usuario y el sistema es relativamente directa: seleccionamos una opción, introducimos información o ejecutamos una acción. El sistema responde de acuerdo con unas reglas previamente definidas.

Los sistemas inteligentes introducen una nueva variable en esta relación: la interpretación.

Una plataforma de selección de personal puede inferir la adecuación de un candidato a un puesto. Una herramienta de productividad puede determinar qué tareas considera prioritarias. Una aplicación de comercio electrónico puede interpretar nuestro comportamiento como una preferencia de consumo.

En estos escenarios, el sistema construye una representación de la realidad que no necesariamente coincide con la nuestra.

Desde el punto de vista del diseño de interacción, esto supone un cambio significativo. Ya no diseñamos únicamente mecanismos para introducir información y ejecutar acciones, sino también para intervenir sobre las conclusiones que el sistema extrae de esa información.

Esto implica incorporar nuevas posibilidades de interacción:

  • Indicar que una interpretación es incorrecta.
  • Aportar información que el sistema desconoce.
  • Matizar una preferencia o una intención.
  • Cuestionar una clasificación o una decisión.

Estas interacciones deberían formar parte del flujo natural de uso del producto, en lugar de quedar relegadas a formularios de feedback o configuraciones difíciles de encontrar.

Si el sistema tiene la capacidad de interpretar al usuario, el usuario debería tener la capacidad de intervenir sobre esa interpretación.

El diseño de interacción adquiere así una nueva dimensión: facilitar el diálogo entre lo que la máquina deduce y lo que la persona sabe.

Explicar una decisión no significa permitir corregirla

La transparencia y la explicabilidad se han convertido en principios importantes del diseño de sistemas inteligentes. Sin embargo, comprender una decisión no implica necesariamente tener capacidad para modificarla.

Desde la perspectiva de la experiencia de usuario, conviene diferenciar tres conceptos:

  • Transparencia: permite entender qué ha ocurrido.
  • Explicabilidad: permite comprender por qué ha ocurrido.
  • Capacidad de corrección: permite intervenir sobre lo ocurrido.

Imaginemos una plataforma de formación que adapta sus recomendaciones al nivel de conocimientos del usuario. El sistema puede informar de que le ha asignado un nivel principiante y explicar que esta clasificación se basa en su actividad reciente. Pero ¿qué ocurre si esa actividad no refleja sus conocimientos reales? ¿Puede el usuario modificar su nivel o aportar información adicional?

En este ejemplo, el producto puede ser transparente y ofrecer una explicación comprensible, pero seguir siendo incapaz de gestionar una discrepancia.

El reto consiste en conectar la explicación con una posibilidad de actuación. La información que proporciona el sistema debería ayudar al usuario a identificar qué necesita corregir y ofrecerle un mecanismo adecuado para hacerlo, ya sea mediante una modificación directa o solicitando una revisión.

La transparencia sin capacidad de intervención puede convertir al usuario en un mero espectador de las decisiones que le afectan.

Por tanto, al diseñar una interfaz inteligente, no deberíamos preguntarnos únicamente cómo explicar las decisiones del sistema, sino también qué puede hacer el usuario cuando no está de acuerdo con ellas.

Los distintos niveles de corrección

No todas las correcciones responden a la misma necesidad. En ocasiones, el usuario quiere modificar un resultado concreto; en otras, necesita intervenir sobre la información que lo ha generado o sobre el comportamiento futuro del sistema.

Desde el diseño de interacción, podemos distinguir cinco niveles de corrección:

Nivel

Qué se corrige

Ejemplo

Resultado

Una respuesta o clasificación.

Este gasto es personal, no profesional.

Contexto

La información utilizada por el sistema.

Esa persona ya no trabaja conmigo.

Inferencia

Una conclusión que el sistema ha extraído.

Que consulte hoteles no significa que quiera viajar.

Comportamiento

Una pauta de actuación futura.

No utilices esta información para personalizar mis recomendaciones.

Decisión

Una resolución automatizada.

No estoy de acuerdo con esta evaluación y solicito que se revise.

Esta distinción es importante porque cada nivel requiere mecanismos de interacción diferentes.

Por ejemplo, corregir la categoría de un gasto bancario resuelve un error puntual. Sin embargo, si el sistema continúa clasificando incorrectamente gastos similares, quizá sea necesario modificar el criterio que utiliza para realizar esa clasificación.

También debemos distinguir entre una corrección puntual y una persistente. No siempre queremos que una modificación se convierta en una regla permanente. Una excepción no debería interpretarse automáticamente como una nueva preferencia.

En el caso de las decisiones automatizadas, además, corregir no significa necesariamente poder modificar directamente una resolución, sino disponer de mecanismos para cuestionarla, aportar información y solicitar su revisión.

Corregir un resultado no siempre significa corregir aquello que lo ha generado.

Identificar estos niveles nos permite diseñar mecanismos de intervención más precisos y ofrecer al usuario un control proporcionado a sus necesidades y al alcance de cada corrección.

Patrones de diseño para sistemas que aceptan correcciones

Diseñar la capacidad de corrección implica traducir este principio en mecanismos de interacción concretos. No existe un único patrón válido para todos los escenarios: su elección dependerá de la naturaleza del error, del contexto de uso y de las consecuencias de la decisión.

Algunos patrones que podemos incorporar al diseño de productos digitales son:

  • Edición directa de resultados. Permitir modificar una respuesta, una etiqueta o una clasificación sin abandonar el contexto en el que se presenta.
  • Feedback contextual. Facilitar que el usuario indique qué es incorrecto y por qué, en lugar de limitarse a expresar satisfacción o insatisfacción.
  • Corrección de inferencias. Hacer visibles determinadas suposiciones del sistema y permitir que el usuario las valide, matice o descarte.
  • Incorporación de contexto adicional. Ofrecer la posibilidad de añadir información relevante que el sistema no ha tenido en cuenta.
  • Selección del alcance de la corrección. Permitir decidir si una modificación afecta únicamente al resultado actual o también a futuras interacciones.
  • Confirmación de los efectos. Comunicar qué ha cambiado tras la intervención del usuario y qué consecuencias tendrá esa modificación.
  • Impugnación de decisiones. Proporcionar mecanismos accesibles para solicitar una revisión cuando una resolución no puede modificarse directamente.

Un ejemplo especialmente interesante es el uso de los botones de pulgar hacia arriba o hacia abajo, habituales en las interfaces de inteligencia artificial. Aunque son útiles para recoger señales de satisfacción, un pulgar hacia abajo no comunica necesariamente qué es incorrecto, qué debería cambiar ni cómo espera el usuario que actúe el sistema en el futuro.

Existe, por tanto, una diferencia fundamental entre diseñar mecanismos para recoger feedback y diseñar mecanismos para gestionar correcciones.

El feedback informa al sistema de que existe un problema; la corrección permite intervenir sobre él.

El objetivo no debería ser llenar las interfaces de nuevos controles, sino incorporar mecanismos de intervención relevantes en el momento y el lugar en los que el usuario los necesita.

Corregir no debería convertirse en trabajar para la máquina

Ofrecer al usuario la posibilidad de corregir un sistema inteligente no significa trasladarle la responsabilidad de garantizar su correcto funcionamiento.

Si una herramienta de productividad requiere que revisemos constantemente sus clasificaciones, reformulemos instrucciones o corrijamos los mismos errores, parte de la eficiencia que prometía desaparece. El tiempo que ganamos mediante la automatización puede terminar invirtiéndose en supervisarla.

Desde la perspectiva de la experiencia de usuario, conviene prestar atención a cuatro aspectos:

  • Carga cognitiva. Corregir debería requerir menos esfuerzo que realizar manualmente la tarea que pretendíamos automatizar.
  • Persistencia. El sistema debería respetar las correcciones anteriores cuando el usuario haya indicado que deben aplicarse en futuras interacciones.
  • Proporcionalidad. Una corrección sencilla no debería exigir el mismo esfuerzo que la revisión de una decisión compleja.
  • Responsabilidad. La posibilidad de intervenir no exime al producto de su responsabilidad sobre la calidad de sus resultados.

También resulta interesante medir el coste de la corrección como indicador de calidad de la experiencia: cuántas veces debe intervenir el usuario, cuánto tiempo dedica a resolver errores y con qué frecuencia reaparecen problemas que ya había corregido.

Estas métricas pueden revelar deficiencias que los indicadores tradicionales de satisfacción o rendimiento no siempre detectan.

Ofrecer control al usuario no es lo mismo que exigirle supervisión permanente.

Una buena experiencia debería permitirnos intervenir cuando lo consideremos necesario, sin obligarnos a hacerlo continuamente para que el sistema funcione correctamente.

Diseñar la corrección como parte del producto

La capacidad de corrección debería contemplarse desde las primeras fases del diseño de un producto inteligente, con la misma importancia que otros aspectos de la experiencia de usuario, como la accesibilidad, la usabilidad o la prevención de errores.

Para ello, los equipos de UX, desarrollo y producto pueden incorporar algunas preguntas a sus procesos de diseño y validación:

  • ¿Puede el usuario identificar que el sistema ha realizado una interpretación incorrecta?
  • ¿Dispone de un mecanismo accesible para corregirla?
  • ¿Comprende el alcance y las consecuencias de su intervención?
  • ¿Puede comprobar que la corrección se ha aplicado correctamente?
  • ¿Qué sucede si el sistema vuelve a cometer el mismo error?
  • ¿Existe una alternativa para solicitar una revisión cuando no es posible modificar directamente una decisión?

Estas preguntas también deberían trasladarse a las pruebas de usabilidad. Además de evaluar si una persona es capaz de completar una tarea cuando el sistema funciona correctamente, deberíamos observar qué ocurre cuando este realiza una interpretación equivocada.

Introducir deliberadamente errores o inferencias incorrectas en los escenarios de prueba puede ayudarnos a identificar problemas de interacción que pasarían inadvertidos en condiciones ideales.

Esto requiere, además, una colaboración estrecha entre diseño y desarrollo. De poco sirve ofrecer un mecanismo de corrección si la arquitectura del producto no permite aplicar, conservar o verificar sus efectos.

La capacidad de corrección debería ser un criterio de calidad del producto desde su concepción, no una funcionalidad que incorporamos cuando aparecen los primeros errores.

Diseñar para sistemas inteligentes implica contemplar tanto sus aciertos como sus equivocaciones y construir experiencias capaces de gestionar ambos escenarios.

Conclusión

La evolución de los productos digitales nos sitúa ante un escenario en el que las máquinas no solo ejecutan nuestras instrucciones, sino que también interpretan la realidad y participan en la toma de decisiones.

Cuanto mayor sea su capacidad para hacerlo, más importante será preservar nuestra capacidad para intervenir.

Diseñar el derecho a corregir a la máquina no significa desconfiar de la tecnología ni renunciar a las ventajas de la automatización. Significa reconocer que el conocimiento del sistema tiene límites y que las personas pueden disponer de información, experiencias y conocimientos que la máquina desconoce.

Quizá debamos ampliar también nuestra manera de evaluar la calidad de los productos inteligentes. No valorar únicamente su capacidad para acertar, sino también cómo responden cuando alguien cuestiona sus conclusiones.

La calidad de una interfaz inteligente no debería medirse solo por lo que sabe hacer, sino también por su capacidad para aceptar que está equivocada.

Hazte miembro

Recibe las últimas novedades directamente en tu correo. Sin spam.

¿De qué sirve una interfaz inteligente si, cuando se equivoca, no nos permite corregirla?

Comentarios
Comentario