Cerca

Dissenyar el dret a
Dissenyar el dret a

Imagina que la teva aplicació bancària classifica un àpat amb amics com una despesa professional. O…

Quan el futbol
Quan el futbol

Fa uns dies vaig intentar accedir des del mòbil a la pàgina web d’un client. El navegador semblava…

Innovar està bé.
Innovar està bé.

La innovació genera titulars. Les empreses anuncien noves plataformes digitals, inversions en intel…

Dissenyar el dret a corregir la màquina

Dissenyar el dret a corregir la màquina

Imagina que la teva aplicació bancària classifica un àpat amb amics com una despesa professional. O que un assistent d'intel·ligència artificial basa les seves respostes en informació sobre tu que ja no és certa. O, simplement, que una plataforma et continua recomanant productes relacionats amb una compra puntual que vas fer fa mesos.

En tots aquests casos hi ha una particularitat: tu saps que el sistema s'equivoca, però no sempre disposes d'una manera efectiva de corregir-lo.

A mesura que els productes digitals incorporen capacitats d'intel·ligència artificial, les interfícies deixen de limitar-se a executar les nostres instruccions. Ara també interpreten informació, estableixen relacions, generen recomanacions i prenen decisions basades en les seves pròpies inferències.

Aquesta evolució introdueix un nou repte per al disseny de l'experiència d'usuari. Ja no es tracta únicament de facilitar la interacció amb un sistema, sinó també de permetre que les persones qüestionin i corregeixin les seves interpretacions.

Perquè prémer un botó de «No m'agrada» no és necessàriament corregir. Eliminar una recomanació no implica modificar allò que l'ha originada. I comunicar un error no garanteix que el sistema deixi de cometre'l.

La capacitat de corregir la màquina hauria de formar part del disseny de l'experiència, i no ser-ne una excepció.

Aleshores, què significa dissenyar sistemes que accepten correccions? Quins mecanismes d'interacció poden facilitar aquest procés? Com podem preservar la capacitat d'intervenció humana sense convertir l'usuari en un supervisor permanent de la tecnologia?

D'interactuar amb una interfície a negociar amb les seves interpretacions

En una interfície convencional, la relació entre l'usuari i el sistema és relativament directa: seleccionem una opció, introduïm informació o executem una acció. El sistema respon d'acord amb unes regles prèviament definides.

Els sistemes intel·ligents introdueixen una nova variable en aquesta relació: la interpretació.

Una plataforma de selecció de personal pot inferir l'adequació d'un candidat a un lloc de treball. Una eina de productivitat pot determinar quines tasques considera prioritàries. Una aplicació de comerç electrònic pot interpretar el nostre comportament com una preferència de consum.

En aquests escenaris, el sistema construeix una representació de la realitat que no necessàriament coincideix amb la nostra.

Des del punt de vista del disseny d'interacció, això suposa un canvi significatiu. Ja no dissenyem únicament mecanismes per introduir informació i executar accions, sinó també per intervenir sobre les conclusions que el sistema extreu d'aquesta informació.

Això implica incorporar noves possibilitats d'interacció:

  • Indicar que una interpretació és incorrecta.
  • Aportar informació que el sistema desconeix.
  • Matisar una preferència o una intenció.
  • Qüestionar una classificació o una decisió.

Aquestes interaccions haurien de formar part del flux natural d'ús del producte, en lloc de quedar relegades a formularis de feedback o configuracions difícils de trobar.

Si el sistema té la capacitat d'interpretar l'usuari, l'usuari hauria de tenir la capacitat d'intervenir sobre aquesta interpretació.

El disseny d'interacció adquireix així una nova dimensió: facilitar el diàleg entre allò que la màquina dedueix i allò que la persona sap.

Explicar una decisió no significa permetre corregir-la

La transparència i l'explicabilitat s'han convertit en principis importants del disseny de sistemes intel·ligents. Tanmateix, comprendre una decisió no implica necessàriament tenir capacitat per modificar-la.

Des de la perspectiva de l'experiència d'usuari, convé diferenciar tres conceptes:

  • Transparència: permet entendre què ha passat.
  • Explicabilitat: permet comprendre per què ha passat.
  • Capacitat de correcció: permet intervenir sobre allò que ha passat.

Imaginem una plataforma de formació que adapta les seves recomanacions al nivell de coneixements de l'usuari. El sistema pot informar que li ha assignat un nivell de principiant i explicar que aquesta classificació es basa en la seva activitat recent. Però què passa si aquesta activitat no reflecteix els seus coneixements reals? Pot l'usuari modificar el seu nivell o aportar informació addicional?

En aquest exemple, el producte pot ser transparent i oferir una explicació comprensible, però continuar sent incapaç de gestionar una discrepància.

El repte consisteix a connectar l'explicació amb una possibilitat d'actuació. La informació que proporciona el sistema hauria d'ajudar l'usuari a identificar què necessita corregir i oferir-li un mecanisme adequat per fer-ho, ja sigui mitjançant una modificació directa o sol·licitant una revisió.

La transparència sense capacitat d'intervenció pot convertir l'usuari en un simple espectador de les decisions que l'afecten.

Per tant, en dissenyar una interfície intel·ligent, no ens hauríem de preguntar únicament com explicar les decisions del sistema, sinó també què pot fer l'usuari quan no hi està d'acord.

Els diferents nivells de correcció

No totes les correccions responen a la mateixa necessitat. De vegades, l'usuari vol modificar un resultat concret; en d'altres, necessita intervenir sobre la informació que l'ha generat o sobre el comportament futur del sistema.

Des del disseny d'interacció, podem distingir cinc nivells de correcció:

Nivell

Què es corregeix

Exemple

Resultat

Una resposta o classificació.

Aquesta despesa és personal, no professional.

Context

La informació utilitzada pel sistema.

Aquesta persona ja no treballa amb mi.

Inferència

Una conclusió que el sistema ha extret.

Que consulti hotels no vol dir que vulgui viatjar.

Comportament

Una pauta d'actuació futura.

No utilitzis aquesta informació per personalitzar les meves recomanacions.

Decisió

Una resolució automatitzada.

No estic d'acord amb aquesta avaluació i sol·licito que es revisi.

Aquesta distinció és important perquè cada nivell requereix mecanismes d'interacció diferents.

Per exemple, corregir la categoria d'una despesa bancària resol un error puntual. Tanmateix, si el sistema continua classificant incorrectament despeses similars, potser caldrà modificar el criteri que utilitza per fer aquesta classificació.

També hem de distingir entre una correcció puntual i una de persistent. No sempre volem que una modificació es converteixi en una regla permanent. Una excepció no s'hauria d'interpretar automàticament com una nova preferència.

En el cas de les decisions automatitzades, a més, corregir no significa necessàriament poder modificar directament una resolució, sinó disposar de mecanismes per qüestionar-la, aportar informació i sol·licitar-ne la revisió.

Corregir un resultat no sempre significa corregir allò que l'ha generat.

Identificar aquests nivells ens permet dissenyar mecanismes d'intervenció més precisos i oferir a l'usuari un control proporcionat a les seves necessitats i a l'abast de cada correcció.

Patrons de disseny per a sistemes que accepten correccions

Dissenyar la capacitat de correcció implica traduir aquest principi en mecanismes d'interacció concrets. No hi ha un únic patró vàlid per a tots els escenaris: la seva elecció dependrà de la naturalesa de l'error, del context d'ús i de les conseqüències de la decisió.

Alguns patrons que podem incorporar al disseny de productes digitals són:

  • Edició directa de resultats. Permetre modificar una resposta, una etiqueta o una classificació sense abandonar el context en què es presenta.
  • Feedback contextual. Facilitar que l'usuari indiqui què és incorrecte i per què, en lloc de limitar-se a expressar satisfacció o insatisfacció.
  • Correcció d'inferències. Fer visibles determinades suposicions del sistema i permetre que l'usuari les validi, les matisi o les descarti.
  • Incorporació de context addicional. Oferir la possibilitat d'afegir informació rellevant que el sistema no ha tingut en compte.
  • Selecció de l'abast de la correcció. Permetre decidir si una modificació afecta únicament el resultat actual o també interaccions futures.
  • Confirmació dels efectes. Comunicar què ha canviat després de la intervenció de l'usuari i quines conseqüències tindrà aquesta modificació.
  • Impugnació de decisions. Proporcionar mecanismes accessibles per sol·licitar una revisió quan una resolució no es pot modificar directament.

Un exemple especialment interessant és l'ús dels botons de polze amunt o avall, habituals en les interfícies d'intel·ligència artificial. Tot i que són útils per recollir senyals de satisfacció, un polze avall no comunica necessàriament què és incorrecte, què hauria de canviar ni com espera l'usuari que actuï el sistema en el futur.

Hi ha, per tant, una diferència fonamental entre dissenyar mecanismes per recollir feedback i dissenyar mecanismes per gestionar correccions.

El feedback informa el sistema que existeix un problema; la correcció permet intervenir-hi.

L'objectiu no hauria de ser omplir les interfícies de nous controls, sinó incorporar mecanismes d'intervenció rellevants en el moment i el lloc en què l'usuari els necessita.

Corregir no hauria de convertir-se en treballar per a la màquina

Oferir a l'usuari la possibilitat de corregir un sistema intel·ligent no significa traslladar-li la responsabilitat de garantir-ne el funcionament correcte.

Si una eina de productivitat requereix que revisem constantment les seves classificacions, reformulem instruccions o corregim els mateixos errors, part de l'eficiència que prometia desapareix. El temps que guanyem mitjançant l'automatització pot acabar invertint-se a supervisar-la.

Des de la perspectiva de l'experiència d'usuari, convé prestar atenció a quatre aspectes:

  • Càrrega cognitiva. Corregir hauria de requerir menys esforç que fer manualment la tasca que preteníem automatitzar.
  • Persistència. El sistema hauria de respectar les correccions anteriors quan l'usuari hagi indicat que s'han d'aplicar en interaccions futures.
  • Proporcionalitat. Una correcció senzilla no hauria d'exigir el mateix esforç que la revisió d'una decisió complexa.
  • Responsabilitat. La possibilitat d'intervenir no eximeix el producte de la seva responsabilitat sobre la qualitat dels seus resultats.

També és interessant mesurar el cost de la correcció com a indicador de qualitat de l'experiència: quantes vegades ha d'intervenir l'usuari, quant temps dedica a resoldre errors i amb quina freqüència reapareixen problemes que ja havia corregit.

Aquestes mètriques poden revelar deficiències que els indicadors tradicionals de satisfacció o rendiment no sempre detecten.

Oferir control a l'usuari no és el mateix que exigir-li una supervisió permanent.

Una bona experiència ens hauria de permetre intervenir quan ho considerem necessari, sense obligar-nos a fer-ho contínuament perquè el sistema funcioni correctament.

Dissenyar la correcció com a part del producte

La capacitat de correcció s'hauria de considerar des de les primeres fases del disseny d'un producte intel·ligent, amb la mateixa importància que altres aspectes de l'experiència d'usuari, com l'accessibilitat, la usabilitat o la prevenció d'errors.

Per fer-ho, els equips d'UX, desenvolupament i producte poden incorporar algunes preguntes als seus processos de disseny i validació:

  • Pot l'usuari identificar que el sistema ha fet una interpretació incorrecta?
  • Disposa d'un mecanisme accessible per corregir-la?
  • Comprèn l'abast i les conseqüències de la seva intervenció?
  • Pot comprovar que la correcció s'ha aplicat correctament?
  • Què passa si el sistema torna a cometre el mateix error?
  • Hi ha una alternativa per sol·licitar una revisió quan no és possible modificar directament una decisió?

Aquestes preguntes també s'haurien de traslladar a les proves d'usabilitat. A més d'avaluar si una persona és capaç de completar una tasca quan el sistema funciona correctament, hauríem d'observar què passa quan aquest fa una interpretació equivocada.

Introduir deliberadament errors o inferències incorrectes en els escenaris de prova ens pot ajudar a identificar problemes d'interacció que passarien desapercebuts en condicions ideals.

Això requereix, a més, una col·laboració estreta entre disseny i desenvolupament. De poc serveix oferir un mecanisme de correcció si l'arquitectura del producte no permet aplicar-ne, conservar-ne o verificar-ne els efectes.

La capacitat de correcció hauria de ser un criteri de qualitat del producte des de la seva concepció, i no una funcionalitat que incorporem quan apareixen els primers errors.

Dissenyar per a sistemes intel·ligents implica considerar tant els seus encerts com les seves equivocacions i construir experiències capaces de gestionar tots dos escenaris.

Conclusió

L'evolució dels productes digitals ens situa davant d'un escenari en què les màquines no sols executen les nostres instruccions, sinó que també interpreten la realitat i participen en la presa de decisions.

Com més gran sigui la seva capacitat per fer-ho, més important serà preservar la nostra capacitat per intervenir.

Dissenyar el dret a corregir la màquina no significa desconfiar de la tecnologia ni renunciar als avantatges de l'automatització. Significa reconèixer que el coneixement del sistema té límits i que les persones poden disposar d'informació, experiències i coneixements que la màquina desconeix.

Potser també hauríem d'ampliar la nostra manera d'avaluar la qualitat dels productes intel·ligents. No valorar únicament la seva capacitat d'encertar, sinó també com responen quan algú qüestiona les seves conclusions.

La qualitat d'una interfície intel·ligent no s'hauria de mesurar només per allò que sap fer, sinó també per la seva capacitat d'acceptar que s'equivoca.

Fes-te membre

Rep les últimes novetats directament al teu correu. Sense correu brossa.

De què serveix una interfície intel·ligent si, quan s'equivoca, no ens permet corregir-la?

Comentaris
Comentari