Dissenyar el dret a
Imagina que la teva aplicació bancària classifica un àpat amb amics com una despesa professional. O…
Cerca
Imagina que la teva aplicació bancària classifica un àpat amb amics com una despesa professional. O…
Fa uns dies vaig intentar accedir des del mòbil a la pàgina web d’un client. El navegador semblava…
La innovació genera titulars. Les empreses anuncien noves plataformes digitals, inversions en intel…
Imagina que la teva aplicació bancària classifica un àpat amb amics com una despesa professional. O que un assistent d'intel·ligència artificial basa les seves respostes en informació sobre tu que ja no és certa. O, simplement, que una plataforma et continua recomanant productes relacionats amb una compra puntual que vas fer fa mesos.
En tots aquests casos hi ha una particularitat: tu saps que el sistema s'equivoca, però no sempre disposes d'una manera efectiva de corregir-lo.
A mesura que els productes digitals incorporen capacitats d'intel·ligència artificial, les interfícies deixen de limitar-se a executar les nostres instruccions. Ara també interpreten informació, estableixen relacions, generen recomanacions i prenen decisions basades en les seves pròpies inferències.
Aquesta evolució introdueix un nou repte per al disseny de l'experiència d'usuari. Ja no es tracta únicament de facilitar la interacció amb un sistema, sinó també de permetre que les persones qüestionin i corregeixin les seves interpretacions.
Perquè prémer un botó de «No m'agrada» no és necessàriament corregir. Eliminar una recomanació no implica modificar allò que l'ha originada. I comunicar un error no garanteix que el sistema deixi de cometre'l.
La capacitat de corregir la màquina hauria de formar part del disseny de l'experiència, i no ser-ne una excepció.
Aleshores, què significa dissenyar sistemes que accepten correccions? Quins mecanismes d'interacció poden facilitar aquest procés? Com podem preservar la capacitat d'intervenció humana sense convertir l'usuari en un supervisor permanent de la tecnologia?
En una interfície convencional, la relació entre l'usuari i el sistema és relativament directa: seleccionem una opció, introduïm informació o executem una acció. El sistema respon d'acord amb unes regles prèviament definides.
Els sistemes intel·ligents introdueixen una nova variable en aquesta relació: la interpretació.
Una plataforma de selecció de personal pot inferir l'adequació d'un candidat a un lloc de treball. Una eina de productivitat pot determinar quines tasques considera prioritàries. Una aplicació de comerç electrònic pot interpretar el nostre comportament com una preferència de consum.
En aquests escenaris, el sistema construeix una representació de la realitat que no necessàriament coincideix amb la nostra.
Des del punt de vista del disseny d'interacció, això suposa un canvi significatiu. Ja no dissenyem únicament mecanismes per introduir informació i executar accions, sinó també per intervenir sobre les conclusions que el sistema extreu d'aquesta informació.
Això implica incorporar noves possibilitats d'interacció:
Aquestes interaccions haurien de formar part del flux natural d'ús del producte, en lloc de quedar relegades a formularis de feedback o configuracions difícils de trobar.
Si el sistema té la capacitat d'interpretar l'usuari, l'usuari hauria de tenir la capacitat d'intervenir sobre aquesta interpretació.
El disseny d'interacció adquireix així una nova dimensió: facilitar el diàleg entre allò que la màquina dedueix i allò que la persona sap.
La transparència i l'explicabilitat s'han convertit en principis importants del disseny de sistemes intel·ligents. Tanmateix, comprendre una decisió no implica necessàriament tenir capacitat per modificar-la.
Des de la perspectiva de l'experiència d'usuari, convé diferenciar tres conceptes:
Imaginem una plataforma de formació que adapta les seves recomanacions al nivell de coneixements de l'usuari. El sistema pot informar que li ha assignat un nivell de principiant i explicar que aquesta classificació es basa en la seva activitat recent. Però què passa si aquesta activitat no reflecteix els seus coneixements reals? Pot l'usuari modificar el seu nivell o aportar informació addicional?
En aquest exemple, el producte pot ser transparent i oferir una explicació comprensible, però continuar sent incapaç de gestionar una discrepància.
El repte consisteix a connectar l'explicació amb una possibilitat d'actuació. La informació que proporciona el sistema hauria d'ajudar l'usuari a identificar què necessita corregir i oferir-li un mecanisme adequat per fer-ho, ja sigui mitjançant una modificació directa o sol·licitant una revisió.
La transparència sense capacitat d'intervenció pot convertir l'usuari en un simple espectador de les decisions que l'afecten.
Per tant, en dissenyar una interfície intel·ligent, no ens hauríem de preguntar únicament com explicar les decisions del sistema, sinó també què pot fer l'usuari quan no hi està d'acord.
No totes les correccions responen a la mateixa necessitat. De vegades, l'usuari vol modificar un resultat concret; en d'altres, necessita intervenir sobre la informació que l'ha generat o sobre el comportament futur del sistema.
Des del disseny d'interacció, podem distingir cinc nivells de correcció:
Nivell | Què es corregeix | Exemple |
Resultat | Una resposta o classificació. | Aquesta despesa és personal, no professional. |
Context | La informació utilitzada pel sistema. | Aquesta persona ja no treballa amb mi. |
Inferència | Una conclusió que el sistema ha extret. | Que consulti hotels no vol dir que vulgui viatjar. |
Comportament | Una pauta d'actuació futura. | No utilitzis aquesta informació per personalitzar les meves recomanacions. |
Decisió | Una resolució automatitzada. | No estic d'acord amb aquesta avaluació i sol·licito que es revisi. |
Aquesta distinció és important perquè cada nivell requereix mecanismes d'interacció diferents.
Per exemple, corregir la categoria d'una despesa bancària resol un error puntual. Tanmateix, si el sistema continua classificant incorrectament despeses similars, potser caldrà modificar el criteri que utilitza per fer aquesta classificació.
També hem de distingir entre una correcció puntual i una de persistent. No sempre volem que una modificació es converteixi en una regla permanent. Una excepció no s'hauria d'interpretar automàticament com una nova preferència.
En el cas de les decisions automatitzades, a més, corregir no significa necessàriament poder modificar directament una resolució, sinó disposar de mecanismes per qüestionar-la, aportar informació i sol·licitar-ne la revisió.
Corregir un resultat no sempre significa corregir allò que l'ha generat.
Identificar aquests nivells ens permet dissenyar mecanismes d'intervenció més precisos i oferir a l'usuari un control proporcionat a les seves necessitats i a l'abast de cada correcció.
Dissenyar la capacitat de correcció implica traduir aquest principi en mecanismes d'interacció concrets. No hi ha un únic patró vàlid per a tots els escenaris: la seva elecció dependrà de la naturalesa de l'error, del context d'ús i de les conseqüències de la decisió.
Alguns patrons que podem incorporar al disseny de productes digitals són:
Un exemple especialment interessant és l'ús dels botons de polze amunt o avall, habituals en les interfícies d'intel·ligència artificial. Tot i que són útils per recollir senyals de satisfacció, un polze avall no comunica necessàriament què és incorrecte, què hauria de canviar ni com espera l'usuari que actuï el sistema en el futur.
Hi ha, per tant, una diferència fonamental entre dissenyar mecanismes per recollir feedback i dissenyar mecanismes per gestionar correccions.
El feedback informa el sistema que existeix un problema; la correcció permet intervenir-hi.
L'objectiu no hauria de ser omplir les interfícies de nous controls, sinó incorporar mecanismes d'intervenció rellevants en el moment i el lloc en què l'usuari els necessita.
Oferir a l'usuari la possibilitat de corregir un sistema intel·ligent no significa traslladar-li la responsabilitat de garantir-ne el funcionament correcte.
Si una eina de productivitat requereix que revisem constantment les seves classificacions, reformulem instruccions o corregim els mateixos errors, part de l'eficiència que prometia desapareix. El temps que guanyem mitjançant l'automatització pot acabar invertint-se a supervisar-la.
Des de la perspectiva de l'experiència d'usuari, convé prestar atenció a quatre aspectes:
També és interessant mesurar el cost de la correcció com a indicador de qualitat de l'experiència: quantes vegades ha d'intervenir l'usuari, quant temps dedica a resoldre errors i amb quina freqüència reapareixen problemes que ja havia corregit.
Aquestes mètriques poden revelar deficiències que els indicadors tradicionals de satisfacció o rendiment no sempre detecten.
Oferir control a l'usuari no és el mateix que exigir-li una supervisió permanent.
Una bona experiència ens hauria de permetre intervenir quan ho considerem necessari, sense obligar-nos a fer-ho contínuament perquè el sistema funcioni correctament.
La capacitat de correcció s'hauria de considerar des de les primeres fases del disseny d'un producte intel·ligent, amb la mateixa importància que altres aspectes de l'experiència d'usuari, com l'accessibilitat, la usabilitat o la prevenció d'errors.
Per fer-ho, els equips d'UX, desenvolupament i producte poden incorporar algunes preguntes als seus processos de disseny i validació:
Aquestes preguntes també s'haurien de traslladar a les proves d'usabilitat. A més d'avaluar si una persona és capaç de completar una tasca quan el sistema funciona correctament, hauríem d'observar què passa quan aquest fa una interpretació equivocada.
Introduir deliberadament errors o inferències incorrectes en els escenaris de prova ens pot ajudar a identificar problemes d'interacció que passarien desapercebuts en condicions ideals.
Això requereix, a més, una col·laboració estreta entre disseny i desenvolupament. De poc serveix oferir un mecanisme de correcció si l'arquitectura del producte no permet aplicar-ne, conservar-ne o verificar-ne els efectes.
La capacitat de correcció hauria de ser un criteri de qualitat del producte des de la seva concepció, i no una funcionalitat que incorporem quan apareixen els primers errors.
Dissenyar per a sistemes intel·ligents implica considerar tant els seus encerts com les seves equivocacions i construir experiències capaces de gestionar tots dos escenaris.
L'evolució dels productes digitals ens situa davant d'un escenari en què les màquines no sols executen les nostres instruccions, sinó que també interpreten la realitat i participen en la presa de decisions.
Com més gran sigui la seva capacitat per fer-ho, més important serà preservar la nostra capacitat per intervenir.
Dissenyar el dret a corregir la màquina no significa desconfiar de la tecnologia ni renunciar als avantatges de l'automatització. Significa reconèixer que el coneixement del sistema té límits i que les persones poden disposar d'informació, experiències i coneixements que la màquina desconeix.
Potser també hauríem d'ampliar la nostra manera d'avaluar la qualitat dels productes intel·ligents. No valorar únicament la seva capacitat d'encertar, sinó també com responen quan algú qüestiona les seves conclusions.
La qualitat d'una interfície intel·ligent no s'hauria de mesurar només per allò que sap fer, sinó també per la seva capacitat d'acceptar que s'equivoca.
De què serveix una interfície intel·ligent si, quan s'equivoca, no ens permet corregir-la?
Comentaris