Conceber o direito de
Imagina que a tua aplicação bancária classifica uma refeição com amigos como uma despesa…
Pesquisar
Imagina que a tua aplicação bancária classifica uma refeição com amigos como uma despesa…
Há alguns dias, tentei aceder, a partir do telemóvel, ao site de um cliente. O navegador parecia…
A inovação gera manchetes. As empresas anunciam novas plataformas digitais, investimentos em…
Imagina que a tua aplicação bancária classifica uma refeição com amigos como uma despesa profissional. Ou que um assistente de inteligência artificial baseia as suas respostas em informação sobre ti que já não é verdadeira. Ou, simplesmente, que uma plataforma continua a recomendar-te produtos relacionados com uma compra pontual que fizeste há meses.
Em todos estes casos existe uma particularidade: sabes que o sistema está errado, mas nem sempre dispões de uma forma eficaz de o corrigir.
À medida que os produtos digitais incorporam capacidades de inteligência artificial, as interfaces deixam de se limitar a executar as nossas instruções. Passam também a interpretar informação, a estabelecer relações, a gerar recomendações e a tomar decisões com base nas suas próprias inferências.
Esta evolução introduz um novo desafio para o design de experiência do utilizador. Já não se trata apenas de facilitar a interação com um sistema, mas também de permitir que as pessoas questionem e corrijam as suas interpretações.
Porque carregar num botão de «Não gosto» não é necessariamente corrigir. Eliminar uma recomendação não implica modificar aquilo que lhe deu origem. E comunicar um erro não garante que o sistema deixe de o cometer.
A capacidade de corrigir a máquina deveria fazer parte do design da experiência, e não ser uma exceção dentro dela.
Então, o que significa conceber sistemas que aceitam correções? Que mecanismos de interação podem facilitar este processo? Como preservar a capacidade de intervenção humana sem transformar o utilizador num supervisor permanente da tecnologia?
Numa interface convencional, a relação entre o utilizador e o sistema é relativamente direta: selecionamos uma opção, introduzimos informação ou executamos uma ação. O sistema responde de acordo com regras previamente definidas.
Os sistemas inteligentes introduzem uma nova variável nesta relação: a interpretação.
Uma plataforma de recrutamento pode inferir a adequação de um candidato a uma vaga. Uma ferramenta de produtividade pode determinar quais as tarefas que considera prioritárias. Uma aplicação de comércio eletrónico pode interpretar o nosso comportamento como uma preferência de consumo.
Nestes cenários, o sistema constrói uma representação da realidade que não coincide necessariamente com a nossa.
Do ponto de vista do design de interação, isto representa uma mudança significativa. Já não concebemos apenas mecanismos para introduzir informação e executar ações, mas também para intervir nas conclusões que o sistema retira dessa informação.
Isto implica incorporar novas possibilidades de interação:
Estas interações deveriam fazer parte do fluxo natural de utilização do produto, em vez de ficarem relegadas para formulários de feedback ou configurações difíceis de encontrar.
Se o sistema tem a capacidade de interpretar o utilizador, o utilizador deveria ter a capacidade de intervir nessa interpretação.
O design de interação ganha assim uma nova dimensão: facilitar o diálogo entre aquilo que a máquina deduz e aquilo que a pessoa sabe.
A transparência e a explicabilidade tornaram-se princípios importantes no design de sistemas inteligentes. No entanto, compreender uma decisão não implica necessariamente ter capacidade para a modificar.
Na perspetiva da experiência do utilizador, convém distinguir três conceitos:
Imaginemos uma plataforma de formação que adapta as suas recomendações ao nível de conhecimentos do utilizador. O sistema pode informar que lhe atribuiu um nível de iniciante e explicar que essa classificação se baseia na sua atividade recente. Mas o que acontece se essa atividade não refletir os seus conhecimentos reais? Pode o utilizador modificar o seu nível ou fornecer informação adicional?
Neste exemplo, o produto pode ser transparente e oferecer uma explicação compreensível, mas continuar a ser incapaz de gerir uma divergência.
O desafio consiste em ligar a explicação a uma possibilidade de ação. A informação fornecida pelo sistema deveria ajudar o utilizador a identificar o que precisa de corrigir e disponibilizar-lhe um mecanismo adequado para o fazer, quer através de uma alteração direta, quer solicitando uma revisão.
A transparência sem capacidade de intervenção pode transformar o utilizador num mero espetador das decisões que o afetam.
Por isso, ao conceber uma interface inteligente, não deveríamos perguntar-nos apenas como explicar as decisões do sistema, mas também o que pode fazer o utilizador quando não concorda com elas.
Nem todas as correções respondem à mesma necessidade. Por vezes, o utilizador quer modificar um resultado concreto; noutras, precisa de intervir sobre a informação que o gerou ou sobre o comportamento futuro do sistema.
Do ponto de vista do design de interação, podemos distinguir cinco níveis de correção:
Nível | O que se corrige | Exemplo |
Resultado | Uma resposta ou classificação. | Esta despesa é pessoal, não profissional. |
Contexto | A informação utilizada pelo sistema. | Essa pessoa já não trabalha comigo. |
Inferência | Uma conclusão que o sistema retirou. | O facto de eu consultar hotéis não significa que queira viajar. |
Comportamento | Uma orientação de atuação futura. | Não utilizes esta informação para personalizar as minhas recomendações. |
Decisão | Uma decisão automatizada. | Não concordo com esta avaliação e solicito que seja revista. |
Esta distinção é importante porque cada nível requer mecanismos de interação diferentes.
Por exemplo, corrigir a categoria de uma despesa bancária resolve um erro pontual. No entanto, se o sistema continuar a classificar incorretamente despesas semelhantes, poderá ser necessário modificar o critério que utiliza para realizar essa classificação.
Também devemos distinguir entre uma correção pontual e uma persistente. Nem sempre queremos que uma alteração se transforme numa regra permanente. Uma exceção não deveria ser interpretada automaticamente como uma nova preferência.
No caso das decisões automatizadas, além disso, corrigir não significa necessariamente poder modificar diretamente uma decisão, mas dispor de mecanismos para a questionar, fornecer informação e solicitar a sua revisão.
Corrigir um resultado nem sempre significa corrigir aquilo que o gerou.
Identificar estes níveis permite-nos conceber mecanismos de intervenção mais precisos e oferecer ao utilizador um controlo proporcional às suas necessidades e ao alcance de cada correção.
Conceber a capacidade de correção implica traduzir este princípio em mecanismos de interação concretos. Não existe um único padrão válido para todos os cenários: a sua escolha dependerá da natureza do erro, do contexto de utilização e das consequências da decisão.
Alguns padrões que podemos incorporar no design de produtos digitais são:
Um exemplo particularmente interessante é a utilização dos botões de polegar para cima ou para baixo, habituais nas interfaces de inteligência artificial. Embora sejam úteis para recolher sinais de satisfação, um polegar para baixo não comunica necessariamente o que está incorreto, o que deveria mudar, nem como o utilizador espera que o sistema atue no futuro.
Existe, portanto, uma diferença fundamental entre conceber mecanismos para recolher feedback e conceber mecanismos para gerir correções.
O feedback informa o sistema de que existe um problema; a correção permite intervir sobre ele.
O objetivo não deveria ser encher as interfaces de novos controlos, mas incorporar mecanismos de intervenção relevantes no momento e no lugar em que o utilizador deles necessita.
Oferecer ao utilizador a possibilidade de corrigir um sistema inteligente não significa transferir-lhe a responsabilidade de garantir o seu correto funcionamento.
Se uma ferramenta de produtividade exige que revejamos constantemente as suas classificações, reformulemos instruções ou corrijamos os mesmos erros, parte da eficiência que prometia desaparece. O tempo que ganhamos com a automatização pode acabar por ser investido na sua supervisão.
Na perspetiva da experiência do utilizador, convém prestar atenção a quatro aspetos:
Também é interessante medir o custo da correção como indicador da qualidade da experiência: quantas vezes o utilizador tem de intervir, quanto tempo dedica a resolver erros e com que frequência reaparecem problemas que já tinha corrigido.
Estas métricas podem revelar deficiências que os indicadores tradicionais de satisfação ou desempenho nem sempre detetam.
Dar controlo ao utilizador não é o mesmo que exigir-lhe supervisão permanente.
Uma boa experiência deveria permitir-nos intervir quando o consideramos necessário, sem nos obrigar a fazê-lo continuamente para que o sistema funcione corretamente.
A capacidade de correção deveria ser considerada desde as primeiras fases do design de um produto inteligente, com a mesma importância que outros aspetos da experiência do utilizador, como a acessibilidade, a usabilidade ou a prevenção de erros.
Para isso, as equipas de UX, desenvolvimento e produto podem incorporar algumas perguntas nos seus processos de design e validação:
Estas perguntas também deveriam ser levadas para os testes de usabilidade. Além de avaliar se uma pessoa consegue concluir uma tarefa quando o sistema funciona corretamente, deveríamos observar o que acontece quando este faz uma interpretação errada.
Introduzir deliberadamente erros ou inferências incorretas nos cenários de teste pode ajudar-nos a identificar problemas de interação que passariam despercebidos em condições ideais.
Isto exige também uma colaboração estreita entre design e desenvolvimento. De pouco serve disponibilizar um mecanismo de correção se a arquitetura do produto não permite aplicar, preservar ou verificar os seus efeitos.
A capacidade de correção deveria ser um critério de qualidade do produto desde a sua conceção, e não uma funcionalidade que incorporamos quando surgem os primeiros erros.
Conceber para sistemas inteligentes implica considerar tanto os seus acertos como os seus erros e construir experiências capazes de gerir ambos os cenários.
A evolução dos produtos digitais coloca-nos perante um cenário em que as máquinas não se limitam a executar as nossas instruções, mas também interpretam a realidade e participam na tomada de decisões.
Quanto maior for a sua capacidade para o fazer, mais importante será preservar a nossa capacidade de intervir.
Conceber o direito de corrigir a máquina não significa desconfiar da tecnologia nem renunciar às vantagens da automatização. Significa reconhecer que o conhecimento do sistema tem limites e que as pessoas podem dispor de informação, experiências e conhecimentos que a máquina desconhece.
Talvez devamos também alargar a nossa forma de avaliar a qualidade dos produtos inteligentes. Não valorizar apenas a sua capacidade de acertar, mas também a forma como respondem quando alguém questiona as suas conclusões.
A qualidade de uma interface inteligente não deveria ser medida apenas pelo que sabe fazer, mas também pela sua capacidade de aceitar que está errada.
De que serve uma interface inteligente se, quando se engana, não nos permite corrigi-la?
Comentários