Propostas para um Design Comportamental ético

Sugestões vão de boas práticas, como transparência e designers usando seus próprios produtos, a selo de qualidade, revisão por terceiros, Código de Ética e, nos EUA, até projeto de Lei

No primeiro texto desta série, percorremos abordagens e técnicas das Ciências Comportamentais aplicadas ao Design. Vimos correntes da Psicologia que embasam o campo, bem como frameworks e livros usados no mercado.

No segundo texto, encaramos um quadro mais sombrio, os dilemas da área, como a aplicação de Ciências Comportamentais para alavancar objetivos de negócios não tão “nobres”, que nos legaram dark patterns, dark nudge e sludge, além de comentarmos sobre “vício” e manipulação.

Este terceiro e último texto da série projeta um quadro mais positivo, com ideias e propostas, discutidas tanto no mercado quanto na academia (e até no meio político), para um Design Comportamental ético, que concilie objetivos de negócio com necessidades e desejos de usuários e, também, com normas sociais estabelecidas.

Propostas

Vamos pular de cabeça nas propostas. Passaremos por boas práticas sugeridas e aplicadas pelo mercado, úteis para o dia a dia. Veremos discussões para alguma normatização mais eficaz, como um Código de Ética. E — quando bom senso não resolve — lembraremos de discussões sobre regulamentação, ainda escassas, mas que podem ganhar importância nas próximas décadas.

Boas práticas

Livros que vimos no primeiro texto da série, além de apresentarem técnicas de Design Comportamental e comentar sobre “padrões sombrios” que elas podem gerar, em sua maioria também dedicam alguma atenção, mesmo que mínima, a comentários e sugestões sobre o que designers podem fazer para uma atuação mais ética ao moldar comportamentos dos usuários.

Embora algumas dicas possam parecer óbvias, vale uma visita a elas por serem preocupações de designers ou cientistas comportamentais que estão no mercado.

Em Digital Behavioral Design, por exemplo, T. Dalton Combs e Ramsey A. Brown comentam que o Design Comportamental é um conjunto de técnicas de persuasão e não de coerção, que “tira proveito dos vieses cognitivos para tornar determinados comportamentos mais prováveis” e “não força certas ações”.

Ambos partem deste princípio para reforçar dois pontos:

1. que o Design Comportamental é uma ferramenta e, tal qual um martelo, não é intrinsecamente bom ou ruim; o que a faz ser boa ou má é intenção com que a ferramenta é usada — argumento comum em relação a várias tecnologias;

2. que designers devem “respeitar os direitos intrínsecos das pessoas à liberdade de escolha, autonomia e liberdade”, o que vai ao encontro, de alguma forma, da Teoria Nudge, que também vimos no primeiro artigo.

Usando esses princípios, eles fazem três recomendações para que o Design Comportamental, a ferramenta, seja utilizada com “boas intenções”:

• Transparência

• Alinhamento com o Bem Social

• Alinhamento com os desejos do usuário

Transparência é fundamental para um mundo democrático e para soluções que podem ser tanto benéficas como prejudiciais, dependendo do uso.

É algo que a indústria de produtos físicos já aplica, por boa vontade ou por imposição de regulamentações, a eletrodomésticos que possam oferecer riscos de acidentes ou a alimentos que possam causar alergias ou outros efeitos, por exemplo. 

Produtos digitais, em geral, já aplicam o princípio da transparência em perguntas frequentes e em avisos e alertas a usuários, mas esclarecimentos em torno das próprias técnicas comportamentais usadas e de seus possíveis efeitos ainda são bastante tímidos, para não dizer inexistentes.

Alinhamento com o bem social seria algo mais altruístico, pensar em soluções que não beneficiem um único indivíduo, mas sua comunidade ou sociedade como um todo.

É um pouco mais vago. Talvez um aplicativo voltado à melhoria pessoal, como um app de meditação e de educação financeira possa extrapolar os benefícios de um indivíduo para sua relação com outras pessoas (estar mais calmo e centrado) e com instituições (pagar contas em dia e não se endividar). Como transpor isso para games ou serviços em geral, ainda é um bom exercício de imaginação.

Alinhamento com os desejos do usuário tem a ver com o que o usuário quer ou necessita. Este é o ponto que pode e que acaba tendo mais participação dos designers.

Para Combs e Brown, enquanto uma rede social pode ser negativa, por usar o desejo por conexão social para, na verdade, amplificar a exibição de anúncios e a receita publicitária, um app de emagrecimento seria positivo, porque promoveria um hábito saudável.

O cerne do alinhamento com os usuários pode ser resumido em um princípio para lá de conhecido, o “design centrado no usuário” (de fato e não apenas como propaganda), e em uma técnica, a pesquisa, seja qualitativa ou quantitativa, com esses usuários.

Design centrado no usuário vocacionaria a rede social para a conexão entre as pessoas por princípio. Pesquisa qualitativa e quantitativa ajudaria a encontrar os meios de fazer esse propósito ser alcançado ou, pelo menos, aproximado.

Obviamente, a grande dificuldade é casar sobrevivência e crescimento de mercado, que depende essencialmente de receita, com boas intenções.

O maior desafio que serviços digitais enfrentam é como manter o propósito um degrau acima da busca por receita a todo custo, principalmente se, em algum momento, essa receita a todo custo possa representar uma oportunidade irrecusável para consolidar a própria vocação do serviço. 

(Agora, como lembrar isso reiteradamente aos fundadores e investidores, ansiosos e atormentados — não sem justiça — por receita, é que é a questão. Outra questão é como não usar isso como desculpa ou motivação velada para ações dos próprios designers, algo como “a culpa é do negócio”, sem que decisores de negócio tenham qualquer participação na intenção).

O livro Designing for Behavioral Change, de Stephen Wendel, Head de Behavioral Design no mercado, reitera pontos anteriores e lista outras diretrizes:

1. Não tentar viciar as pessoas em seu produto.

2. Aplicar técnicas comportamentais apenas onde o indivíduo será beneficiado.

3. Dizer aos usuários o que está sendo feito (transparência).

4. Certificar-se de que a ação seja opcional (não única e obrigatória).

5. Perguntar a si mesmo e a outros se utilizariam do produto.

Desta lista, podemos destacar a opcionalidade (item 4), outro conceito que vai ao encontro da Teoria Nudge. A ideia é não limitar ou induzir a um único caminho, mas deixar as diversas opções disponíveis e, de preferência, conforme a diretriz da transparência, explicadas — Nudge fala em destacar opções mais benéficas ou saudáveis por padrão, mas sem esconder as demais opções.

Perguntar a si mesmo e a outros se utilizariam o produto tem a ver com realizar pesquisas com usuários, mas acrescenta um ponto interessante, que podemos chamar de “pele em jogo”, tomando emprestado o conceito homônimo do investidor e erudito Nassim Taleb, que dá título a um de seus livros.

“Pele em jogo” descreve alguém que desfruta dos benefícios e sofre os prejuízos das próprias ações que desencadeia a outros. É o caso do comandante de um Exército que se arrisca na própria batalha que aceitou encarar ou do gestor de um fundo de investimento que aplica suas reservas no próprio fundo. 

Não é o caso, para Taleb, de formuladores de políticas públicas que criam obrigações e benefícios a milhares de pessoas sem serem afetados por suas consequências ou até de teóricos que enriquecem às custas de conselhos que jamais aplicaram em suas vidas ou empresas.

Tecnologia da informação (e muitas das profissões que cresceram em torno dela) é um desses domínios que, por atingir audiências em escala, dá um poder significativo a seus executores, mas sem que sofram com consequências diretas deste poder. 

Por mais que um profissional possa se arrepender e demonstrar culpa pelo que fez, não é o mesmo que sofrer uma perda física ou prejuízo emocional decorrente do uso da própria solução, como pode ocorrer com um usuário.

Hooked, de Nir Eyal, outro livro que comentamos no primeiro artigo, traz uma matriz para Design Comportamental ético e também faz referência à ideia de “pele em jogo”. 

A matriz faz duas perguntas; ser capaz de respondê-las com rapidez e confiança é um indicador de que um produto é ético:

1. Isso melhora materialmente a vida do usuário?

2. O fabricante, ele mesmo, usa o produto?

Dependendo do cruzamento das respostas, alguns perfis, apelidados por Eyal, surgem. Se há um “sim” às duas perguntas, o criador (designer, equipe, empresa) pode ser considerado um “facilitador”. É o melhor dos mundos, a abordagem mais correta, segundo o autor.

Se há um “sim” à primeira pergunta e um “não à segunda”, o criador é um “mascate”. Pode ter a melhor das intenções com o produto e fazer uma propaganda enorme a respeito, mas dependerá de muita pesquisa com usuários para ter certeza do que está falando, já que não usa e não sente na pele as consequências de sua criação.

Se há um “não” à primeira pergunta e um “sim” à segunda, o criador é um “artista”, nas palavras de Eyal. Ele faz algo atraente e convidativo, mas sem utilidade. O produto pode até despertar curiosidade, mas não terá uso a longo prazo.

Um não às duas perguntas resume o “revendedor”, o pior caso de todos. O produto é apenas um meio para ganhos financeiros ou de fama dessa pessoa.

É uma boa analogia. A dificuldade é classificar claramente uma solução de acordo com esses atributos. Há muita subjetividade envolvida. Um produto pode ter partes feitas com um espírito de facilitador e partes, com um espírito de revendedor. 

Atualmente, comentários de usuários em sites de avaliação (melhor ainda se for no próprio produto, e sem esconder reclamações e notas baixas) e maturidade gradativa do consumidor ajudam a afastar “revendedores”. 

Porém, quando se trata de um produto novo ou de uma novidade inserida dentro de um produto existente, principalmente com forte caráter promocional e de atração, nem sempre é fácil distinguir as nuances.

Um toolkit que, de certa forma, abrange todas essas boas práticas, embora não tenha surgido do Design e sim de Negócios e Tecnologia, é o Ethical OS, noticiado como uma espécie de manual do Vale do Silício para evitar “desastres éticos”. 

Ethical OS propõe oito zonas de risco a serem observadas por profissionais de tecnologia em geral:

1. Verdade, Desinformação, Propaganda

2. Vício e a Economia da Dopamina

3. Desigualdades Econômicas e de Ativos

4. Ética de Máquina e Preconceitos Algorítmicos

5. Estado de Vigilância

6. Controle de Dados e Monetização

7. Confiança Implícita e Compreensão do Usuário

8. Ódio e Atores Criminosos

A íntegra da proposta contém, ainda, 14 cenários para estimular a conversa e ampliar a imaginação sobre impactos de longo prazo da tecnologia construída hoje e sete estratégias à prova de futuro, para ajudar a tomar medidas éticas desde já.

Não é uma bala de prata, porque isso não existe e, se existisse, não nos serviria também, mas é um bom resumo de pontos aos quais olhar e uma boa referência para inspiração e para balizar atitudes profissionais.

Código de Ética

Pesquisas e estudos acadêmicos vão além das boas práticas (que, por residirem no bom senso, podem acabar enfraquecidas) e trazem sugestões mais corporativas e robustas para um Design Comportamental ético. 

Rodrigo de Oliveira, brasileiro que é Head de UX Research na Google, e Juan Pablo Carrascal, em “Towards Effective Ethical Behavior Design” (“Rumo a um Design de Comportamento Ético Eficaz”), diagnosticam três pontos em relação à ética do Design Comportamental:

1. Falta de consciência: nem todo designer tem acesso a canais como revistas científicas e conferências de Design Comportamental, onde são discutidas diretrizes e metodologia, assim como não são ativamente engajados na comunidade de pesquisa.

2. Falta de compreensão: não está claro à maioria dos designers como aplicar diretrizes e metodologias teóricas para a prática.

3. Falta de compromisso: os designers acabam vivendo um conflito de interesses entre objetivos de negócio (lucro) e objetivos éticos e, pela própria natureza do trabalho, o meio em que estão inseridos etc., acabam pendendo para o primeiro.

O que eles elencam como propostas são:

• Prevenção forçada: por exemplo, informar usuários sobre uso de técnicas comportamentais em serviços digitais, como é feito com informações nutritivas em alimentos, de forma a conscientizar consumidores e normalizar a atividade dos próprios designers.

• Prevenção ativamente encorajada: buscar incentivos para que designers adotem práticas éticas, como certificados ou selos de qualidade, emitidos por comitês externos, que comprovem que técnicas comportamentais adotadas em um produto digital são seguras.

• Remediação: permitir que usuários denunciem e removam (ou ao menos possam mitigar) problemas relacionados a tecnologias persuasivas.

Wendel, em Designing for Behavioral Change, também acrescenta pontos que condizem com estes acima, tais como:

• estabelecer revisão independente de práticas por parte de terceiros, isto é, de conselhos e grupos de designers externos às próprias empresas;

• estar aberto a maior escrutínio público, como da mídia e de reguladores; e

• definir linhas claras de atuação que qualquer um possa conhecer e avaliar (selos de qualidade iriam ao encontro disso).

Outro pesquisador brasileiro, Fernando Carvalho, embora seus escritos tratem de Design Comportamental em serviços públicos, sobretudo em saúde pública, o que lembra mais a aplicação do nudge, sugere integração maior com as partes interessadas na aplicação de projetos que prevejam mudança de comportamentos, além de serem baseados em evidências e informações confiáveis.

O que se percebe de estudos e propostas como essas é uma tentativa de maior estruturação de práticas éticas a serem seguidas, não apenas por escolha individual do designer, mas como escolha dos designers como profissionais.

Essa busca pode ser resumida em uma espécie de Código de Ética (ou proto-Código de Ética) para a prática do Design Comportamental, como já ocorre com outras profissões que enfrentam dilemas éticos.

Uma coleção de artigos do Behavioral Design Hub, “Behavioral Design 2020 and Beyond” (“Design comportamental 2020 e além”) aborda a elaboração de um Código de Ética como possível tendência para a década de 2020.

Nas palavras de Amy Bucher, vice-presidente de uma agência de design comportamental, citada na coleção, avanços como o uso massivo de dados de usuários e decisões tomadas por Inteligência Artificial irão demandar um Código de Ética já nesta década.

Outro artigo chega a propor uma estrutura para um Código de Ética em UX Design. Entre profissionais brasileiros, também é possível encontrar sugestões a respeito. Vale lembrar que outras áreas do Design, como o Design de Interiores, já têm Código de Ética próprio.

Talvez, à primeira vista, tocar nesses termos possa parecer estranho e distante dos negócios baseados em tecnologia, vistos como pouco afeitos a regulamentações, flexíveis e dado a missões nobres. Argumenta-se que propostas do tipo poderiam minar a agilidade, a criatividade e a inovação dessa indústria. O debate ainda é bastante aberto, de qualquer maneira.

Legislação

Se “de boas intenções, o inferno está cheio”, como diria o ditado, há um recurso extremo: leis. Provavelmente, o termo cause ainda mais arrepios do que um Código de Ética, porque trata-se de opção delicada, que depende de poderes legislativos, cria travas e barreiras e contém riscos desconhecidos a longo prazo.

Stephen Wendel, mesmo assim, é um dos que não descarta a possibilidade, conforme expõe em Designing for Behavioral Change:

“Às vezes [...] existem realmente maus atores que não têm a intenção de fazer o certo por seus clientes, funcionários ou outros. E, nessas situações, não devemos temer as técnicas mais tradicionais de regulamentação de práticas abusivas (penalidades legais e incentivos econômicos).” — Stephen Wendel, em Designing for Behavioral Change.

Ele lembra do projeto de lei DETOUR Act, apresentado no Senado dos EUA em 2019, que visa “proibir o uso de práticas exploratórias e enganosas por grandes operadoras online e para promover o bem-estar do consumidor no uso de pesquisas comportamentais por esses provedores”, conforme resumo do próprio projeto.

O projeto de lei também é comentado no artigo “Behavioral Design 2020 and Beyond”, citado anteriormente. Para os autores do artigo: 

“O design comportamental cruza-se com várias áreas da política, incluindo saúde, tecnologia, negócios e pesquisa. Como tal, há espaço para discussão sobre como regular o design comportamental dentro e entre todas as indústrias e funções sociais que ela toca.” — Samuel Salzer e Silja Voolma, em “Behavioral Design 2020 and Beyond”.

Oliveira e Carrascal, em “Towards Effective Ethical Behavior Design”, são outros que tocam na questão de possível regulamentação. (No Brasil, apenas para conhecimento, há um projeto de lei que trata de “predição e análise de comportamentos”, mas mais em relação a serviços de identificação e biometria).

Como o próprio Wendel destaca em um quadro, no capítulo 4, “Ethics of Behavioral Science”, de seu livro, Design Comportamental tem tudo a ver com dados dos usuários, o que nos lembra de regulamentações já estabelecidas nesse aspecto. 

Wendel cita o General Data Protection Regulation (GDPR), o mais emblemático deles, que deu origem à Lei Geral de Proteção de Dados (LGPD), brasileira.

(Aliás, sobre LGPD, entram em vigor em agosto de 2021 as sanções para quem descumprir os dispositivos da lei, um bom tema para outro texto.)

A quem ainda teme ou se espanta com possibilidades de leis e responsabilizações, vale observar o que já aconteceu com a Publicidade e Propaganda e com o Marketing, ainda no século XX, para se ter um panorama da regulamentação sobre persuasão, manipulação e outros temas similares.

Para se ter ideia, nas décadas de 1940 e 1950, nos EUA, o tabaco era anunciado como um agente promotor da saúde. Após décadas de briga entre médicos, pesquisadores, ativistas, legisladores e a indústria do cigarro e da própria propaganda, chegou-se ao que parece um fato dado, como se sempre fosse assim: cigarro é prejudicial à saúde, tem de carregar avisos grotescos de que faz mal, não pode ser facilmente vendido e foi banido de anúncios.

Por que, dentro de 30 ou 50 anos (ou menos), isso não poderia acontecer com atividades de design que mexem com o comportamento de usuários? 

Basta virem à tona mais casos negativos e gritantes, como os que vimos no segundo artigo da série, um ativismo insistente e a conscientização (ou temor infundado mesmo) na opinião pública, e tem-se a receita para intervenções mais incisivas.

Ética

Ética é um campo vasto da Filosofia, que vem sendo tratado há séculos por meio de várias disciplinas, do Direito à Antropologia, da História à Comunicação. Embora possamos embarcar em uma viagem até pela Metaética, é mais comum nos situarmos nos campos da Ética Normativa e da Ética Aplicada ao falarmos de Design Comportamental.

Apenas para um resumo, Metaética é o campo que formula e investiga grandes questões como “o que é o bem” ou “como diferenciar o certo e o errado”. Ele procura saber se dualismos como “bem” e “mal” situam-se em um plano objetivo, na “natureza”, ou subjetivo, na nossa psique (ou, de modo mais contemporâneo, na intersubjetividade, a conexão que temos uns com os outros). Ou, ainda, se não existe nada disso e só nos resta um niilismo moral, a noção de que não há nem certo nem errado.

Já a Ética Normativa considera como devemos agir. Ela é interessante para pensar em nossas ações e decisões porque abarca conceitos como o egoísmo moral (devo fazer apenas o que me interessa e me satisfaz; se todos agirem dessa forma, viveremos em uma sociedade melhor — o que alimenta teorias políticas individualistas, que vão do anarquismo ao libertarianismo) e altruísmo (devo fazer o que interessa e melhor satisfaz a todos — o que alimenta teorias políticas coletivistas, como o socialismo).

A Ética Aplicada, por sua vez, são as decisões difíceis de serem tomadas, que vemos em várias profissões. Para ficar mais fácil, pense no caso do médico que deve decidir entre aplicar um tratamento invasivo no paciente, que pode tanto curá-lo como matá-lo, ou apenas dar-lhe cuidados paliativos para que sofra menos, dada que suas chances de sobrevivência são pequenas. 

Podemos percorrer todas essas camadas da Ética e nos envolver em extensos debates ao falar de Design Comportamental. Um simples sistema de notificações frequentes em um aplicativo ou a busca de honestidade, transparência e clareza em mensagens de UX Writing em um serviço financeiro, por exemplo, podem nos levar a ricos debates sobre Ética Aplicada no Design.

A visão de que os usuários são responsáveis por si mesmos, e que cabe aos designers apenas serem claros quanto a políticas e termos de uso, ou a visão de que designers tem responsabilidade sobre toda a base de usuários de seus serviços, da mesma forma, podem nos levar, respectivamente, a debates sobre egoísmo moral e altruísmo.

Em um plano mais amplo, podemos nos pegar pensando que , afinal, o que pode ser considerado “bom” ou “o bem” para um determinado usuário pode não ser para outro, de modo que apenas empiricamente e por maioria podemos tomar decisões. Ou podemos acreditar que há uma noção de “bem” objetiva, “fora de nós”, que de algum modo todas as sociedades humanas buscam, sendo prudente nos basearmos nisto.

Como, até onde sabemos, não temos algo escrito em pedra ou em nosso DNA capaz de nos imbuir de um modo padrão de agir (religiões são grandes tentativas para isso), é muito mais desse embate de visões diferentes que a realidade e nosso modo de vida, onde estão incluídos nossos produtos e serviços, vão sendo moldados.

Considerações

Nesta série, procuramos contextualizar Design Comportamental do ponto de vista das abordagens da Psicologia e de técnicas (e livros) do mercado, tratamos de dilemas, como dark patterns (padrões sombrios) encerramos com essa apresentação de algumas propostas para um Design Comportamental ético.

Muito conteúdo ficou de fora. A quem quiser se aprofundar, além dos livros e referências que citamos nos dois artigos anteriores, segue alguma curadoria:

• Rodrigo Oliveira, citado anteriormente, tem uma série de artigos mais acadêmicos (em inglês) sobre design, alguns dos quais sobre Design Comportamental, como “Your Browsing Behavior for a Big Mac: Economics of Personal Information Online” (“Seu comportamento de navegação em um Big Mac: Economia da informação pessoal online”).

• Ainda em relação ao Nudge, embora ele tenha sido adotado por governo de alguns países e virado moda, há toda uma crítica interessante e necessária sobre suas intervenções, como este outro artigo, “Persuasive Backfiring: When Behavior Change: Interventions Trigger Unintended Negative Outcomes” (“Tiroteio Persuasivo: Quando as Intervenções de Mudança de Comportamento Desencadeiam Resultados Negativos não Intencionais”).

• Também vale uma conferida em Nudge “FORGOOD”, com sete considerações éticas importantes sobre cutucadas comportamentais. Nudge, vale lembrar, é bastante aplicado a políticas públicas e o foco, aqui, também é este. Mas pode servir como uma referência também para o design de experiência na tecnologia.

• Por fim, vale um passeio por artigos de Nir Eyal, autor de Hooked, que tem sido um tanto “massacrado” por ser um dos primeiros autores a abordar técnicas para “fisgar” usuários. São textos leves e acessíveis, longe da aridez acadêmica. “Why ‘Assistant-As-App’ Might Be the Next Big Tech Trend” (“Por que ‘Assistentes-como-Apps’ podem ser a próxima grande tendência tecnológica”), de 2015, antecipava muito do que já vemos hoje com aplicativos para meditar, estudar ou dormir com mais eficiência ou para procrastinar menos. Algumas entrevistas, como esta e esta, também valem a leitura.

A série termina aqui, mas, como citado em “Behavioral Design 2020 and Beyond”, a década de 2020 verá as Ciências Comportamentais entrar na idade adulta, provavelmente com bons exemplos práticos, derrapadas intencionais ou não e muito debate a respeito (além do cargo de Chief Behavioral Officers em empresas). 

Para fecharmos, um exemplo bacana de cutucada (nudge), de uma organização ambiental inglesa, mostrando que Design Comportamental, além de positivo, também pode ser uma sacada bem humorada:

Este e outros exemplos de nudge positivo são deste artigo do Medium. Fiquem à vontade para comentar e até o próximo texto.

Artigo escrito por Rogério Kreidlow, jornalista, que gosta de observar a tecnologia em relação a temas amplos, como política, economia, história e filosofia.