O problema do assédio a chatbots e assistentes virtuais

por Albert Deweik Quarta-feira, 01 de julho de 2020   Tempo de leitura: 3 minutos

Muitos conhecem a Lu, assistente virtual inteligente da rede Magazine Luiza; a Alexa, da Amazon, e a Siri, da Apple. Além de auxiliares online no mercado nacional e internacional, essas três “personalidades” têm outra coisa em comum: casos de assédio.

Sim, há muitas ocorrências em que elas (ou os robôs em chats de respostas de empresas) têm que responder a perguntas ou questões machistas de clientes. E, como era de se esperar, esses recursos de inteligência artificial não estão preparados para contestar ou atender a esse tipo de “investida”.

Para as empresas que utilizam essas ferramentas no contato com os clientes, esse assédio pode prejudicar o verdadeiro potencial dessa tecnologia de resolver questões simples, deixando os problemas mais complexos nas mãos dos operadores humanos.

Desse modo, uma das consequências desses comportamentos é a perda considerável da produtividade dessas ferramentas. Que, consequentemente, sobrecarrega atendentes e aumenta o tempo de espera e demora na resolução. A experiência do consumidor também tende a ser pior, prejudicando a imagem da empresa e marca.

Entre os principais fatores por esses comportamentos estão o preconceito, que é uma ideologia que oprime — em diversas formas — as minorias, aqui retratadas por vozes femininas; e a pouca diversidade no campo dos profissionais de programação, no que tange o gênero. Isso impacta diretamente na maneira com que os chatbots são criados e programados. Desse modo, a vida real se transfere para a tecnologia, refletindo um comportamento mais passivo, tolerante e até submisso aos robôs.

Para minimizar os danos desses comportamentos no potencial das ferramentas, as marcas devem liderar um movimento de mudança na programação. O que inclui, por exemplo, novos perfis de colaboradores que façam parte das minorias. Assim, além de darem respostas adequadas a cada tipo de situação, irão levar uma nova bagagem cultural para a inteligência artificial.

Em paralelo, as empresas de tecnologia podem construir ainda novos padrões de respostas, sempre com cuidado para não ferir ninguém. Afinal, educar a sociedade é um processo longo e fundamental para mudar esse cenário.

Com novas mentes desenvolvendo, haverá novos padrões a serem seguidos pelas Machine Learning (Aprendizado de Máquina). Isso permitirá aos bots identificarem novos padrões e seguirem trabalhando a favor da empresa e do público, alcançando o propósito inicial para o qual foram criados.

Com ajuda das organizações e de iniciativas como a da Unesco (contra o preconceito de gênero e o assédio sexual às AIs, por exemplo), podemos desconstruir, aos poucos, esse viés inconsciente do preconceito e misoginia aplicados a essas soluções. E, ainda, tentar mudar a perspectiva da tecnologia, considerada um ambiente pouco diverso!


Gostou desse artigo? Não esqueça de avaliá-lo!
Quer fazer parte do time de articulistas do portal, tem alguma sugestão ou crítica?
Envie um e-mail para redacao@ecommercebrasil.com.br

Você recomendaria esse artigo para um amigo?

Nunca

 

Com certeza

 

Deixe seu comentário

0 comentários

Comentários

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Comentando como Anônimo

Esse site utiliza o Akismet para reduzir spam. Aprenda como seus dados de comentários são processados.

  Assine nossa Newsletter

Fique por dentro de todas as novidades, eventos, cursos, conteúdos exclusivos e muito mais.

Obrigado!

Você está inscrito em nossa Newsletter. Enviaremos, periodicamente, novidades e conteúdos relevantes para o seu negócio.

Não se preocupe, também detestamos spam.