Siga-nos

O assédio contra chatbots e assistentes virtuais

Plataforma de chatbot da Nama cresce

Voz do Expert

O assédio contra chatbots e assistentes virtuais

Esses recursos de inteligência artificial não estão preparados para contestar ou atender a esse tipo de “investida”, diz artigo

Por Albert Deweik*

Muitos conhecem a Lu, assistente virtual inteligente da rede Magazine Luiza; a Alexa, da Amazon, e a Siri, da Apple. Além de auxiliares online no mercado nacional e internacional, essas três “personalidades” têm outra coisa em comum: casos de assédio. Sim, há muitas ocorrências em que elas ou os robôs em chats de respostas de empresas têm que responder a perguntas ou questões machistas de clientes. E, como era de se esperar, esses recursos de inteligência artificial não estão preparados para contestar ou atender a esse tipo de “investida”.

Para as empresas que utilizam essas ferramentas no contato com os clientes, esse assédio pode prejudicar o verdadeiro potencial dessa tecnologia de resolver questões simples, deixando os problemas mais complexos nas mãos dos operadores humanos. Desse modo, uma das consequências desses comportamentos é a perda considerável da produtividade dessas ferramentas, sobrecarregando atendentes e aumentando o tempo de espera e demora na resolução. A experiência do consumidor também tende a ser pior, prejudicando a imagem da empresa e marca.

Entre os principais fatores para esses comportamentos estão o preconceito, que é uma ideologia que oprime – em diversas formas – as minorias, aqui retratadas por vozes femininas; e a pouca diversidade no campo dos profissionais de programação, no que tange ao gênero, que impacta diretamente na maneira com que os chatbots são criados e programados. Desse modo, a vida real se transfere para a tecnologia, refletindo um comportamento mais passivo, tolerante e até submisso aos robôs.

Para minimizar os danos desses comportamentos no potencial das ferramentas, as marcas devem liderar um movimento de mudança na programação, incluindo, por exemplo, novos perfis de colaboradores que façam parte das minorias, que, além de darem respostas adequadas a cada tipo de situação, irão levar uma nova bagagem cultural para a inteligência artificial.

Em paralelo, as empresas de tecnologia podem construir ainda novos padrões de respostas – sempre com cuidado para não ferir ninguém – afinal, educar a sociedade é um processo longo e fundamental para mudar esse cenário. Com novas mentes desenvolvendo, haverá novos padrões a serem seguidos pelas machine learning (aprendizado de máquina), permitindo que esses bots identifiquem novos padrões e sigam trabalhando a favor da empresa e do público, alcançado o propósito inicial para o qual foram criados.

Com ajuda das organizações e de iniciativas como a da Unesco, contra o preconceito de gênero e o assédio sexual às IAs, por exemplo, podemos desconstruir, aos poucos, esse viés inconsciente do preconceito e misoginia aplicados a essas soluções e, ainda, tentar mudar a perspectiva da tecnologia, considerada um ambiente pouco diverso!

*Albert Deweik é founder e CEO da NeoAssist

Clique para comentar

Deixe suas impressões

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *

Mais notícias de Voz do Expert

Topo