Principais vantagens
- O Yelp colocará um alerta nas páginas acusadas de comportamento racista.
- A mudança visa evitar enxurradas de críticas falsas em resposta a reportagens da mídia.
- Especialistas dizem que o sistema é um bom começo, mas esse tipo de moderação de conteúdo é muito complicado.
Yelp
Com o anúncio de que começará a rotular empresas acusadas de comportamento racista, o Yelp está entrando em um estilo de moderação de conteúdo que corre o risco de ser esmagado pelos desafios que as grandes plataformas online enfrentam em torno da diversidade. A empresa, que lutou no passado com críticas falsas e acusações de racismo em sua plataforma e em seus escritórios, anunciou o novo recurso como parte de sua resposta ao movimento Black Lives Matter. Mas as empresas têm lutado para ser as árbitras do que é ou não verdadeiro – ou, neste caso, do que é ou não racista – e aplicam seus sistemas de rotulagem de forma consistente. Especialistas alertam que o sistema de rotulagem do Yelp, embora promissor, enfrentará desafios semelhantes. “No geral, o recurso é ótimo, é um passo importante”, disse Evelyn Carter, psicóloga social da Paradigm, uma consultoria que trabalhou nos esforços de diversidade e inclusão em empresas de tecnologia como Lyft, Spotify e Slack.
Lifewire. “Mas pessoas de grupos marginalizados – minorias raciais, mulheres, pessoas da comunidade LGBTQ-plus, pessoas com deficiência – não estão apenas procurando exemplos desses preconceitos evidentes”, disse ela. “Não sei se vai capturar algumas das micro-agressões mais sutis[s]. ”
Indo além do rótulo
O Yelp atualmente monitora as páginas de negócios em busca de aumentos nas avaliações que podem estar associados a um relatório da mídia sobre o negócio, e viu um aumento de 133 por cento nesses casos até agora em 2020. O vice-presidente de operações do usuário do Yelp, Noorie Malik, escreveu em um blog anunciando o sistema de rotulagem. De acordo com o novo esquema, a empresa colocará um alerta público em uma página de negócios se detectar evidências de aumento de postagens vinculadas a um potencial incidente de racismo. Esse alerta será escalado para um emblema de “Empresa acusada de comportamento racista” se o incidente puder ser verificado com um artigo de notícias de um meio de comunicação confiável. Enquanto o alerta estiver ativo, os comentários na página da empresa serão desativados.
Yelp
Uma armadilha potencial para tal sistema de rotulagem é que os usuários presumirão que o Yelp é mais onisciente do que realmente é quando se trata de documentar acusações de racismo nas empresas. As pessoas podem presumir que qualquer empresa não rotulada de racista é um ambiente acolhedor. David Rand, professor de negócios da MIT Sloan School of Management, documentou um efeito semelhante quando as empresas de mídia social começaram a rotular postagens que continham notícias falsas. Em um estudo publicado no início deste ano na revista
Ciência de Gestão, ele descobriu que os leitores estavam mais dispostos a compartilhar histórias falsas sem rótulos se as visualizassem ao lado de postagens rotuladas como notícias falsas. “Eu não sei se vai capturar algumas das microagressões mais sutis[s]. “Em seu anúncio, o Yelp não explicou qual mecanismo, se houver, existirá para as empresas apelarem da imposição de um rótulo de racismo, ou se os rótulos serão removidos se uma empresa demonstrar que tomou medidas em resposta à acusação, como demitir um funcionário ou instituir um treinamento de diversidade e inclusão. Esse aspecto do sistema será crucial para seu sucesso, disse Carter. Carter destacou que o Yelp ajudou a criar um kit de ferramentas de treinamento de inclusão gratuita para empresas e que seu sistema de rotulagem poderia ser não apenas moderação de conteúdo, mas uma oportunidade real de melhoria para pequenas empresas, se o processo de reconciliação incluir algum tipo de requisito educacional ou de treinamento. “É aí que eu acho que o verdadeiro poder desta nova iniciativa está”, disse Carter. Mas com as informações O Yelp forneceu até agora, não está claro como o sistema de rotulagem será mais eficaz em sua finalidade pretendida do que aqueles impostos pelo Facebook e Twitter para postagens contendo conteúdo falso notícias, que até agora não tiveram sucesso em seu propósito de controlar a desinformação na plataforma.
