Diversos usuários do Twitter apontaram, nos últimos dias, que o algoritmo da plaforma privilegia rostos de pessoas brancas em fotos com pessoas negras – ou, em diferentes variações de imagens, quem tiver a pele mais clara.
Com a repercussão dos posts, o Twitter está investigando por que sua rede neural para gerar visualizações de fotos aparentemente opta por isso. Os usuários também descobriram que o algoritmo de visualização da rede social escolhia mais personagens de desenhos animados que não são negros.
“Testamos esse viés antes de enviar o modelo e não encontramos evidências de preconceito racial ou de gênero em nossos testes. Mas está claro que temos mais análises para fazer. Continuaremos a compartilhar o que aprendemos, quais ações tomamos e abriremos o código para que outros possam revisar e replicar”, afirmou a plataforma por meio da sua conta no Twitter.
Um dos posts que se tornaram virais na rede social apontava também um problema no Zoom, ferramenta para chamadas de vídeo que tem crescido em uso na pandemia do coronavírus. De acordo com o usuário, o reconhecimento facial de Zoom, que não mostrava o rosto de um colega de trabalho negro nas ligações. Quando ele postou no Twitter, também percebeu que a plataforma favorecia o seu rosto branco. “Eles entendem que qualquer círculo branco é melhor do que um rosto humano de verdade”, escreveu em sua conta pessoal.
Outro exemplo foi feito com as fotos do ex-presidente dos EUA Barack Obama e com o senador Mitch McConnell. Independentemente do posicionamento das fotos na imagem e de cores presentes, como as gravatas usadas por cada um deles nos registros. McConnell sempre teve a foto priorizada pelo algoritmo.
Parag Agrawal, diretor de tecnologia do site, também se posicionou diante do ocorrido e inclusive agradeceu a maneira que os usuários expuseram os problemas na rede. “Esta é uma pergunta muito importante. Para resolver isso, nós analisamos o nosso modelo quando o enviamos, mas ele precisa de melhoria contínua. Eu amo este teste público, aberto e rigoroso, e estou ansioso por aprender com ele”, afirmou Agrawal em postagem no Twitter.
