Instagram usará aprendizado de máquina para ajudar a combater cyberbullying
Com centenas de milhões de pessoas inundando redes sociais, as empresas de tecnologia estão tendo dificuldade para eliminar o assédio de suas plataformas — e, portanto, elas estão voltando suas atenções para as máquinas, na esperança de encontrar ajuda. Nesta terça-feira (9), o Instagram anunciou que estava fazendo exatamente isso. • Quando inevitavelmente estragarem o Instagram, […]
Com centenas de milhões de pessoas inundando redes sociais, as empresas de tecnologia estão tendo dificuldade para eliminar o assédio de suas plataformas — e, portanto, elas estão voltando suas atenções para as máquinas, na esperança de encontrar ajuda. Nesta terça-feira (9), o Instagram anunciou que estava fazendo exatamente isso.
“Embora a maioria das fotos compartilhadas no Instagram seja positiva e traga alegria às pessoas, ocasionalmente, uma foto compartilhada é indelicada e indesejável”, escreveu o novo chefe do Instagram, Adam Mosseri, em um . “Agora, estamos usando tecnologia de aprendizado de máquina para detectar proativamente o bullying em fotos e suas legendas, enviando-as para a revisão de nossa equipe de Operações de Comunidade.”
O Instagram permite que os usuários contas que mostrem intenção de fazer bullying ou assediar, que são contra as Diretrizes da Comunidade, embora não esteja claro como essas contas são penalizadas ou desligadas com eficácia e rapidez. Mosseri observou no post de blog de terça-feira que “muitas pessoas que experimentam ou observam bullying não o denunciam” e que implementar esses esforços junto com os humanos ajudará a equipe a “identificar e remover significativamente mais bullying”. Essa nova tecnologia já foi implantada e continuará a ser lançada nas próximas semanas, de acordo com a empresa.
O Instagram também adicionará seu filtro de comentários contra bullying — que — em todos os vídeos ao vivo. Ele já está disponível nas seções Feed, Explorar e Perfil do Instagram. O serviço também acrescentou um “efeito de câmera de ‘bondade’ para espalhar a positividade”, seja lá qual for o efeito real disso.
Este é o primeiro anúncio de Mosseri para o serviço de compartilhamento de fotos desde que seus fundadores originais deixaram a empresa no mês passado. O Instagram, que pertence ao Facebook, não ganhou a mesma reputação de sua empresa-mãe de servir como um catalisador para a devastação psicológica, a violência e a destruição da democracia, mas ainda tem seus problemas, com o bullying no topo da lista. Uma pesquisa da ONG sem fins lucrativos Ditch the Label no ano passado descobriu que, de dez mil entrevistados com idades entre 12 e 20 anos, disseram ter sido vítimas de bullying no Instagram. A plataforma foi classificada como a rede social número um para o cyberbullying — um pouco mais alto no ranking até do que o próprio Facebook.
Embora se apoiar em algoritmos para ajudar com problemas em escala tão grande não seja ruim por si só, essa está longe de ser uma solução definitiva. Os algoritmos não são livres de viés; além disso, atualmente, eles não têm a capacidade de entender nuances e contexto na linguagem humana. Eles já cometeram erros no passado e ainda não provaram estar prontos para combater sem falhas um problema tão grande, complexo e delicado quanto o cyberbullying.
fique por dentro das novidades giz
Inscreva-se agora para receber em primeira mão todas as notícias sobre tecnologia, ciência e cultura, reviews e comparativos exclusivos de produtos, além de descontos imperdíveis em ofertas exclusivas
