Instagram agora usa aprendizado de máquina para detectar bullying nas fotos

O Instagram e seus usuários estão se beneficiando do fato de o aplicativo ser propriedade do Facebook, que investe milhões em novas tecnologias de inteligência artificial.

A novidade anunciada recentemente é um novo conjunto de recursos anti-cyberbullying. A ferramenta utilizará o aprendizado de máquina (machine learning) para digitalizar opticamente as fotos postadas para detectar o bullying, enviando o post para os moderadores da comunidade do Instagram para análise.

Isso significa que os assediadores não poderão comentar de forma ameaçadora ou difamatória, seja por texto ou foto, e sair ilesos. O líder da divisão do aplicativo, Adam Mosseri, escreveu: “Não há lugar para o bullying no Instagram [...] Como o novo Head of Instagram, tenho orgulho de reforçar nosso compromisso de fazer do Instagram uma comunidade gentil e segura para todos”. O filtro para fotos e legendas será lançado nas próximas semanas.

O Instagram lançou um filtro de texto em maio, mas os trolls atacavam pessoas por meio de imagens. Agora, seu classificador de intimidação pode identificar assédio em fotos, incluindo insultos ao caráter, aparência, bem-estar ou saúde de uma pessoa. O Instagram confirma que o filtro de imagem funcionará no feed e nas Histórias.

Os usuários do Instagram verão a configuração "Ocultar comentários ofensivos" definida em suas configurações. Eles também podem optar por listar manualmente as palavras que desejam filtrar de seus comentários e optar por filtrar automaticamente as palavras mais relatadas.

Para o Instagram continuar sendo o aplicativo favorito dos adolescentes, ele não pode deixar que essa comunidade vulnerável seja vitimizada. (Com informações do The Crunch.)