Software de identificação facial da Amazon usado pela polícia fica aquém da precisão e do viés

85
Software se esforça para passar em testes básicos. Créditos: Andrey Popov | iStock O software de reconhecimento comercial, desenvolvido pela Amazon e comercializado para as autoridades norte-americanas como uma ferramenta poderosa de combate ao crime, se esforça para passar por testes básicos de precisão, como identificar corretamente o sexo de uma pessoa. Pesquisadores do MIT Media Lab disseram que o sistema Rekognition teve um desempenho mais preciso ao avaliar rostos de pele mais clara, levantando preocupações sobre como resultados tendenciosos poderiam manchar o uso da tecnologia de inteligência artificial pela polícia e em locais públicos, incluindo aeroportos e escolas. O sistema da Amazon teve um desempenho impecável na previsão do sexo de homens de pele mais clara, disseram os pesquisadores, mas identificou erroneamente o gênero de mulheres de pele mais escura em cerca de 30% de seus testes. Sistemas de reconhecimento facial rivais da Microsoft e de outras empresas tiveram melhor desempenho, mas também eram propensos a erros. O problema, dizem os pesquisadores e engenheiros de inteligência artificial, é que os vastos conjuntos de imagens que os sistemas foram treinados inclinam fortemente para os homens brancos. A pesquisa mostra, no entanto, que alguns sistemas rapidamente se tornaram mais precisos no

Este conteúdo é restrito para usuários cadastrados do site e é GRÁTIS. Cadastre-se GRATUITAMENTE e tenha acesso já ao conteúdo. Se já for cadastrado, faça o login. Para novos usuários basta preencher o cadastro.

Login de usuários cadastrados