Racismo em Inteligência Artificial leva universidade a desistir de reconhecimento facial no campus

Denúncia da ONG Fight for the Future mostrou à UCLA (Universidade da Califórnia em Los Angeles) problemas no uso de uma inteligência artificial disponível no mercado

A Universidade da Califórnia em Los Angeles (UCLA) decidiu, no dia 18/02/2020, não usar reconhecimento facial em seu campus. A tecnologia de reconhecimento facial vinha sendo avaliada como ferramenta e segurança, para identificar os frequentadores da UCLA.

A decisão de não mais utilizar ocorreu depois da ONG Fight for the Future fazer um teste: usou um programa disponível no mercado para comparar as faces de 400 (quatrocentos) integrantes da comunidade universitária (alunos, professores e funcionários) aos rostos de criminosos e contraventores fichados. A análise retornou nada menos que 58 (cinquenta e oito) falsos positivos. A maior parte dessas respostas erradas ocorreu na avaliação de rostos de pessoas não-brancas.

Na experiência, a ONG Fight for the Future utilizou um software da Amazon chamado Rekognition. Em um dos casos, a ferramenta afirmou que havia 100% (cem por cento) de chance de os rostos comparados serem da mesma pessoa, no entanto, eram somente 2 (dois) homens negros de barba, bem diferentes um do outro.

A desistência foi informada à ONG Fight for the Future pelo vice-reitor administrativo, Michael Beck. Desta forma, a UCLA se une a um grupo de mais de 50 (cinquenta) universidades nos Estados Unidos da América (EUA) que se compromete a não utilizar reconhecimento facial, incluindo MIT, Harvard, Brown e Columbia.

Preconceitos raciais são um problema recorrente nos programas de reconhecimento facial e nas inteligências artificiais que se propõem a reconhecer pessoas. O reconhecimento de homens de pele clara é muito mais preciso do que os de outros grupos. Tal fato restou demonstrado em diversos experimentos, incluindo os do projeto Gender Shades, conduzido desde 2018 pelo MIT Media Lab.

(Com informações da Época Negócios)