Robôs que julgaram concurso de beleza não gostam de negros

O concurso de beleza Beauty.AI foi o primeiro a usar máquinas como juízes, numa tentativa de evitar subjetividades e avaliar apenas fatores objetivos, como simetria do rosto e marcas de expressão. Aberta na internet, a seleção recebeu cerca de 600 mil inscrições, de mais de cem países, mas pelos resultados, os robôs jurados aparentemente não gostam de pessoas negras. Dos 44 vencedores, quase todos são brancos, alguns são asiáticos, mas apenas uma é negra.

Dos 44 selecionados pelas máquinas, apenas uma é negra (Foto:Reprodução)

O resultado levantou o debate sobre os limites da inteligência artificial. De acordo com artigo publicado no site Motherboard, o problema da análise foi que três dos cinco algoritmos que fizeram a seleção usam a tecnologia conhecida como “aprendizado de máquina”. Nesse formato, os robôs são “treinados” com bases de dados preexistentes para aprenderem padrões. E essas bases estão recheadas com preconceitos humanos“Acontece que a cor também interessa na visão da máquina”, explicou Alex Zhavoronkov, cientista-chefe do Beauty.AI, ao Motherboard. “E para alguns grupos populacionais, as bases de dados não possuem número adequado de amostras capaz de treinar as redes neurais”.Traduzindo, o problema aconteceu porque a grande maioria dos participantes — aproximadamente 75% — eram europeus e brancos. Apenas 7% eram da Índia e 1%, do continente africano.O Beauty.AI é mais um exemplo de como construir máquinas inteligentes e neutras é uma tarefa difícil. Isso pode ser visto em outras ferramentas, como o Google. Ao buscar por imagens relacionadas a palavra “mão”, por exemplo, o sistema retorna centenas de milhares de resultados, quase todos de mãos brancas. Não porque a máquina seja racista, mas porque o racismo está presente na sociedade que as alimenta com dados."São dados poluídos produzindo resultados poluídos", disse Malkia Cyril, diretora executiva da ONG Center for Media Justice, em entrevista ao “Guardian”.