Polêmica: Inteligência Artificial julga suas fotos

O site ImageNet Roulette está dando o que falar com o seu mecanismo de Inteligência Artificial. A proposta é simples e inovadora: envie ou tire uma foto na hora – um algoritmo com Machine Learning irá descrever o conteúdo da imagem.

O problema está nas fontes de dados usadas para o treinamento da máquina.

Primeiro, a ferramenta compara sua foto com bancos de imagens de universidades. Isso já gera um viés, que às vezes faz a resposta ser estranha. Por exemplo, algumas pessoas mandaram selfies comuns e foram classificadas como “psicolinguista”, “sociólogo”. Qual a cara de um psicolinguista?

Segundo: as imagens foram tagueadas por um serviço chamado Mechanical Turk, em que, basicamente, milhares de trabalhadores sem critério algum ganham centavos a cada imagem classificada. Aqui é que a coisa fica feia: isso gerou um banco de dados cheio de classificações racistas, preconceituosas, homofóbicas e maldosas.

Assim, sem querer, o experimento acabou demonstrando como um banco de dados mal feito e enviesado compromete totalmente o resultado de uma análise, por mais inteligente que seja o sistema de comparação. Por exemplo, nesta semana foi divulgada a notícia que o McDonald’s está investindo em IA em seus drive thrus. Todo esse tipo de operação pode ser uma ótima oportunidade, mas deve ser bem executada.

O que as pessoas estão comentando

De qualquer forma, o site viralizou e as pessoas estão se arriscando para ver as opiniões. Algumas são engraçadas, outras simplesmente criminosas.

Abaixo alguns tweets sobre o assunto. Para testar o site (por sua conta e risco), clique aqui.

Fonte: BBC