Voltar
Polêmica: Inteligência Artificial julga suas fotos
Artigo atualizado em 19 de setembro de 2019
O site ImageNet Roulette está dando o que falar com o seu mecanismo de Inteligência Artificial. A proposta é simples e inovadora: envie ou tire uma foto na hora – um algoritmo com Machine Learning irá descrever o conteúdo da imagem.
O problema está nas fontes de dados usadas para o treinamento da máquina.
Primeiro, a ferramenta compara sua foto com bancos de imagens de universidades. Isso já gera um viés, que às vezes faz a resposta ser estranha. Por exemplo, algumas pessoas mandaram selfies comuns e foram classificadas como “psicolinguista”, “sociólogo”. Qual a cara de um psicolinguista?
Segundo: as imagens foram tagueadas por um serviço chamado Mechanical Turk, em que, basicamente, milhares de trabalhadores sem critério algum ganham centavos a cada imagem classificada. Aqui é que a coisa fica feia: isso gerou um banco de dados cheio de classificações racistas, preconceituosas, homofóbicas e maldosas.
Assim, sem querer, o experimento acabou demonstrando como um banco de dados mal feito e enviesado compromete totalmente o resultado de uma análise, por mais inteligente que seja o sistema de comparação. Por exemplo, nesta semana foi divulgada a notícia que o McDonald’s está investindo em IA em seus drive thrus. Todo esse tipo de operação pode ser uma ótima oportunidade, mas deve ser bem executada.
O que as pessoas estão comentando
De qualquer forma, o site viralizou e as pessoas estão se arriscando para ver as opiniões. Algumas são engraçadas, outras simplesmente criminosas.
Abaixo alguns tweets sobre o assunto. Para testar o site (por sua conta e risco), clique aqui.
Fonte: BBC