Enviesamento algoritmo e improbidade intelectual no algoritmo Viola-Jones: o recurso genealógico como ferramenta para uma reflexão ética sobre os usos e aplicação da inteligência artificial (IA)

Resumo

Este trabalho utiliza premissas do procedimento genealógico nietzschiano para uma reflexão ética e crítica sobre a ausência de transparência no desenvolvimento da inteligência artificial e correlaciona essa situação com o estatuto da razão no interior da tecnociência. Nesse percurso investigativo é apresentada a tendência dos métodos usuais em machine learning em ocultarem os enviesamentos contidos no seu desenvolvimento, tendo como casuística o algoritmo Viola-Jones para reconhecimento facial. O método genealógico proposto por Nietzsche foi retomado como ferramenta para compreender como o desenvolvimento da inteligência artificial contempla, afirma e atinge diferentes grupos e a eticidade inaugurada por essa invenção. Com essa orientação, o estudo retoma as implicações das consequências indesejadas dos algoritmos de reconhecimento facial, sua dificuldade em reconhecerem faces de pessoas com a tonalidade de pele negra e como esse problema foi tardiamente reconhecido pelos desenvolvedores. Como saldo, a investigação apreende que o desenvolvimento da inteligência artificial ocorreu predominantemente orientado pela pressuposição da neutralidade da razão, bem como das funções intelectivas a ela relacionadas, contrariando as condições de seu exercício, que ocorre mobilizado por vontades e interesses parciais. Por fim, o trabalho indica o uso da inteligência artificial explicável como solução geral para o problema do enviesamento algoritmo.

Palavras-chave: inteligência artificial. Nietzsche. Genealogia. machine learning. Algoritmo.