LEGITIMIDADE DEMOCRÁTICA NA GOVERNANÇA ALGORÍTMICA:

PRIMEIROS PARÂMETROS PARA SUA APLICAÇÃO NA REGULAÇÃO E NO DESENVOLVIMENTO DA INTELIGÊNCIA ARTIFICIAL E DE POLÍTICAS BASEADAS EM DADOS

Resumo

Algoritmos já são responsáveis por mediar as mais variadas relações econômicas, políticas e sociais nas democracias contemporâneas. Atividades diversas como a moderação de conteúdo em redes sociais, a gestão de trabalhadores em aplicativos, e a provisão de serviços públicos já são impactadas pela chamada “governança algorítmica”. Frequentemente, este tipo de governança é criticado por violar regras de devido processo, concentrar poder decisório em corporações de tecnologia e produzir impactos que priorizam interesses de uma elite social e econômica, em detrimento de outras camadas da população. Diante das crescentes preocupações acerca de uma potencial “ditadura” dos algoritmos, torna-se imperativo que essa nova forma de governança, típica da era digital, seja analisada sob o prisma dos valores democráticos. Diante deste contexto, o objetivo do artigo é apontar o conceito de legitimidade democrática como uma ferramenta analítica útil tanto para a avaliação das práticas de governança algorítmica como para orientar o desenvolvimento, regulação e pesquisa da inteligência artificial. O conceito de legitimidade democrática (Scharpf’s, 1999; Schmidt’s, 2013; Haggart & Keller, 2021) nos convida a uma análise tridimensional sobre a legitimidade dos atores, processos e resultados da governança algorítmica, estimulando a adequação dessas práticas a parâmetros de representatividade, devido processo e justiça social. A partir desta lente de análise específica, o artigo identifica alguns esforços teóricos e práticos iniciais que têm sido empreendidos no sentido de democratizar a governança algorítmica, apontando também a necessidade de se ampliar uma agenda de pesquisa no campo.