O modelo de governança por meio dos algoritmos impacta nos nossos destinos?

A quarta revolução tecnológica, apoiada em tecnologias de informação e comunicação (TIC) e tecnologias computacionais, foram responsáveis em romper os paradigmas existentes. Essas novas tecnologias permitiram a criação da inteligência artificial, big data, internet das coisas, machine lerning, automação, entre outras. Elas abriram o caminho para novas formas de governar, a partir de promessas de maior eficiência, qualidade e precisão na gestão.
Na base dessas transformações, que estão permitindo o surgimento de um novo mundo, estão os algoritmos, cuja efetividade e legitimidade é percebida de forma confusa por uma grande parcela da população mundial. Constata-se que, os algoritmos, que tem origem na matemática, para descrever as regras para as equações algébricas, e a inteligência artificial – IA, estão presentes, de forma irreversível, em praticamente todas as esferas da vida humana.
Os algoritmos são utilização em profusão em diversas áreas sensíveis para a humanidade, como por exemplo, as aplicações industriais, que vão desde reconhecimento de caracteres a citologia automatizada; aplicações médicas, desde análise de eletrocardiogramas a estudos genéticos; aplicações na agricultura, desde análise de colheitas a avaliação de solos; aplicações governamentais, desde previsão meteorológica a previsões econômicas; e aplicações militares, desde análise de fotografia aérea a reconhecimento automático de alvos – ATR.
Por sua vez, é necessário alertar que, algoritmos complexos estão sendo utilizados por governos em grande parte do mundo para automatizar suas decisões, nas áreas social, econômica, política, ambiental e cultural. Diante dessa realidade, constata-se que as matemáticas e as ciências da computação estão sendo utilizadas para estruturar um poderoso mecanismo de influência e de governança da sociedade. Registre-se que, no modelo de governança algorítmica, denominado na literatura como “algocracia”, não deve ser entendida como governança do algoritmo, mas realizada por meio dele.
Assim, algocracia (modelo de governança pelo algoritmo) pode ser entendido como sendo uma evolução na forma de execução de poder, com o controle fluindo agora para os computadores e para quem os programa e os administra. Com a algocracia, sustenta Aneesh (2009), a arte de conduzir condutas ganha ferramenta tecnológica na manipulação desse “saber algorítmico”.
Observa-se, a partir da estreita conexão que existe entre tecnologia, política e a participação democrática, que a humanidade está sendo tragada pelo redemoinho dos algoritmos e da inteligência artificial. A “algocracia” está condicionando cada vez mais a existência das pessoas e impactando sobre os seus destinos. Pode-se concluir, assim, que o seu uso de forma exponencial, ao mesmo tempo que coloca a disposição da população uma poderosa ferramenta de conhecimento, que produz enormes benefícios, também provoca cerceamentos, controle e manipulação, de forma sorrateira e insuspeita, indo muito além da percepção ou da vontade de ação do indivíduo.

(*) José Matias Pereira é economista e advogado. Possui doutorado em Ciência Política pela Universidade Complutense de Madri (UCM-Espanha) e pós-doutorado em Administração pela Universidade de São Paulo (FEA/USP). É professor-pesquisador do Programa de Pós-Graduação em Ciências Contábeis da Universidade de Brasília. Autor, entre outros livros, de Finanças Públicas, 7. ed. GEN-Atlas, 2018.