Gubernamentalidad algorítmica y tecnologías de reconocimiento facial: reconfiguraciones punitivas en el contexto brasileño
No. 94 (2025-10-15)Autor/a(es/as)
-
Tiago Luis Schervenski da SilvaPontifícia Universidade Católica do Rio Grande do Sul, BrasilIdentificador ORCID: https://orcid.org/0009-0000-9780-1274
-
Ricardo Jacobsen GloecknerPontifícia Universidade Católica do Rio Grande do Sul, BrasilIdentificador ORCID: https://orcid.org/0000-0002-1205-380X
Resumen
Este artículo investiga las transformaciones de las prácticas punitivas contemporáneas en el contexto social actual, en el que los datos y los algoritmos asumen un papel central en las dinámicas de poder y de control. Se busca responder a la pregunta sobre cuál es la función de los algoritmos en las prácticas punitivas actuales y cuáles son sus efectos. Para ello, se analiza el uso de tecnologías de reconocimiento facial en la seguridad pública brasileña, particularmente en los estados de Bahia y Goiás. A partir de una revisión de literatura, se explora el escenario biopolítico contemporáneo, marcado por la crisis de los medios tradicionales de confinamiento. Ante esta crisis, surgen nuevas formas de control que se desvinculan de las tecnologías penitenciarias y establecen mecanismos de vigilancia en espacios abiertos, basados en dispositivos de seguridad y en la lógica de la gestión de riesgos. En este contexto, los datos se vuelven esenciales para las prácticas punitivas impulsando el desarrollo de técnicas de vigilancia refinadas. El artículo examina cómo los sistemas informáticos en red capturan, procesan y utilizan estos datos ahondando en su lógica y racionalidad. La investigación busca comprender cómo estos dispositivos pueden producir resultados sesgados, especialmente contra personas racializadas y en situación de vulnerabilidad de género. Los resultados muestran que (i) el uso de esta tecnología presenta un sesgo discriminatorio que refuerza las desigualdades raciales y de género en el contexto de la vigilancia; y (ii) estas tecnologías encienden la vigilancia y la gestión de datos bajo una racionalidad supuestamente objetiva que, finalmente, sirve para crear perfiles predictivos y pronunciar veredictos silenciosos sobre los sujetos.
Referencias
Amaral, Augusto Jobim do. 2017. A governamentalidade em tempos securitários. Caxias do Sul: Editora da Universidade de Caxias do Sul.
Amaral, Augusto Jobim do. 2020a. “Biopolítica e biocapitalismo”. Em Política da criminologia, editado por Augusto Jobim do Amaral, 103-163. São Paulo: Tirant Lo Blanch.
Amaral, Augusto Jobim do. 2020b. Política da criminologia. São Paulo: Tirant Lo Blanch.
Amaral, Augusto Jobim do, Ana Clara Elesbão dos Santos e Felipe da Veiga Dias. 2021. “Gubernamentalidad algorítmica y nuevas prácticas punitivas”. Derechos en Acción 20 (20): 549. https://doi.org/10.24215/25251678e549
Amaral, Augusto Jobim do. 2023. “Neoliberalismo, contrarrevolução e pós-fascismo no Brasil”. Destroços: revista de pensamento radical 4 (1): 1-22. https://doi.org/10.53981/destroos.v4i1.46400
Amaral, Augusto Jobim do e Felipe da Veiga Dias. 2024a. “Algoritmos e novos desdobramentos biopolíticos do controle”. Em Tecnopolítica criminal, editado por Augusto Jobim do Amaral e Felipe da Veiga Dias, 29-59. São Paulo: Tirant Lo Blanch.
Amaral, Augusto Jobim do e Felipe da Veiga Dias. 2024b. “Controle social e governo de dados”. Em Tecnopolítica criminal, editado por Augusto Jobim do Amaral e Felipe da Veiga Dias, 13-28. São Paulo: Tirant Lo Blanch.
Amaral, Augusto Jobim do e Felipe da Veiga Dias. 2024c. “Surveillance no estado penal e as ‘novas’ tecnologias de controle biopolítico”. Em Tecnopolítica criminal, editado por Augusto Jobim do Amaral e Felipe da Veiga Dias, 60-84. São Paulo: Tirant Lo Blanch.
Amoore, Louise e Marieke de Goede. 2005. “Governance, Risk and Dataveillance in the War on Terror”. Crime, Law and Social Change 43: 149-173. https://doi.org/10.1007/s10611-005-1717-8
Beiguelman, Giselle. 2021. Políticas da imagem: vigilância e resistência na dadosfera. São Paulo: Ubu.
Brasil. 1988. Constituição da República Federativa do Brasil. Brasília, DF: Câmara dos Deputados.
Bruno, Fernanda. 2016. “Rastrear, classificar e performar”. Ciência e Cultura 68 (1): 34-38. http://dx.doi.org/10.21800/2317-66602016000100012
Chignola, Sandro. 2018. “A toupeira e a serpente”. Revista de Direitos e Garantias Fundamentais 19 (3): 239-269. Traduzido por Augusto Jobim do Amaral. http://dx.doi.org/10.18759/rdgf.v19i3.1599
Deleuze, Gilles. 1992a. “Controle e devir”. Em Conversações, 213-222. Traduzido por Peter Pál Pelbart. São Paulo: Editora 34.
Deleuze, Gilles. 1992b. “Post-scriptum sobre sociedade de controle.” Em Conversações, 223-230. Traduzido por Peter Pál Pelbart. São Paulo: Editora 34.
Electronic Frontier Foundation. 2023. Street Level Surveillance: Face Recognition. Electronic Frontier Foundation. https://sls.eff.org/technologies/face-recognition
Elesbão, Ana Clara Santos, Jádia Timm dos Santos e Roberta Medina. 2020. “Quando as máscaras (do reconhecimento facial) caírem, será um grande carnaval”. Em Algoritarismos, editado por Jesús Sabariego, Augusto Jobim do Amaral e Eduardo Baldissera Carvalho Salles, 247-259. São Paulo: Tirant Lo Blanch.
Falcão, Cíntia. 2021. “Lentes racistas. Rui Costa está transformando a Bahia em um laboratório de vigilância com reconhecimento facial”. The Intercept Brasil, 20 de setembro. https://www.intercept.com.br/2021/09/20/rui-costa-esta-transformando-a-bahia-em-um-laboratorio-de-vigilancia-com-reconhecimento-facial/
Foucault, Michel. 1995. “O sujeito e o poder”. Em Michel Foucault: uma trajetória filosófica (para além do estruturalismo e da hermenêutica), editado por Hubert Dreyfus e Paul Rabinow, 231-249. Traduzido por Vera Porto Carrero. Rio de Janeiro: Forense Universitária.
Foucault, Michel. 2006. “¿Qué es la Ilustración?”. Em Sobre la ilustración, editado por Javier de la Higuera, 71-97. Traduzido por Javier de la Higuera, Eduardo Bello e Antonio Campillo. Madri: Tecnos.
Foucault, Michel. 2008a. Segurança, território, população: curso dado no Collège de France (1977-1978). Traduzido por Eduardo Brandão. São Paulo: Martins Fontes.
Foucault, Michel. 2008b. Nascimento da biopolítica: curso dado no Collège de France (1978-1979). Traduzido por Eduardo Brandão. São Paulo: Martins Fontes.
Gama, Aliny. 2020. “Reconhecimento facial por app captura 42 foragidos no Carnaval de Salvador”. UOL, 26 de fevereiro. https://carnaval.uol.com.br/2020/noticias/redacao/2020/02/26/reconhecimento-facial-por-app-captura-42-foragidos-no-carnaval-de-salvador.htm
Governo do Estado de São Paulo. 2020. “Discurso de João Doria na inauguração do Laboratório de Identificação Biométrica em 28 de janeiro”. https://soundcloud.com/governosp/discurso-de-joao-504599548
Grother, Patrick, Mei Ngan e Kayee Hanaoka. 2019. Face Recognition Vendor Test (FRVT) Part 3: Demographic Effects. National Institute of Standards and Technology. https://doi.org/10.6028/NIST.IR.8280
Harcourt, Bernard. 2015. Exposed: Desire and Disobedience in the Digital Age. Cambridge: Harvard University Press.
Kafka, Franz. 2006. O processo. Traduzido por Marcelo Backes. Porto Alegre: L&PM.
Kember, Sarah. 2014. “Face Recognition and the Emergence of Smart Photography”. Journal of Visual Culture 13 (2): 182-199. https://doi.org/10.1177/1470412914541767
Lima, Thallita, Thaís Cruz, Pedro Diogo e Felipe da Silva. 2024. Vigilância por lentes opacas: mapeamento da transparência e responsabilização nos projetos de reconhecimento facial no Brasil. Rio de Janeiro: Centro de Estudos de Segurança e Cidadania.
Lobato, Luisa Cruz, Pedro Augusto P. Francisco e Louise Marie Hurel. 2024. “Videomonitoramento”. Instituto Igarapé. https://igarape.org.br/videomonitoramento-webreport/
Mayer-Schönberger, Viktor e Kenneth Cukier. 2013. Big Data: A Revolution That Will Transform How We Live, Work, and Think. Boston: Houghton Mifflin Harcourt.
Mendes, Celso Helder Furtado e Fernando Vechi. 2020. “Tecnovigilância e controle e(m) tempos securitários: quem são os alvos?”. Em Algoritarismos, editado por Jesús Sabariego, Augusto Jobim do Amaral e Eduardo Baldissera Carvalho Salles, 219-232. São Paulo: Tirant Lo Blanch.
Ministério da Justiça e Segurança Pública. 2019. Portaria n.º 793, de 24 de outubro de 2019. Diário Oficial da União, seção 1, edição 208, 55-56. https://dspace.mj.gov.br/handle/1/1380
Negri, Antonio e Michael Hardt. 2001. Império. Traduzido por Berilo Vargas. Rio de Janeiro: Record.
Nunes, Pablo. 2019a. “EXCLUSIVO: levantamento revela que 90,5% dos presos por monitoramento facial no Brasil são negros”. The Intercept Brasil, 21 de novembro. https://www.intercept.com.br/2019/11/21/presos-monitoramento-facial-brasil-negros/
Nunes, Pablo. 2019b. “Novas ferramentas, velhas práticas: reconhecimento facial e policiamento no Brasil”. Em Retratos da violência: cinco meses de monitoramento, análise e descobertas, coordenado por Silvia Ramos, 67-70. Rio de Janeiro: Centro de Estudos de Segurança e Cidadania.
Nunes, Pablo, Thallita G. L. Lima e Yasmin Rodrigues. 2023a. Das planícies ao planalto: como Goiás influenciou a expansão do reconhecimento facial na segurança pública brasileira. Rio de Janeiro: Centro de Estudos de Segurança e Cidadania.
Nunes, Pablo, Thallita G. L. Lima e Yasmin Rodrigues. 2023b. O sertão vai virar mar: Expansão do reconhecimento facial na Bahia. Rio de Janeiro: Centro de Estudos de Segurança e Cidadania.
O Panóptico. 2024. Monitor de novas tecnologias de segurança pública no Brasil. https://www.opanoptico.com.br/#mapa
Osoba, Osonde e William Welser. 2017. An Intelligence in Our Image: The Risks of Bias and Errors in Artificial Intelligence. Santa Monica: RAND Corporation. https://doi.org/10.7249/rr1744
Pasquale, Frank. 2015. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press.
Reis, Carolina, Eduarda Almeida, Felipe da Silva e Fernando Dourado. 2021. Relatório sobre o uso de tecnologias de reconhecimento facial e câmeras de vigilância pela administração pública no Brasil. Brasília: Laboratório de Políticas Públicas e Internet.
Revel, Judith. 2014. Foucault, un pensamiento de lo discontinuo. Traduzido por Irene Agoff. Buenos Aires: Amorrortu.
Rodríguez, Pablo Esteban. 2019. Las palabras en las cosas: saber, poder y subjetivación entre algoritmos y biomoléculas. Buenos Aires: Cactus.
Rosa, Alexandre Morais da e Augusto Jobim do Amaral. 2017. “A ostentação penal”. Em Cultura da punição: a ostentação do horror, 13-92. Florianópolis: Empório do Direito.
Rouvroy, Antoinette e Thomas Berns. 2015. “Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação?”. Revista Eco Pós: Tecnopolíticas e Vigilância 18 (2): 36-56. Traduzido por Pedro Henrique Andrade. https://doi.org/10.29146/eco-pos.v18i2.2662
Schervenski da Silva, Tiago Luis. 2024. “Governamentalidade algorítmica e as tecnologias de reconhecimento facial: reconfigurações Punitivas no Contexto Brasileiro”. Graduação em Direito, Pontifícia Universidade Católica do Rio Grande do Sul, Brasil.
Schervenski da Silva, Tiago Luis e Valentina Simões Pires Curcio. 2025. “A ineficiência da aplicação da tecnologia de reconhecimento facial na segurança pública brasileira: uma análise jurídico-filosófica do uso do dispositivo securitário”. Em Algoritarismos II, 732-742. Valência: Tirant Lo Blanch.
Silva, Tarcízio da. 2019. “Visão computacional e vieses racializados: branquitude como padrão no aprendizado de máquina”. Anais do II Congresso de Pesquisadoras/es Negras/os do Nordeste, Epistemologias negras e lutas antirracistas, editado por Sérgio Rodrigues de Santana, Solange P. Rocha e Ana Marinho Cristina Lúcio, 811-823. https://www.periodicos.ufpb.br/index.php/ci/issue/view/2402
Silva, Tarcízio da. 2022. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc.
Universidade Federal do Ceará. 2024. RIPD — Relatório de Impacto de Proteção de Dados. https://lgpd.ufc.br/pt/ripd-relatorio-de-impacto-de-protecao-de-dados/
Zuboff, Shoshana. 2018. “Big other: capitalismo de vigilância e perspectivas para uma civilização de informação”. Em Tecnopolíticas da vigilância: perspectivas da imagem, editado por Fernanda Bruno, Bruno Cardoso, Marta Kanashiro, Luciana Guilhon e Lucas Melgaço, 17-68. São Paulo: Boitempo.
Licencia
Derechos de autor 2025 Tiago Luis Schervenski da Silva, Ricardo Jacobsen Gloeckner
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.