ALGORITMOS COMO INSTITUIÇÕES DA VIOLÊNCIA DE GÊNERO ONLINE
PLATAFORMAS DIGITAIS, OBRIGAÇÕES EMPRESARIAIS DE DIREITOS HUMANOS E RESPONSABILIDADE INTERNACIONAL DO ESTADO
DOI:
https://doi.org/10.21783/rei.v12i2.1031Palavras-chave:
violência de gênero online, algoritmos como instituições, empresas e direitos humanos, tecno-silenciamentos, CEDAW, Convenção de Belém do Pará, teoria da atribuiçãoResumo
Este artigo procura compreender quais as obrigações de devida diligência para empresas e para o Estado brasileiro à luz do direito internacional dos direitos humanos em relação à violência de gênero online nas plataformas de redes sociais. A metodologia empregada é revisão de literatura de governança de plataformas e da teoria institucional dos algoritmos, além de análise do arcabouço normativo internacional, com ênfase nas obrigações derivadas da Convenção sobre a Eliminação de Todas as Formas de Discriminação contra a Mulher (CEDAW), da Convenção Interamericana para Prevenir, Punir e Erradicar a Violência contra a Mulher (Convenção de Belém do Pará) e dos Princípios Orientadores sobre Empresas e Direitos Humanos da ONU (Princípios Ruggie). O artigo argumenta que sistemas algorítmicos não são ferramentas neutras, mas dispositivos que potencializam a disseminação e monetização da violência de gênero de forma estrutural, e conclui que o Estado brasileiro pode ser responsabilizado pela omissão regulatória que permite a persistência de tais violações.
Downloads
Referências
ABRAJI – Associação Brasileira de Jornalismo Investigativo. Violência de gênero contra jornalistas. São Paulo: ABRAJI, 2021.
AZMINA; INTERNETLAB. MonitorA: relatório sobre violência política online em páginas e perfis de candidatas(os) nas eleições municipais de 2020. São Paulo, 2020.
BRASIL. Ministério dos Direitos Humanos e da Cidadania (MDHC). Incitação à violência contra a vida na internet lidera violações de direitos humanos com mais de 76 mil casos em cinco anos, aponta ObservaDH. Brasília: MDHC, 23 jan. 2024. Disponível em: https://www.gov.br/mdh/pt-br/assuntos/noticias/2024/janeiro/incitacao-a-violencia-contra-a-vida-na-internet-lidera-violacoes-de-direitos-humanos-com-mais-de-76-mil-casos-em-cinco-anos-aponta-observadh. Acesso em: 9 mar. 2026.
CAPLAN, Robyn. Networked platform governance: the construction of the democratic platform. International Journal of Communication, Los Angeles, v. 17, p. 1–22, 2023.
CIDH – Comissão Interamericana de Direitos Humanos. Relatório de Mérito nº 54/01, Caso 12.051 (Maria da Penha Maia Fernandes vs. Brasil). 2001.
CITRON, Danielle Keats. Hate crimes in cyberspace. Cambridge: Harvard University Press, 2014.
CITRON, Danielle Keats; FRANKS, Mary Anne. The Internet as a speech machine and other myths confounding Section 230 speech reform. University of Chicago Legal Forum, Chicago, v. 2020, p. 45–75, 2020.
COMISSÃO DE DIREITO INTERNACIONAL (CDI). Artigos sobre Responsabilidade do Estado por Atos Internacionalmente Ilícitos. Nova York: ONU, 2001. Disponível em: https://legal.un.org/ilc/texts/instruments/english/draft_articles/9_6_2001.pdf. Acesso em: 9 mar. 2026.
COMITÊ CEDAW. Recomendação Geral nº 19 sobre violência contra as mulheres. Nova York: ONU, 1992.
COMITÊ CEDAW. Recomendação Geral nº 35 sobre violência contra as mulheres baseada no gênero, atualizando a Recomendação Geral nº 19. Nova York: ONU, 2017.
CORTE INTERAMERICANA DE DIREITOS HUMANOS. González e outras ("Campo Algodonero") vs. México. Sentença de 16 de novembro de 2009.
CORTE INTERAMERICANA DE DIREITOS HUMANOS. Bedoya Lima vs. Colômbia. Sentença de 26 de agosto de 2021.
CURZI, Yasmin. Violência de Gênero Online: Regulação de Plataformas e Proteção de Direitos Humanos de Mulheres e Pessoas de Gênero Dissidente no Ambiente Digital. Rio de Janeiro: Lumen Juris, 2026.
DIAS, Daniel Pereira Nunes; BELLI, Luca; ZINGALES, Nicolo; GASPAR, Walkiria; CURZI, Yasmin. Plataformas no Marco Civil da Internet: a necessidade de uma responsabilidade progressiva baseada em riscos. Civilistica.com, Rio de Janeiro, v. 12, n. 3, p. 1–24, 2023.
ENARSSON, Therese. Navigating hate speech and content moderation under the DSA: insights from ECtHR case law. Information & Communications Technology Law, v. 33, n. 3, p. 384–401, 2024. Disponível em: https://www.tandfonline.com/doi/full/10.1080/13600834.2024.2395579. Acesso em: 9 mar. 2026.
FALUDI, Susan. Backlash: o contra-ataque na guerra não declarada contra as mulheres. Rio de Janeiro: Rocco, 2001.
FORTUNA, Paula; NUNES, Sérgio. A survey on automatic detection of hate speech in text. ACM Computing Surveys, v. 51, n. 4, p. 1–30, 2019. Disponível em: https://doi.org/10.1145/3232676. Acesso em: 9 mar. 2026
FRANKS, Mary Anne. The cult of the constitution. Stanford: Stanford University Press, 2019.
GILLESPIE, Tarleton. Custodians of the Internet: platforms, content moderation, and the hidden decisions that shape social media. New Haven: Yale University Press, 2018.
GING, Debbie. Alphas, Betas, and Incels: theorizing the masculinities of the manosphere. Men and Masculinities, v. 22, n. 4, p. 638–657, 2017. Disponível em: https://doi.org/10.1177/1097184X177064. Acesso em: 9 mar. 2026.
GLOBAL WITNESS; INTERNET FREEDOM FOUNDATION. Letting hate flourish: YouTube and Koo's lax response to the reporting of hate speech against women. 2024. Disponível em: https://globalwitness.org/en/campaigns/digital-threats/letting-hate-flourish-youtube-and-koos-lax-response-to-the-reporting-of-hate-speech-against-women-in-india-and-the-us/. Acesso em: 9 mar. 2026.
GOLDMAN, Eric. Content moderation remedies. Michigan Technology Law Review, v. 28, n. 1, 2021. Disponível em: http://dx.doi.org/10.2139/ssrn.3810580. Acesso em: 9 mar. 2026.
GRIMMELMANN, James. The virtues of moderation. Yale Journal of Law and Technology, v. 17, n. 1, 2015. Disponível em: https://scholarship.law.cornell.edu/facpub/1486/. Acesso em: 9 mar. 2026.
HAN, Xiaoting; YIN, Chenjun. Mapping the manosphere: categorization of reactionary masculinity discourses in digital environment. Feminist Media Studies, v. 23, n. 5, p. 1923–1940, 2023. Disponível em: https://xyonline.net/sites/xyonline.net/files/2024-06/Han%2C%20Mapping%20the%20manosphere%202023.pdf. Acesso em: 9 mar. 2026.
HARTMANN, I.; COSTA, R.; CRUZ, F. B.; KIRA, B. Dever de Cuidado de Plataformas após a Decisão do Supremo Tribunal Federal sobre o Marco Civil da InternetUniversity of Sussex, , 16 jan. 2026. Disponível em: . Acesso em: 17 maio. 2026
HELMOND, Anne. A plataformização da web. In: Omena, J. J. Métodos Digitais: Teoria-Prática-Crítica. Lisboa: Instituto de Comunicação da Nova, 2019. Disponível em: https://dspace.library.uu.nl/bitstream/handle/1874/436876/Helmond-2019-A_plataformizac_a_o_da_web.pdf. Acesso em: 9 mar. 2026.
KHAN, Irene. Disinformation and freedom of expression. Relatório da Relatora Especial sobre liberdade de expressão (A/76/258). Nova York: ONU, 2021. Disponível em: https://docs.un.org/en/A/76/258. Acesso em: 9 mar. 2026.
KLONICK, Kate. The new governors: the people, rules, and processes governing online speech. Harvard Law Review, v. 131, n. 6, 2018. Disponível em: https://harvardlawreview.org/wp-content/uploads/2018/04/1598-1670_Online.pdf. Acesso em: 9 mar. 2026.
KRUPIY, Tetyana. Meeting the chimera: how the CEDAW can address digital discrimination. International Human Rights Law Review, Leiden, v. 10, n. 1, p. 1–39, 2021. Disponível em: https://brill.com/view/journals/hrlr/10/1/article-p1_1.xml?language=en&srsltid=AfmBOorkigYAsdOvdZmrh8R7p-bMayfVHpg79jnu-UFspprtZJbY7OfR. Acesso em: 9 mar. 2026.
KRUPIY, Tetyana; SCHEININ, Martin. Disability discrimination in the digital realm: how the ICRPD applies to artificial intelligence decision-making processes and helps in determining the state of international human rights law. Human Rights Law Review, Oxford, v. 23, n. 3, 2023. Disponível em: https://academic.oup.com/hrlr/article/23/3/ngad019/7237939. Acesso em: 9 mar. 2026.
LESSIG, Lawrence. Code and other laws of cyberspace. New York: Basic Books, 2000.
MANNE, Kate. Down girl: the logic of misogyny. Oxford: Oxford University Press, 2018.
MARCH, James G.; OLSEN, Johan P. The logic of appropriateness. In: GOODIN, Robert E. (ed.). The Oxford Handbook of Political Science. Oxford: Oxford University Press, 2009.
MARWICK, Alice E. Morally motivated networked harassment as normative reinforcement. Social Media + Society, v. 7, n. 2, p. 1–13, 2021. Disponível em: https://doi.org/10.1177/20563051211021. Acesso em: 9 mar. 2026.
MARWICK, Alice E.; CAPLAN, Robyn. Drinking male tears: language, the manosphere, and networked harassment. Feminist Media Studies, v. 18, n. 4, p. 543–559, 2018. Disponível em: https://doi.org/10.1080/14680777.2018.1450568. Acesso em: 9 mar. 2026.
MENDONÇA, Ricardo F., FILGUEIRAS, F., e ALMEIDA, Virgílio. "Algoritmos, desidentificação e infrapolítica da resistência." Revista Brasileira de Ciência Política, 2025. Disponível em: https://doi.org/10.1590/0103-3352.2025.44.280252. Acesso em: 9 mar. 2026.
MESECVI. Lei Modelo Interamericana para Prevenir, Punir e Erradicar a Violência Digital de Gênero contra as Mulheres. Washington: OEA, 2025. Disponível em: https://belemdopara.org/wp-content/uploads/2025/03/LEI-MODELO-INTERAMERICANA-PARA-PREVENIR-PT.docx.pdf. Acesso em: 9 mar. 2026.
MUNGER, Kevin. The YouTube apparatus. Cambridge: Cambridge University Press, 2024.
ONU. Princípios Orientadores sobre Empresas e Direitos Humanos: implementando o marco das Nações Unidas "Proteger, Respeitar e Reparar" (Princípios Ruggie). Genebra: ACNUDH, 2011.
REIDENBERG, Joel R. Lex informatica: the formulation of information policy rules through technology. Texas Law Review, v. 76, n. 3, 1997. Disponível em: https://ir.lawnet.fordham.edu/faculty_scholarship/42. Acesso em: 9 mar. 2026.
SANTINI, R. Marie et al. "Aprenda a evitar esse tipo de mulher": estratégias discursivas e monetização da misoginia no YouTube. Rio de Janeiro: NetLab UFRJ / Ministério das Mulheres, dezembro de 2024. Disponível em: https://www.gov.br/mulheres/pt-br/central-de-conteudos/publicacoes/RelatrioCompletoEstratgiasdiscursivasemonetizaodamisoginianoYouTube.pdf. Acesso em: 9 mar. 2026.
SIMONOVIC, Dubravka. Relatório da Relatora Especial sobre violência contra a mulher (A/HRC/38/47). Nova York: ONU, 2018. Disponível em: https://docs.un.org/es/A/HRC/38/47. Acesso em: 9 mar. 2026.
SOBIERAJ, Sarah. Bitch, slut, skank, cunt: patterned resistance to women's visibility in digital publics. Information, Communication & Society, v. 21, n. 11, p. 1700–1714, 2017. Disponível em: https://doi.org/10.1080/1369118X.2017.1348535. Acesso em: 9 mar. 2026.
SUZOR, Nicolas et al. Human rights by design: the responsibilities of social media platforms to address gender-based violence online. Policy & Internet, v. 11, n. 1, 2019. Disponível em: https://onlinelibrary.wiley.com/doi/abs/10.1002/poi3.185. Acesso em: 9 mar. 2026.
ZUBOFF, Shoshana. The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: PublicAffairs, 2019.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2026 Yasmin Curzi de Mendonça
Este trabalho está licenciado sob uma licença Creative Commons Attribution-NonCommercial 4.0 International License.
Autores que publicam nesta revista concordam com os seguintes termos:
- Autores mantém os direitos autorais e concedem à revista o direito de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution que permite o compartilhamento do trabalho com reconhecimento da autoria e publicação inicial nesta revista.
- Autores têm autorização para assumir contratos adicionais separadamente, para distribuição não-exclusiva da versão do trabalho publicada nesta revista (ex.: publicar em repositório institucional ou como capítulo de livro), com reconhecimento de autoria e publicação inicial nesta revista.
- Autores têm permissão e são estimulados a publicar e distribuir seu trabalho online após a publicação na revista.
