A ética e a imparcialidade dos dados surgiram como importantes áreas de pesquisa nos últimos anos. Entretanto, grande parte do trabalho nessa área se concentra na auditoria retroativa e na “mitigação de preconceitos” em sistemas existentes e potencialmente falhos, sem questionar as desigualdades estruturais mais profundas subjacentes a eles. Ainda não há exemplos de como aplicar metodologias feministas e participativas desde o início, para conceituar e projetar ferramentas baseadas em aprendizado de máquina que centralizem e visem desafiar as desigualdades de poder. Nosso trabalho visa a esse objetivo mais prospectivo. Orientados pela estrutura do feminismo de dados, co-projetamos conjuntos de dados e modelos de aprendizado de máquina para apoiar os esforços de ativistas que coletam e monitoram dados sobre feminicídio – assassinatos de mulheres e meninas com base no gênero. Descrevemos como as metas feministas interseccionais e os processos participativos moldaram cada etapa de nossa abordagem, desde a conceituação do problema até a coleta de dados e a avaliação do modelo. Destacamos várias contribuições metodológicas, incluindo: 1) um processo iterativo de coleta e anotação de dados que visa os pontos fracos do modelo e questiona os conceitos de enquadramento (como quem está incluído/excluído no “feminicídio”); 2) modelos que se concentram explicitamente em identidades intersetoriais em vez de maiorias estatísticas; e 3) um processo de avaliação em várias etapas – com etapas quantitativas, qualitativas e participativas – com foco na relevância específica do contexto. Também destilamos percepções e tensões que surgem da união de objetivos feministas interseccionais e o aprendizado de máquina. Isso inclui reflexões sobre como o ML pode desafiar o poder, abraçar o pluralismo, repensar os binários e considerar o contexto, bem como as limitações inerentes a qualquer solução baseada em tecnologia para lidar com desigualdades estruturais duradouras.
Suresh, H., Movva, R., Dogan, A. L., Bhargava, R., Cruxen, I., Cuba, A. M., Taurino, G., So, W., & D’Ignazio, C. (2022). Towards Intersectional Feminist and Participatory ML: A Case Study in Supporting Feminicide Counterdata Collection. 2022 ACM Conference on Fairness, Accountability, and Transparency, 667–678. https://doi.org/10.1145/3531146.3533132