La ética y la equidad de los datos han surgido como importantes áreas de investigación en los últimos años. Sin embargo, gran parte del trabajo en este ámbito se centra en auditar retroactivamente y «mitigar el sesgo» en sistemas existentes potencialmente defectuosos, sin interrogar las desigualdades estructurales más profundas que subyacen a ellos. Todavía no hay ejemplos de cómo aplicar metodologías feministas y participativas desde el principio, para conceptualizar y diseñar herramientas basadas en el aprendizaje automático (ML) que se centren y tengan como objetivo desafiar las desigualdades de poder. Nuestro trabajo apunta a este objetivo más prospectivo. Guiadas por el marco del feminismo de datos, codiseñamos conjuntos de datos y modelos de aprendizaje automático para apoyar los esfuerzos de activistas que recopilan y supervisan datos sobre feminicidios, es decir, asesinatos de mujeres y niñas por razones de género. Describimos cómo los objetivos feministas interseccionales y los procesos participativos dieron forma a cada etapa de nuestro enfoque, desde la conceptualización del problema hasta la recopilación de datos y la evaluación del modelo. Destacamos varias contribuciones metodológicas, entre las que se incluyen 1) un proceso iterativo de recopilación y anotación de datos que aborda los puntos débiles del modelo y cuestiona los conceptos de encuadre (como quién está incluido/excluido en el «feminicidio»), 2) modelos que se centran explícitamente en las identidades interseccionales en lugar de en las mayorías estadísticas, y 3) un proceso de evaluación de múltiples pasos -con pasos cuantitativos, cualitativos y participativos- centrado en la relevancia específica del contexto. También destilamos ideas y tensiones que surgen de tender puentes entre los objetivos feministas interseccionales y el aprendizaje automatizado. Entre ellas se incluyen reflexiones sobre cómo el ML puede desafiar al poder, abrazar el pluralismo, replantear los binarios y considerar el contexto, así como las limitaciones inherentes a cualquier solución basada en la tecnología para abordar desigualdades estructurales duraderas.
Suresh, H., Movva, R., Dogan, A. L., Bhargava, R., Cruxen, I., Cuba, A. M., Taurino, G., So, W., & D’Ignazio, C. (2022). Towards Intersectional Feminist and Participatory ML: A Case Study in Supporting Feminicide Counterdata Collection. 2022 ACM Conference on Fairness, Accountability, and Transparency, 667–678. https://doi.org/10.1145/3531146.3533132