Por Abraham Mena (Ecosur)
En el marco del Día Internacional de la Mujer, el 12 de marzo pasado, la Comunidad de Inclusión, Diversidad y Género de la Corporación Universitaria para el Desarrollo de Internet (CUDI), en colaboración con la comunidad de Inteligencia Artificial en Educación, llevó a cabo el panel “Sesgos de la IA que propician desigualdades sociales”, en el que participó Abraham Mena, investigador del Departamento de Sociedad y Cultura de Ecosur.
Las personas especialistas dialogaron sobre los desafíos éticos y educativos que enfrentamos ante la vertiginosa adopción de la Inteligencia Artificial, y quedó de manifiesto que la IA dista mucho de ser una herramienta neutra; ya que reproduce, automatiza y, en muchos casos, amplifica las asimetrías de poder y las exclusiones históricas de nuestras sociedades. Las personas interesadas pueden visualizar el panel en https://www.youtube.com/watch?v=1dtFmfNCFCI.
Eduardo Santiago Ruiz [19:24] abrió la reflexión al recordar que la tecnología se construye desde la sociedad y, por ende, refleja sus relaciones de poder. Ejemplificó cómo los sistemas de reclutamiento o reconocimiento facial han demostrado sesgos que perjudican sistemáticamente a mujeres y personas de piel oscura [20:42]. Esta premisa fue robustecida por Elvia Garduño Telis, quien introdujo el concepto de “pobreza digital”, alertando que mientras hablamos de ciudadanía algorítmica y formación en IA, existen comunidades enteras en México marginadas por la falta de infraestructura básica, lo que convierte a la exclusión tecnológica en una “bola de nieve” estructural [23:18].
Desde una perspectiva sociocultural, Dafne Rodríguez González [27:00] invitó a mirar la interacción con la IA como una nueva práctica de literacidad digital. Subrayó que los datos con los que se entrena a estas herramientas contienen los rastros de las desigualdades históricas, privilegiando visiones de mundo dominantes e invisibilizando saberes y lenguas marginadas. Este punto fue complementado por Marina Vicario, quien, desde su experiencia dual como tecnóloga y madre, relató cómo las IA generativas refuerzan estereotipos de género [30:04]. Para Vicario, los sesgos derivan de la falta de reglas y criterios éticos desde la fase de programación, y advirtió que no bastará con la “ingeniería de prompts” si el algoritmo ya nace con deficiencias fundamentales [32:57].
Sujella Ayala [33:28] profundizó en la mecánica de los algoritmos y su silenciosa influencia cotidiana. Explicó que estos sistemas, sean predictivos o de recomendación, se alimentan de nuestro rastro digital para confirmar nuestras creencias, encerrándonos en “burbujas digitales” [35:09]. Advirtió también que el “mito de la objetividad” algorítmica es peligroso, ya que estos sistemas pueden excluir a personas de oportunidades laborales o financieras replicando lógicas racistas, sexistas y clasistas del pasado [36:06].
En su intervención, Abraham Mena (Ecosur) [37:07], aprovechó el espacio para leer un pronunciamiento exigiendo el respeto al debido proceso de una estudiante de Ecosur detenida tras las marchas del 8M. Posteriormente, abordó cómo, desde el proyecto “Despatriarcalización de las tecnologías”, se analiza un ecosistema digital profundamente masculinizado [39:05]. Alertó sobre el “patriarcado algorítmico” y cómo las infraestructuras de IA, construidas desde el norte global, operan bajo lógicas de extractivismo y colonialismo digital [41:14], lo que exige un cuestionamiento profundo a la estandarización hegemónica.
El panel concluyó con un llamado unánime a la acción desde la educación y la gobernanza. La respuesta frente a la desigualdad algorítmica no es prohibir la herramienta, sino acompañar al estudiantado en el desarrollo de una literacidad crítica que cuestione los datos, audite los sistemas y genere contranarrativas [01:49:19]. El reto final es humanizar la tecnología, replantear el pacto pedagógico y construir una soberanía de datos que nos permita utilizar la inteligencia artificial para el bienestar común, y no para la profundización de nuestras brechas sociales.
#AbrahamMena #InteligenciaArtificial #SesgosAlgoritmicos #CUDI #DespatriarcalizacionIA #InclusionDigital #EticaTecnologica #BrechaDigital #SoberaniaDeDatos #EducacionYTecnologia #ViolenciaDigita
