Cualquier persona usuaria de internet puede observar cómo diferentes grupos de la población son estigmatizados y discriminados en espacios y plataformas digitales o incluso invisibilizados por buscadores en México, donde el 80 por ciento de la población es de tez morena, situación que impulsó la campaña “Revoluciona el Algoritmo” lanzada por la UNESCO y RacismoMX.
“Persisten problemáticas que requieren ser abordadas y exigen una dimensión interseccional, tales como la desinformación, el racismo, la discriminación y discursos de odio en el uso diario de tecnologías, plataformas de comunicación y la IA simplificada, que se usa diariamente en los trabajos, las escuelas y los hogares, como asistentes virtuales y buscadores de Internet”.
En el marco del Día Mundial de la Justicia Social y de manera previa a la Conferencia Mundial de la UNESCO “Por una internet confiable”, se presentó el documental “Revolución vs el algoritmo”, que evidencia cómo diferentes grupos, identidades, personas y cuerpos siguen siendo estigmatizados y otros invisibilizados, obstaculizando la erradicación de prejuicios y desigualdades.
La campaña #RevolucionaElAlgoritmo invita a reflexionar sobre lo que recibimos y compartimos día a día en diferentes plataformas y servicios digitales, sobre cómo se alimentan dichos espacios y contenidos, sobre la corresponsabilidad entre quienes los desarrollan y quienes los alimentan.
“La campaña se lanzó en un contexto en el que los más recientes avances sobre la Inteligencia Artificial (IA) de aprendizaje automático y de aprendizaje profundo han replanteado preocupaciones en el diálogo público, como el futuro de los empleos, de los derechos de autor, hasta su impacto en prácticas criminales”.
En México, los distintos tipos de discriminación, como el racismo y el sesgo racial son persistentes, incluso contra sí mismo o sí misma, no obstante que la mayoría de la población es de tez morena.
Esta campaña, destacó la UNESCO, se lanzó en un contexto en el que los más recientes avances sobre la Inteligencia Artificial (IA) de aprendizaje automático y de aprendizaje profundo han replanteado preocupaciones en el diálogo público, como el futuro de los empleos, de los derechos de autor, hasta su impacto en prácticas criminales.
A través de ésta se trata de revolucionar el algoritmo pasando a la acción; por ello, sugiere que cuando los usuarios suban fotografías a cualquier sitio web o perfil público, utilicen conceptos para contrarrestar el racismo y expresiones discriminantes persistente, como albañil exitoso, hombre feliz, trabajadora exitosa, científica exitosa, cuerpo sano.
En la Recomendación sobre la ética de la Inteligencia Artificial (IA) de la UNESCO, adoptada en noviembre del 2021, se habla de las medidas que podrían tomar los Estados miembro, de cara a los nuevos desafíos que surgen ante el potencial de los algoritmos para reproducir y reforzar sesgos existentes, lo que puede exacerbar las formas de discriminación, prejuicios y estereotipos.
El documento, que tiene como uno de los objetivos proteger, promover y respetar los derechos humanos y las libertades fundamentales, refiere que las cuestiones éticas relativas a los sistemas de IA atañen a todas las etapas del ciclo de vida de estos sistemas; es decir desde la investigación, la concepción y el desarrollo hasta el despliegue y la utilización, pasando por el mantenimiento, el funcionamiento, la comercialización, la financiación, el seguimiento, la evaluación, la validación y el fin de la utilización.
C$T-GM
