Transparencia algorítmica desempeña un papel muy importante.
La humanidad se encuentra en un momento en el que necesita una transformación digital diversa e incluyente; cuestionarse qué tipo de sociedad somos y a cuál aspiramos, es un ejercicio fundamental cuando se habla de desarrollo y adopción de tecnologías como la Inteligencia Artificial (IA), pues es claro que no sólo se requiere de una mayor representación femenina en el sector, sino también incorporar una perspectiva de género y ética.
Al encabezar la videoconferencia de “El papel de las mujeres en la transformación digital”, Andrea Escobedo Lastiri, vicepresidenta de Inclusión y Diversidad de la Canieti, recordó que la IA no es una tecnología tan emergente, pues se ha experimentado con ella desde los años 50 usándola en juegos de mesa, pero se encuentra ante un desarrollo acelerado que sí tiene soluciones importantes en el campo de la educación o salud.
No obstante, la especialista subrayó que habrá de cuestionarse también su impacto en dinámicas sociales y económicas, así como cuidar la perspectiva ética y de género de la IA, para que se mantenga realmente como una herramienta de inteligencia asistida. Es decir, la colaboración persona-máquina para que el uso de la IA no busque reemplazar los procesos humanos en la toma de decisiones, juicio o intuición.
“Este tema de que la IA no busca sustituir los procesos humanos es parte de la clave de la transformación digital, la cual no es conectar un aparato nuevo o conectarse a internet, sino realmente el cambio de procesos que ocurren detrás, tanto individuales como en los procesos organizativos”, expuso en el evento organizado por el Instituto Federal de Telecomunicaciones (IFT).
Advirtió además que la transparencia algorítmica desempeña un papel muy importante, para que las personas sepan cuáles fueron las bases de datos que nutrieron los sistemas, el corpus de conocimiento; al igual que el reconocimiento de sesgos, porque “hay sesgos y fallas del sistema en nuestras sociedades que ya existen, si eso lo automatizamos y lo hacemos más ágil y más rápido, sin duda vamos a estar anclando estas desigualdades”.
“Aún sin darnos cuenta las personas tenemos puntos ciegos y en el sector de la tecnología no podemos innovar sin diversidad. Y colaborar desde la diversidad de puntos de vista, de experiencias, nos permite pensar fuera de nuestras propias cajas y poder imaginar casos de uso que amplíen el acceso de las personas a la tecnología”.
Por ello, recalcó que hay que cuestionar ¿realmente se quiere seguir reproduciendo roles tradicionales en que las mujeres son asistentes; entonces, vamos a seguir permitiendo que los asistentes digitales tengan nombre de mujer, voz de mujer y que reciban insultos muchas veces con toque de género, o mejor podemos optar o pensar en sistemas que sean más neutros?
El impacto diferenciado también es que si estamos tomando la subrepresentación y la anclamos vamos a estar dejando fuera muchos casos de uso que quizá no se les podría ocurrir a grupos muy homogéneos de desarrolladores. “Pero creo que en el tema de la IA, por su potencia de impactar y solucionar problemas, y de dar respuestas, creo que es grave y nos lo tenemos que cuestionar”.
C$T-GM