Aunque el uso de la tecnología para mejorar la implementación de políticas públicas en áreas tan complejas como la seguridad pública, es algo que debe celebrarse, es necesario analizar casos cómo y por qué el Plan A.N.G.E.L. presentado por el excanciller Marcelo Ebrard, resulta “extremadamente preocupante” por el aparente desconocimiento de los alcances éticos que podría tener.
Sissi de la Peña Mendoza, experta en economía digital, política pública de tecnología y regulación, advirtió que el proyecto del aspirante a coordinador de los comités de defensa de la cuarta transformación se basa en herramientas que ya prohibió el Comité de Derechos Humanos de la Unión Europea y olvida el hecho de que México ha sido señalado como uno de los países con el peor uso de herramientas de espionaje (Pegasus), no contra el crimen organizado, sino contra la propia ciudadanía.
“Este tipo de tecnologías ya han sido prohibidas en Europa por el Tribunal de Derechos Humanos; para empezar ahí está un antecedente general a nivel global. Y México ha sido señalado como uno de los peores países en el uso de herramientas de espionaje, no contra el crimen organizado, sino contra los propios ciudadanos y no se ha hecho nada”, advirtió en entrevista con ConsumoTIC.
Para la especialista, Marcelo Ebrard “no es un político nuevo que aparece recién, lo preocupante es que no sabemos si tiene claro cuál es la problemática de seguridad en el país”.
Sissi de la Peña consideró que la tecnología no es buena ni mala en sí misma y en ese sentido, claramente puede ser una herramienta muy útil, siempre que se use como complemento de decisiones que tomen las personas con base en varios criterios como el interés público y la recuperación del tejido social, el combate a la corrupción y a la delincuencia organizada.
Por esas razones la tecnología no se puede utilizar como sustituto de una auténtica política pública en materia de seguridad y, lamentablemente, parece haber una ola entre políticos de distintos colores, en el sentido de creer que la tecnología lo va a solucionar todo, “sin tener en cuenta que los problemas que tiene un país de la magnitud de México, van mucho más allá del solo equipamiento en materia de infraestructura y soporte tecnológico”.
“Celebro que (los políticos) tengan la disposición de incorporar la tecnología en la aplicación de políticas públicas, pero la tecnología no debe ser el centro o la base de esa política pública. La tecnología, como en todos los demás sectores, es solamente un complemento, una ayuda”.
Especialmente, dijo, en el caso de la inteligencia artificial, cuyos componentes éticos todavía están sometidos a un intenso debate global y también nacional, pues pronto se comenzará un trabajo coordinado entre el Senado de la República y la UNESCO, para establecer parámetros éticos en el uso de esta tecnología.
Además, la inteligencia artificial (que es uno de los ocho ejes tecnológicos que plantea el Plan A.N.G.E.L.) requiere un manejo enorme de datos personales y este tema está especialmente comprometido en México, donde se ha dejado inoperante al INAI y donde se tiene que adecuar la Ley de Protección de Datos Personales para que se ajuste a los avances tecnológicos.
Aunque coincidió en que se debe centralizar la información en materia de seguridad, reiteró que vivimos en un país donde hay graves problemas de seguridad y delincuencia organizada y por lo tanto, nadie puede garantizar el manejo seguro de las grandes bases de datos que esta estrategia implicaría.
Lo presentado el pasado 10 de junio, “no es un plan de Nación en materia de seguridad; yo lo llamaría un plan de equipamiento tecnológico” en cuyo centro se colocan tecnologías que parecen “sexys” para los políticos y les traen votos, pero que probablemente ni ellos mismos entiendan.
Por eso, hace falta que se escuche al sector empresarial (con todo y los intereses comerciales que tiene consigo), pero también a la sociedad civil y, en especial, a los sectores académicos y técnicos a quienes en general se escucha poco, pero que tienen en realidad la última palabra sobre las verdaderas ventajas y retos de las distintas alternativas tecnológicas.
“Aplaudo la buena intención, pero me preocupa mucho la falta de concientización sobre el uso de las tecnologías, porque realmente no entendemos el daño potencial, porque así como la tecnología puede ser muy buena, también puede ser muy mala. Y este puede ser uno de los usos más dañinos que se le pudiera dar”, por las probables violaciones graves a los derechos humanos de los ciudadanos.
Para ejemplificar los sesgos que pueden presentarse con la inteligencia artificial, Sissi de la Peña recordó la drástica caída en contratación de empleadas mujeres de determinado rango de edad que experimentó Amazon cuando empezó a implementar inteligencia artificial en sus sistemas de reclutamiento.
Esto se debió a que los modelos se basaban en una mayoría de hombres, de cierta edad y determinada raza. Aunque “hay una discriminación enorme”, el ejemplo se ciñe a una sola empresa, pero aplicarlo a un sistema gubernamental a nivel federal sería “un error enorme”.
C$T-GM