Mientras el mundo acelera la adopción de la Inteligencia Artificial Generativa, al grado que, según la firma Gartner, hacia el 2025 esta tecnología será una compañera de trabajo habitual para el 90 por ciento de las empresas, pero naciones como México y gran parte de América Latina enfrentan procesos lentos de conocimiento y aceptación del tema, a pesar de las iniciativas emprendidas por el sector privado.
En un escenario donde, de acuerdo con datos de Forrester, el gasto en software de Inteligencia Artificial (IA) alcanzará los 64 mil millones de dólares al terminar el próximo año, el rezago regional se agrava “por la escasa discusión sobre la implementación y regulación de esta tecnología lo que propicia un escenario donde otros actores, en su mayoría con intenciones negativas, impulsan su uso de manera perjudicial”.
Lo anterior se desprende del estudio «Innovando el Ciberespacio: La Poderosa Revolución de la Inteligencia Artificial en la Ciberseguridad y la Identidad Digital» de IQSEC,
De acuerdo con el documento de IQSEC, empresa especializada en ciberseguridad, la IA es una herramienta poderosa “que requiere un marco robusto que garantice no solo su efectividad, sino también su seguridad y equidad”, así como la aplicación de herramientas de ciberseguridad impulsadas a su vez por la propia IA, pues de lo contrario, es imposible seguirle el paso a la ciberdelincuencia.
Al respecto, Manuel Moreno, director de Seguridad de la Información (CISO por sus siglas en inglés) de IQSEC, advirtió que la IA es una tecnología que ha revolucionado al mundo, presentándose como una espada de dos filos: puede automatizar y facilitar tareas complicadas, pero también puede generar información o materiales para acciones maliciosas.
“Por ello, antes de su implementación generalizada se deben evaluar pros y contras, tomando en cuenta las habilidades y conocimientos de los equipos de ciberseguridad para responder a las constantes amenazas que surgirán”.
De hecho, precisamente debido a estos retos de seguridad planteados por el desarrollo exponencial de la Inteligencia Artificial, el mercado global de productos de ciberseguridad se ha disparado, y de un valor estimado en 15 mil millones de dólares en 2021, ahora la previsión hacia el 2030 es que alcance 135 mil millones de dólares, es decir, un aumento de nueve veces en menos de 10 años.
Ante este panorama, el experto de IQSEC señaló que la falta de una estrategia integral puede exponer a las organizaciones a riesgos graves, que van desde la explotación de vulnerabilidades hasta el uso indebido de datos sensibles.
Esto se debe a que de acuerdo con el estudio, “los modelos de Inteligencia Artificial Generativa son vulnerables y pueden ser usados para generar noticias falsas, manipular imágenes y generar contenido malicioso”, entre otros muchos usos negativos, aunque la adopción de estos modelos sigue siendo muy acelerado, pues de acuerdo con información de la consultora Gartner, para el año 2026, el 80 por ciento de las empresas habrán utilizado interfaces de programación de aplicaciones API o modelos de IAG, con los consiguientes riesgos.
“Por lo tanto, es crucial que las políticas y las prácticas de seguridad se integren de manera proactiva en el ciclo de vida de la IA, para construir un entorno digital más seguro y confiable, que permita a México alcanzar una posición destacada en la región y a nivel global”, señaló Manuel Moreno.
Cabe señalar que según el estudio “Innovando el Ciberespacio”, la IAG permite numerosas aplicaciones de ciberseguridad que ayudan a los equipos humanos. Por ejemplo, permite el analizar vulnerabilidades y evaluación de riesgos en tiempos que las personas no podrían imitar; ofrece herramientas de detección y defensa; analiza malware; automatiza respuestas a incidentes de ciberseguridad; ofrece remediación automatizada y tiene herramientas para seguridad en la nube en las APPs y para aparatos conectados a través de internet de las cosas (IoT).
En materia de identidad digital, ofrece opciones para biometría y reconocimiento facial; verificación de identidad; autentificación multifactor; detección de fraudes (incluyendo evaluación de riesgos, prevención de phishing e ingeniería social) y gestión de identidad.
“Aunque México se ubica en la quinta posición del Índice Latinoamericano de Inteligencia Artificial (ILIA) en alfabetización y formación de la IA en la región, sólo superado por Chile, Brasil, Uruguay y Argentina, nuestro país todavía tiene mucho camino por recorrer en lo referente a la alta especialización, capital humano e infraestructura”, detalló el especialista.
En tanto, algunas de las recomendaciones generales para una adecuada gestión de la ciberseguridad, son cuidar la transparencia en los algoritmos y en el proceso de toma de decisiones para generar confianza y comprender cómo se llega a determinadas conclusiones.
Así como aplicar siempre la ética en el diseño y desarrollo de aplicaciones de IA; trabajar con datos diversos y equitativos; cuidar la privacidad acorde con marcos legales locales e internacionales; garantizar un entorno seguro para cuidar vulnerabilidades y siempre dejar la supervisión en manos de humanos para confirmar o corregir decisiones.
C$T-GM
