Películas como 2001 Odisea del Espacio, Terminator o Matrix, nos presentaron desde hace varias décadas mundos caóticos, donde las máquinas inteligentes habían tomado el control y sometido para mal a la humanidad. Hoy parece que estamos a las puertas de ese momento. Ya no es cuestión de ciencia ficción, ni de charlas de café: es real. Se llama inteligencia artificial y está entre nosotros.
Va desde los “bots” que nos contestan las “preguntas frecuentes” en casi cualquier página electrónica o aplicación de atención al público, el Internet de las Cosas (IoT, por sus siglas en inglés) que parece conocernos más que nosotros mismos, el sistema de respuesta automatizado en los conmutadores, hasta novedades tecnológicas que se han desarrollado a una velocidad inconcebible y están rompiendo paradigmas con un poder absolutamente increíble.
El más famoso de estos sistemas se llama Chat GPT, es muy nuevo y consiguió 100 millones de suscriptores en dos meses, cifra que le llevó cinco años y dos meses a Uber; dos años y nueve meses a Instagram y nueve meses a TikTok.
Se trata de una plataforma alimentada por cientos de miles de archivos, a la que se le puede preguntar cualquier cosa y construye en segundos una respuesta lógica, coherente y supuestamente informada.
Aunque algunos han advertido que este sistema podría “quitarle el trabajo a muchas personas”, en realidad está por verse, pues los ejercicios más simples demuestran que si bien los resultados están bien redactados y tienen coherencia, en realidad su rigor está en entredicho, pues no suele precisar dónde obtuvo los resultados.
Incluso, hay quien ha señalado que, como el sistema está alimentado con la instrucción de contestar invariablemente, cuando se sabe qué preguntar y se hace en versiones más complejas de la herramienta, se descubre que ante la falta de respuestas, el propio Chat GPT es capaz de inventar literalmente respuestas aunque no sean ciertas.
De hecho, de acuerdo con un documento del Banco Interamericano de Desarrollo (BID), titulado “Chat GPT y la educación: ¿oportunidad, amenaza o desafío?”, esta es una herramienta muy superior a un simple buscador o a Wikipedia, porque “es capaz de elaborar respuestas con coherencia, cohesión, pertinencia y fluidez, generando la impresión de que hay alguien allí tipeando lo que se ve en pantalla”.
Es un complejo algoritmo compuesto por más de 175 millones de parámetros (valores que componen los algoritmos de la IA) que genera respuestas adaptadas al contexto de la pregunta, requerimiento del usuario y grado de entrenamiento de los algoritmos.
Y para demostrar cómo funciona esta plataforma, aquí reproducimos un ejercicio con dos variantes:
Primero una pregunta planteada por el propio BID para el artículo al que se hace referencia, en el que se le pide al Chat GPT que explique qué es y cómo funciona GPT, de manera que lo entienda un niño de 5 años. Aquí la respuesta:
Después ConsumoTIC le planteó exactamente la misma pregunta, con la variante de la edad de la persona; en lugar de cinco años de edad, consideramos 65 años de edad. Aquí la respuesta:
Esto significa que el sistema es capaz de discernir el entendimiento limitado de un niño de cinco años, y al mismo tiempo, las características del entendimiento de una persona de 65 que, en primer lugar, es un migrante digital y en seguida, posiblemente carece del contexto –e incluso del interés—necesario para comprender de todo el tema. Sin embargo, la herramienta construye una explicación comprensible para ambos.
Y aunque la herramienta parezca asombrosa en sus capacidades, el tema central es la privacidad y la protección sus datos personales, pues como señala la respuesta construida para el adulto, el sistema “fue entrenado por una gran cantidad información y datos como libros, artículos, páginas web y otros textos”.
- El riesgo de los datos personales
En ese sentido, las voces expertas coinciden en algunos aspectos centrales en este momento de crecimiento exponencial de la inteligencia artificial: los datos personales (incluyendo los biométricos) de la población están en riesgo; hay personas detrás los sistemas de inteligencia artificial y por lo tanto éstos pueden replicar aspectos negativos como la discriminación o incluso la criminalización de ciertos grupos; hace falta regulación por parte de los Estados nacionales y acuerdos globales para garantizar le buen uso de estas herramientas; y, por último, difícilmente se podrá detener el avance de esta tecnología, aunque tampoco es imposible.
Al respecto, Sissi de la Peña Mendoza, experta en economía digital y política pública de tecnología y regulación, en entrevista con ConsumoTIC reconoció que en esta explosión de la inteligencia artificial, aún hay muchos vacíos y, por supuesto, riesgos a la privacidad de las personas, los cuales se deben de regular y acotar.
Explicó que todos los días proporcionamos voluntaria o involuntariamente cantidad de datos personales que merecen privacidad y protección, lo cual plantea retos para la jurisdicción y normatividad de cada país e incluso hay modelos en Europa, en América del Norte y en Latinoamérica donde se están construyendo algunos modelos híbridos.
Nos estamos moviendo, advirtió, hacia modelos de contenidos web, inteligencia artificial y metaverso, con códigos abiertos que cada vez incrementan la dimensión y complejidad del reto, mientras vemos reacciones distintas de cada país ante los avances que parecen imposibles de detener. Por ejemplo, Italia prohibió el Chat GPT, pero muchos otros países no sólo lo permiten, sino lo alientan.
En ese sentido, es importante acordar de manera internacional ciertos parámetros sobre los cuales transitar para una adecuada protección. Mencionó algunos parámetros de la OCDE sobre trazabilidad y transparencia que pueden servir de base para los futuros acuerdos, si bien es más difícil llegar a acuerdos globales cuando tenemos jugadores como China y Rusia que siguen sus propios objetivos.
Sissi de la Peña destacó como un inicio muy positivo en México la recientemente formada Alianza Nacional de Inteligencia Artificial, donde participan muchos sectores involucrados, aunque el gobierno federal parece no estar concentrando en ello tanta atención como debería.
Y si bien en México existe una Ley de Protección de Datos Personales y una institución dispuesta a hacer valer este derecho de los ciudadanos (el INAI), tanto la legislación como el órgano garante, deben de adecuarse a una realidad tecnológica nueva y distinta, que plantea numerosos retos.
Por otra parte, la herramienta de la inteligencia artificial si bien ayudará a muchas personas a facilitar procesos y automatizar otros, dejándoles más tiempo para su desarrollo intelectual, es un hecho que para personas menos preparadas, esta herramienta puede significar atrasarse más, al carecer de las elementos para distinguir la calidad de la información a la que pueden acceder a través de la inteligencia artificial.
En su oportunidad, el académico y ex presidente del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI), Francisco Javier Acuña Llamas, sostuvo en entrevista con ConsumoTIC, que nos enfrentamos a una nueva era donde ciertamente hay muchos mecanismos que “nos ahorran fatigas, pero al mismo tiempo están revelando, monitoreando y hasta vendiendo patrones de uso y consumo que implican un enorme peligro de hacernos identificables ante los hábitos que revelamos a través de distintos sitios en internet, por el sólo hecho de usarlo”.
Pero aún más, la inteligencia artificial combina todos esos patrones y “huellas” que dejamos, con algoritmos que incluso se activan a partir de nuestra presencia digital en bases de datos, no sólo sin nuestro consentimiento, sino sin siquiera estar al tanto de ello.
Así, el debate se centra ahora en la libertad o la regulación, tema que prevaleció en su momento en torno al internet, donde se privilegió la libertad de expresión, por encima del control de la herramienta.
No obstante hoy, el tema es más profundo, pues las personas usuarias al participar de distintas actividades en el mundo digital, pueden ser víctimas de algún despliegue de invasiones a la vida privada, incluyendo el uso de su información biométrica, lo cual es un grave riesgo.
Por eso, Acuña Llamas advirtió que los usuarios deben estar conscientes de que sus datos personales, los más protegidos, se encuentran “en una sangría abierta a potenciales abusos” ya sea de particulares o incluso de gobiernos que tengan la intención de usarlos de manera inadecuada.
En consecuencia, el debate que debe iniciar ya, debe ser serio, profundo y tomando en cuenta riesgos en varias capas, incluyendo por ejemplo los riesgos que corren los menores de edad, al no ser debidamente supervisados por los adultos a cuyo cargo se encuentran. Con todo, aseguró que la tecnología no debe detenerse, sino más bien lograr una regulación correcta para evitar que termine dañándonos.
A su vez, Grecia Macías, abogada en la Red de Defensa de los Derechos Digitales (R3D), señaló en entrevista con ConsumoTIC, que no sólo es posible, sino indispensable llegar cuanto antes a una regulación adecuada del manejo de los datos personales en la inteligencia artificial, porque están en grave riesgo y no solo frente a usos relativamente superfluos, sino ante la posibilidad de perder la libertad a causa de este tipo de sistemas.
Recordó que la IA es, en realidad, una serie de sistemas automatizados detrás de cuyos procesos siempre hay seres humanos capaces de reproducir modelos discriminatorios, racistas o estigmatizantes que pueden acabar con la libertad y hasta la vida de algunas personas de manera totalmente injusta.
En ese sentido, advirtió que la protección de los datos personales de los individuos es solo una de las muchas categorías de derechos humanos que están en entredicho mientras se alimentan programas automatizados “mal llamados inteligencia artificial”.
Por ello, Grecia Macías hizo un llamado a reformar para actualizar las facultades del INAI y la Ley de Protección de Datos Personales, como paso urgente para proteger a la ciudadanía y, segundo, llamar a los legisladores a que agilicen la discusión con información correcta y bajo el principio de que “otro mundo sí es posible”.
C$T-GM