Por Jorge Manrique, Rector del Colegio Jurista y director general de Gobierno de Calidad, consultoría de políticas públicas

La IA generativa es una tecnología que conlleva riesgos que deben abordarse, particularmente en el ámbito de la ciberseguridad.

El malware avanzado y las técnicas de evasión, el phishing, la ingeniería social y la suplantación, la ingeniería inversa y la elusión de las herramientas CAPTCHA, son algunas de las amenazas creadas por la IA generativa.

Para abordar las crecientes amenazas de los métodos generativos impulsados por la IA, la industria de la ciberseguridad debe evolucionar y adaptar sus estrategias.

Esta es la historia:

La inteligencia artificial generativa (IA) genera numerosas posibilidades en diversas industrias. Este tipo de IA puede producir contenido nuevo como texto, imágenes, música, sonidos y videos. Los modelos de aprendizaje automático se entrenan en conjuntos de datos masivos para aprender patrones, estructuras y relaciones y logran resultados que se asemejan al contenido original.

La serie GPT de OpenAI es un ejemplo  de IA generativa, que demuestra capacidades impresionantes en la producción de texto e interacciones similares a las humanas. Esta tecnología, sin embargo, también conlleva riesgos que deben abordarse, particularmente en el ámbito de la ciberseguridad. Aquí, exploro algunos escenarios de amenaza potenciales que la IA y la IA generativa pueden presentar a la ciberseguridad.

Puede desarrollar malware avanzado que es difícil de detectar utilizando medidas de seguridad tradicionales. Esto al ser más sofisticado que el  generado por humanos, ya que puede adaptarse rápidamente a diferentes objetivos y entornos. Esta adaptabilidad hace que sea difícil de detectar y neutralizar en tiempo real.

Las técnicas avanzadas de evasión que utilizan el aprendizaje automático para reconocer y eludir los sistemas de seguridad representan otra amenaza importante. Estas técnicas incluyen malware polimórfico, que cambia constantemente su código para evitar la detección basada en firmas, y malware metamórfico, que altera su estructura sin afectar su funcionalidad. Se deben hacer esfuerzos para garantizar el uso responsable de la IA y proteger contra las aplicaciones maliciosas.

Asimismo, los ataques de phishing, que engañan a los usuarios para que hagan clic en enlaces maliciosos o proporcionen información confidencial, también podrían beneficiarse de la IA generativa. Al generar correos electrónicos convincentes o mensajes que imitan de cerca las comunicaciones legítimas, los atacantes pueden aumentar sus posibilidades de éxito.

Asimismo, los ataques de ingeniería social, que dependen de las interacciones humanas y la manipulación para obtener acceso no autorizado a la información o los sistemas, también podrían hacerse más efectivos utilizando la IA generativa. Los atacantes pueden crear mensajes altamente convincentes y personalizados que pueden eludir los filtros de seguridad y engañar incluso a los usuarios vigilantes.

La tecnología deepfake, por ejemplo, se puede utilizar para generar contenido realista de video o audio que se hace pasar por personas de confianza, lo que podría ser particularmente efectivo en ataques de spear-phishing.

Por otra parte, la IA generativa también puede facilitar la creación de perfiles falsos en las redes sociales, lo que facilita a los atacantes hacerse pasar por usuarios legítimos y ganar confianza. Estos perfiles falsos se pueden utilizar para recopilar inteligencia, difundir información errónea o lanzar ataques dirigidos, lo que representa una amenaza para individuos y organizaciones.

Otra posibilidad de ciberataques se da con la ingeniería inversa, que implica desmontar y analizar software o hardware para comprender su funcionalidad, diseño e implementación. Este conocimiento se puede utilizar para diversos propósitos, incluida la mejora de los sistemas existentes, la identificación de vulnerabilidades y el desarrollo de nuevas tecnologías.

La IA generativa puede afectar la ingeniería inversa al automatizar el proceso y producir resultados de alta calidad rápidamente. Esto puede ser beneficioso y perjudicial. Puede ayudar a los investigadores de seguridad a identificar y mitigar vulnerabilidades, pero también ayuda a los actores maliciosos a descubrir y explotar las debilidades en los sistemas de software y hardware. Al aprovechar la IA generativa, los atacantes pueden analizar y modificar el malware existente para crear variantes nuevas y más potentes que pueden evadir las estrategias de detección y mitigación.

Además, la IA generativa se puede utilizar para crear exploits personalizados adaptados a vulnerabilidades y objetivos específicos, haciéndolos más efectivos y difíciles de defender.

Por Teófilo Benítez Granados, Rector del Centro de Estudios Superiores en Ciencias Jurídicas y Criminológicas

Casi ocho millones de jóvenes mexicanos no estudian ni traban. Hablamos de del 21.6 por ciento que no asiste a la escuela ni tiene alguna actividad productiva.

Se detecta que la asistencia a la escuela disminuye conforme se tiene mayor edad, en particular a partir de los 15 años, aunque el rango de edad de quienes no estudian ni trabajan va de 12 a 29 años y 3 de 4 de ellos corresponden al sexo femenino.

Se trata de un fenómeno social preocupante porque este segmento de la población no forma ni desarrolla sus capacidades productivas. Además, compromete las oportunidades que los jóvenes deberían tener en la vida adulta y representa un desperdicio en la capacidad productiva del país.

Aunque los jóvenes asocian a la educación con logros favorables, no puede consolidarse una continuidad en la matrícula hasta el término profesional de estudios.

Ahora, a medida que aumenta el nivel educativo, los jóvenes tienen una opinión más favorable sobre el valor de la educación. Sin embargo, la interrupción de los estudios se hace común por presiones económicas, limitación de los espacios que ofrecen las universidades públicas, embarazos no deseados a edades tempranas y otros factores que limitan las oportunidades.

Ahora, los jóvenes que no estudian ni trabajan tienen confianza en la educación y la consideran un recurso valioso para alcanzar los objetivos de movilidad social, pero no logran el acceso a este medio.

El rezago educativo de la juventud impide avanzar con un mejor ritmo en lo referente a crecimiento económico y superación de la pobreza. Sin embargo, aparte de una mejor distribución del ingreso al que se debería tener acceso por tener un mayor nivel educativo, así como un mejor índice de producción económica, el rezago educativo afecta a otros objetivos nacionales.

Entre éstos podemos enumerar el apego a la legalidad, respeto a los derechos humanos, acceso a la cultura y otros.

Asimismo, debe mencionarse que la infraestructura educativa también presenta atrasos y desigualdades entre los distintos niveles.

En el caso de la cobertura, tenemos que la matrícula de educación superior en México creció 13 veces en las cuatro últimas décadas. Pasó de 2.1 millones de estudiantes en 2000 a 3.3 millones de alumnos en 2012.

No obstante este dinámico crecimiento, es insuficiente y altamente desigual por entidades federativas. La cobertura actual, 34.6 por ciento, significa que a pesar del esfuerzo realizado en las últimas décadas en nuestro país, sólo 3 de cada 10 jóvenes de entre 19 y 23 años pueden cursar estudios superiores.

El total del grupo poblacional que se ubica en ese rango de edades es cercano a los 10 millones, por lo cual más de 7 millones de jóvenes no estudian.

El reducido número de jóvenes que tiene acceso a la educación superior en nuestro país no es sólo un asunto educativo o económico, es un problema social. La falta de esperanzas en el futuro es, quizá, el peor lastre que puede arrastrar un ser humano.