La Inteligencia Artificial (IA) ha supuesto toda una revolución en la que los ordenadores dan pasos para acercarse algún día hacia el pensamiento y razonamiento humano, tal y como abordamos en nuestro post sobre Alan Turing. Sin embargo, la IA es incapaz de crear de la nada, algo que el ser humano sí suple con su imaginación. Esta carencia llamó la atención de Ian Goodfellow, un estudiante de la universidad de Montreal que, tras debatir esta circunstancia con sus compañeros de la facultad en un bar, se fue a casa a idear una forma de completar este vacío: habían nacido las redes generativas antagónicas, comúnmente conocidas como GAN (generative antagonic networks, por sus siglas en inglés).

¿Qué son las GAN y cómo funcionan?_

Según las describió Yann LeCon, responsable del equipo de Inteligencia Artificial en Facebook, las redes generativas antagónicas son “el planteamiento s interesante en aprendizaje automático de la última década. El enfoque planteado por Goodfellow para resolver el desafío del aprendizaje de las máquinas resultaba transgresor: se trataba de enfrentar a dos redes neuronales sin ningún tipo de intervención ni supervisión de forma que compitan en un juego sin fin que siempre suma cero.

Este sistema se compone, de esta manera, de dos redes: la generativa y la discriminadora. Si queremos plantear un símil humano, la primera es la creadora de ideas y la segunda sería la censora, la que verifica que el contenido creado por la primera es veraz. Las GAN han alcanzado una gran popularidad entre el gran público pues están detrás de la generación de imágenes aleatorias —como los rostros humanos—, que a su vez han facilitado la llegada de los controvertidos deep fake.

Tomando como ejemplo una imagen, si lo que se quiere generar es la foto de un perro, la primera red lanzaría inicialmente un ruido estático que sería procesado por la segunda red, que lo devolvería como falso a la primera. Este bucle genera una competición entre ambas redes, tratando la primera de engañar a la segunda con imágenes cercanas a un perro, mientras que la segunda red debe esforzarse en descubrir este engaño. Con el esquema de Goodfellow, una red aprende de la otra hasta que al final se da con una imagen única de un perro que, en realidad, no existe.

La aplicación de las GAN en ciberataques_

Como es natural, las redes generativas antagónicas pueden tener un importante impacto en el terreno de la ciberseguridad, tanto positivo como negativo. Es precisamente esta segunda faceta la que preocupa a los expertos en ciberseguridad ya que esta potencia podría aplicarse para minar la protección a las compañías. Elham Tabassi, CTO del National Institute of Standards and Technology, destacó en el panel “Inteligencia Artificial y aprendizaje automático en la ciberseguridad” que los ciberatacantes podrían emplear estas redes para evitar ser detectados y adaptarse automáticamente a las contramedidas”.

El investigador Thomas Klimek va un paso más allá y en un paper detalla que las GAN podrían ser empleadas para descifrar contraseñas o bien ocultar malware. Con respecto a la primera amenaza potencial, este autor destaca que las redes GAN permitirían crear cadenas de contraseñas con altas posibilidades de ser empleadas a partir de una secuencia. Klimek no habla desde un plano teórico, sino que la aplicación de las redes generativas antagónicas es ya una realidad con sistemas como PassGAN, capaces de adivinar hasta casi un 25% de una filtración de LinkedIn, y todo a partir de un proceso de ‘imaginación’.

Pero las GAN pueden emplearse asimismo para ocultar el malware y evadir los sistemas de seguridad y el autor pone como ejemplo MalGAN, un sistema basado en redes generativas antagónicas capaz de engañar a los sistemas de ciberseguridad basados en Inteligencia Artificial. Pero, ¿es necesariamente negativo el impacto de las redes GAN en materia de ciberseguridad?

Las GAN y la IA como aliados _

Algunos autores destacan que las GAN pueden emplearse para mejorar los sistemas de detección y mejorar en términos generales la ciberseguridad de una organización. Así, un sistema basado en GAN puede ser entrenado para detectar información o imágenes manipuladas por ciberatacantes y lograr que estos sistemas de protección sean cada vez más robustos.

Esto vuelve a demostrar que la IA en general pueden resultar una gran aliada para la ciberseguridad, como demuestra el hecho de que el Machine Learning es un elemento esencial en Cytomic Platform: gracias a ello, analiza en tiempo real más de 8 millones de eventos interconectados entre sí. Utiliza algoritmos que, además de clasificar continuamente las aplicaciones basándose en sus comportamientos, buscan cualquier tipo de actividad sospechosa mediante la aplicación de análisis de datos a escala en la nube, aunque de entrada no presenten ningún rasgo malicioso.