El panorama digital del mundo moderno ha experimentado una notable evolución en las últimas décadas, en las que los avances tecnológicos han impregnado todas las facetas de nuestras vidas. Aunque estas innovaciones han aportado una comodidad y una conectividad sin precedentes, también han expuesto a la sociedad a nuevas vulnerabilidades.

Los ciberdelitos han aumentado tanto en frecuencia como en sofisticación, marcando la era digital con incidentes de gran repercusión que han sacudido industrias y naciones. La historia reciente es un claro recordatorio de los estragos que los ciberdelincuentes pueden causar.

Un informe reciente de la compañía estadounidense Akamai Technologies relata que el costo promedio por filtración de datos en América Latina es de 2,76 millones de dólares en este año que recién casi termina, a medida que éstas se vuelven más disruptivas y aumentan las demandas de los equipos de ciberseguridad.

Paralelo a esto, la inteligencia artificial (IA) ha revolucionado numerosos campos, y la ciberseguridad no es una excepción. Partiendo de los fundamentos del aprendizaje supervisado, la IA y el Aprendizaje Automático se han expandido rápidamente hacia territorios más complejos, incluyendo técnicas no supervisadas, semisupervisadas, de refuerzo, los grandes modelos lingüísticos (LLM), el procesamiento del lenguaje natural (PLN) y las de aprendizaje profundo.

El avance más reciente en esta evolución es la aparición de las tecnologías de IA Generativa. Estas tecnologías utilizan redes de aprendizaje profundo para analizar y comprender los patrones de enormes conjuntos de datos, lo que les permite crear nuevos contenidos que se asemejan a los datos originales.

La misma es lo suficientemente versátil como para producir una amplia gama de contenidos, como texto, imágenes, código de programación, etc. En el ámbito de la ciberseguridad, su impacto es significativo, ya que ofrece nuevas dimensiones a este campo. Se anticipa que mejorará las capacidades de las herramientas de escaneo de vulnerabilidades, ofreciendo una profundidad de análisis de vulnerabilidades que supera los métodos tradicionales de pruebas estáticas de seguridad de aplicaciones (SAST).

Durante los últimos años, los ciberdelincuentes han estado utilizando la inteligencia artificial para piratear los sistemas corporativos y perturbar las operaciones empresariales. Pero las nuevas y potentes herramientas de IA generativa, como Chat Generative Pre-trained Transformer (ChatGPT) de la empresa OpenAI, plantean nuevos retos a los directivos de las empresas.

Antes de continuar es preciso que consideremos los siguientes escenarios:

⦁ En un intercambio de correos electrónicos falsos muy convincente creado mediante IA generativa, los altos ejecutivos de una empresa parecen estar discutiendo cómo encubrir un déficit financiero. El mensaje “filtrado” se difunde ampliamente con la ayuda de un ejército de bots de las redes sociales, lo que provoca un desplome del precio de las acciones de la empresa y un daño permanente a la contabilidad y a su reputación.

⦁ Un hacker utiliza la IA para generar un mensaje de spear-phishing (phishing dirigido) basado en los materiales de marketing de su empresa y en los mensajes de phishing que han tenido éxito en el pasado. Consigue engañar a las personas que han sido bien entrenadas en el conocimiento del correo electrónico, porque estos no resultan ser similares a los mensajes con que han sido previamente entrenados.

⦁ Los piratas informáticos utilizan la IA para “envenenar” de forma realista la información de un sistema, creando una valiosa cartera de acciones que pueden cobrar antes de que se descubra el engaño.

Los anteriores escenarios pudieran parecer surrealistas para algunos, pero les aseguro que aquellos que han estado prestando atención a las últimas noticias tecnológicas, todo esto pudiera resultarle demasiado familiar en un entorno real.

El problema es que la naturaleza de las nuevas amenazas pertenece a una categoría diferente, más aterradora, porque la tecnología subyacente se ha vuelto más inteligente. Y sin lugar a dudas, esto conlleva a que es hora de sustituir los enfoques tradicionales de la ciberseguridad, basados en normas, por una tecnología y una formación más eficiente.

Hasta ahora, la mayoría de los ataques han utilizado enfoques de gran volumen relativamente poco sofisticados. Imagínese una horda de zombis: millones de amenazas persistentes pero descerebradas que sólo tienen éxito cuando una o dos encuentran un punto débil en una barrera defensiva.

Por el contrario, las amenazas más sofisticadas -los grandes robos y fraudes de los que a veces oímos hablar en la prensa- han sido ataques de menor volumen que normalmente requieren la participación humana real para tener éxito. Se parecen más a los simples personas malintencionadas, que examinan sistemáticamente cada elemento de un edificio y sus sistemas de alarma hasta que pueden idear una forma de burlar las protecciones. O son como los estafadores, que pueden construir una historia de fondo e hilar mentiras de forma tan convincente que incluso las personas inteligentes son persuadidas para que les brinden atractivas cifras monetarias.

Ahora imaginemos que los zombis se vuelven más inteligentes. Gracias a la IA generativa, cada uno de ellos se convierte en un malhechor, capaz de entender el diseño de tus sistemas de seguridad e ingeniárselas para burlarlos. O imagina que un estafador utiliza la IA generativa para interactuar con uno de tus empleados, generar confianza y embaucarlo para que caiga en sus trampas previamente diseñadas.

Esta nueva era del malware impulsado por IA significa que las empresas ya no pueden utilizar las mejores prácticas que podrían haber sido eficaces hace un tiempo atrás. La defensa en profundidad -la estrategia de instalar las políticas de seguridad adecuadas, implantar las mejores herramientas técnicas de prevención y detección, y llevar a cabo campañas de concienciación para garantizar que el personal se apropie de forma adecuada las normas de seguridad- ya no será suficiente. Estamos en presencia de una nueva era.

Utilizando combinaciones de texto, voz, gráficos y vídeo, la IA generativa dará rienda suelta a innovaciones desconocidas e incognoscibles en la piratería informática. Las defensas eficaces contra estas amenazas aún no pueden automatizarse. Las empresas tendrán que pasar de la adquisición de herramientas y el establecimiento de enfoques basados en reglas al desarrollo de una estrategia que se adapte a las amenazas de nuevo nivel generadas por la IA en tiempo real. Esto requerirá tanto tecnología como empleados más inteligentes.

Las empresas deben utilizar la IA generativa tanto para sus capacidades defensivas como para acelerar su capacidad de respuesta a nuevas amenazas en tiempo real.

En primer lugar, hay que considerar las defensas perimetrales de una empresa. Las empresas ya utilizan bases de datos de malware para detectar nuevas amenazas. Estas bases de datos de firmas de malware son actualizadas constantemente por los proveedores, pero no están adaptadas a la situación particular de cada empresa. Antes, los piratas informáticos utilizaban exploits de talla única (formas de entrar en los sistemas de una empresa); ahora utilizarán la

IA para adaptar sus exploits a las vulnerabilidades de cada empresa.
Ahora los correos electrónicos engañosos presionarán en los puntos de presión adecuados; también serán muy creíbles porque el lenguaje basado en IA de los nuevos ataques de phishing utilizará información pública para adaptar cada mensaje a la empresa objetivo. Así, en lugar de descartar inmediatamente un correo electrónico como fraudulento, es más probable que incluso los empleados más avispados vean suficientes detalles para convencerse de que el mensaje es legítimo.

Obviamente no todo son malas noticias ya existen varias herramientas desarrolladas, como lo son: GPTZero y ZeroGPT, que permiten a las empresas detectar si un texto recién generado (sin firma identificable) ha sido producido por IA generativa.

Al integrar estas herramientas en los servidores de correo, las empresas pueden mejorar la probabilidad de bloquear los mensajes de phishing automatizados. Está claro que estas deben adaptarse a las necesidades de cada empresa y ajustarse con frecuencia para mantener la vigilancia, del mismo modo que un guardián humano inteligente necesita estar al día de las últimas amenazas.

Con el tiempo, los proveedores de herramientas de seguridad incorporarán estas tecnologías, pero mientras tanto, muchas empresas corren el riesgo de ser vulneradas y sufrir importantes pérdidas financieras y de reputación. Por lo tanto, es importante plantearse realizar cambios internos a corto plazo en lugar de esperar a que las soluciones disponibles en el mercado se pongan al día.

En resumen la IA generativa ofrece varias ventajas significativas para la ciberseguridad:

⦁ Simulación de Ataques: Los expertos en ciberseguridad pueden utilizar la IA generativa para crear entornos simulados y probar la resistencia de sus sistemas ante posibles ataques.
⦁ Automatización de Respuestas: Esta tecnología puede automatizar la respuesta a incidentes, generando contramedidas en tiempo real y reduciendo el tiempo de reacción ante ataques.
⦁ Detección de Amenazas: Utilizando algoritmos avanzados, la IA generativa puede identificar patrones anómalos en grandes volúmenes de datos, permitiendo la detección temprana de amenazas cibernéticas.
Sin embargo, también presenta riesgos significativos:
⦁ Evasión de Sistemas de Seguridad: Los atacantes pueden desarrollar técnicas avanzadas para evadir las medidas de seguridad existentes, utilizando IA generativa para adaptarse rápidamente a nuevas defensas.
⦁ Generación de Malware: Los ciberdelincuentes pueden utilizar IA generativa para crear malware más sofisticado y difícil de detectar, aumentando la complejidad de las amenazas.
⦁ Deepfakes y Desinformación: La capacidad de generar contenido falso de manera convincente puede ser utilizada para engañar a usuarios y sistemas de seguridad, propagando desinformación.

Mirando hacia el futuro, es evidente que la IA generativa jugará un papel crucial en la evolución de la ciberseguridad. Las tendencias indican un aumento en la adopción de esta tecnología tanto por parte de defensores como de atacantes. Es esencial que las organizaciones se mantengan al día con estos avances y desarrollen políticas y regulaciones adecuadas para su uso ético y seguro.

La IA generativa representa una espada de doble filo en el campo de la ciberseguridad. Si bien ofrece herramientas poderosas para la defensa, también abre nuevas vías para los atacantes. La clave estará en equilibrar estos aspectos y asegurar que la tecnología se utilice de manera responsable para proteger nuestros sistemas digitales.

Termino listando los desafíos más significativos que incluyen, la construcción de honeypots, la mejora de la seguridad del código, el abuso en el desarrollo de malware, la investigación de vulnerabilidades, la difusión de desinformación, los ciberataques a sistemas industriales, la modificación del entorno de ciberamenazas, la modificación de las técnicas de ciberseguridad y la evolución de la formación centrada en las personas.