Proyecto en curso · Seguridad informática
Cyber
Usamos la inteligencia artificial para reconocer los ataques informáticos. Después intentamos engañarla.
- del trabajo hecho por una IA, en una campaña de espionaje descubierta en 2025
- 80-90%
- las alarmas verdaderas, si salta una falsa alarma cada 1.000 eventos
- 2 de cada 100
- las veces que un LLM ejecuta instrucciones escondidas en los logs, de media
- 83%
- los eventos informáticos gestionados por el CSIRT Italia en 2025
- 2729
Para quien viene de informática, ingeniería, matemáticas, psicología, derecho
Por qué ahora
Quien ataca ya usa la inteligencia artificial. En noviembre de 2025 Anthropic describió una campaña de espionaje contra una treintena de objetivos: la IA hizo del 80 al 90% del trabajo, y las personas intervinieron solo en pocos momentos.
Las mismas fuentes señalan también el límite. Por ahora la IA no inventa ataques nuevos: hace más rápido, y en más sitios, ataques ya conocidos. Quien defiende tiene que ir a la misma velocidad.
| Noviembre de 2025 | Anthropic | una campaña de espionaje hecha en un 80-90% por la IA |
|---|---|---|
| Noviembre de 2025 | los primeros programas maliciosos que le preguntan a un LLM qué hacer mientras se ejecutan | |
| Mayo de 2026 | el primer zero-day que, según Google, se desarrolló con IA | |
| Septiembre de 2026 | una campaña con agentes de IA, preparada y ejecutada en menos de seis horas | |
| Septiembre de 2026 | ENISA | en 2026 es probable que varias fases de un ataque se hagan con IA |
IDS, IPS y SIEM
Un IDS mira el tráfico de una red y avisa cuando ve algo sospechoso. Un IPS hace lo mismo y además bloquea. Un SIEM recoge los avisos y los registros de todos los aparatos, los pone en fila y los relaciona: es la pantalla delante de la que trabaja el analista.
El NIST, el organismo estadounidense de estándares, distingue tres modos de reconocer un ataque. Su guía sobre los IDS sigue siendo la de 2007: la revisión de 2012 nunca se terminó.
- 01
Firmas
Compara el tráfico con ataques ya conocidos. Es preciso, pero no ve lo que no conoce.
- 02
Anomalías
Aprende cómo es la red normal y señala lo que se aleja de ella. Aquí entra el machine learning.
- 03
Protocolos
Comprueba que cada intercambio respete las reglas de su protocolo.
alert http any any -> $HOME_NET any (msg:"Richiesta a /admin"; http.uri; content:"/admin"; sid:1000001; rev:1;)
alert avisa; con drop, en un IPS, detiene también el paquete
http el protocolo que se vigila
any any de cualquier dirección y puerto
-> $HOME_NET any hacia nuestra red
msg el texto de la alarma
http.uri dónde buscar: la dirección pedida
content qué buscar
sid, rev el número de la regla y su versiónEl problema de las falsas alarmas
Un detector que se equivoca una vez de cada mil parece buenísimo. No lo es. En 2000 Stefan Axelsson hizo la cuenta para una red con un millón de eventos al día y dos ataques de diez eventos cada uno. Aunque el detector vea los dos ataques, saltan también mil falsas alarmas: de cada cien alarmas, solo dos son verdaderas.
Quien trabaja en los centros de seguridad lo sabe. En un estudio de 2022 sobre siete de estos centros, un analista dice: sabemos que el 99% de nuestras alarmas es falso, pero tenemos que mirarlas de todos modos. Por eso nosotros medimos las falsas alarmas al día, no la exactitud.
Los números del gráfico
| Una falsa alarma | Alarmas verdaderas de cada 100 |
|---|---|
| 1 falsa de cada 1.000 eventos | 2 |
| 1 falsa de cada 10.000 | 17 |
| 1 falsa de cada 100.000 | 67 |
Qué dice la investigación
La inteligencia artificial para reconocer los ataques se estudia desde hace casi cuarenta años: la idea de buscar las anomalías es de Dorothy Denning, en 1987. Fuera de los laboratorios, sin embargo, funciona menos de lo que prometen los artículos. Cuatro resultados que usamos como reglas de trabajo:
- 01
El mundo cerrado
El machine learning reconoce lo que se parece a lo que ya ha visto. Un ataque nuevo no se parece a nada. Sommer y Paxson, 2010.
- 02
Errores de método
De 30 artículos de los congresos más importantes, cada uno cae en al menos tres de diez errores. En un caso, un simple recuento de paquetes supera a una red neuronal. Arp y colegas, 2022.
- 03
Datos equivocados
En el dataset más usado, CIC-IDS2017, más de un flujo de cada cuatro es un artefacto sin sentido. Engelen y colegas, 2021.
- 04
Los LLM
Un modelo de lenguaje clasifica el tráfico casi al azar, y se deja engañar: las instrucciones escondidas en los logs funcionan, de media, el 83% de las veces. Houssel y colegas, 2024; Karanjai y colegas, 2026.
El laboratorio
El primer laboratorio es una pequeña red falsa, toda nuestra, dentro de unas máquinas virtuales. Dos sensores la vigilan: Suricata, que busca las firmas de los ataques, y Zeek, que registra cada conexión. Wazuh, el SIEM, lo recoge todo.
Un modelo de machine learning, que funciona en nuestro ordenador, lee los logs y busca las anomalías: así los datos no salen nunca del laboratorio. Los ataques los hacemos nosotros, desde una máquina virtual con Kali Linux. El software es todo open source.
| Herramienta | Qué hace | Licencia |
|---|---|---|
| Suricata | IDS e IPS por firmas | GPLv2 |
| Zeek | registra cada conexión | BSD |
| Wazuh | el SIEM: recoge, relaciona, muestra | GPLv2 y Apache 2.0 |
| Kali Linux | la máquina desde la que atacamos | gratuita, open source |
| Ubuntu Server | la máquina atacada | gratuita, open source |
Tres pasos
El trabajo se hace en tres pasos, uno después de otro. Al final, el laboratorio tiene que darse cuenta por sí solo de un ataque y detenerlo.
- 01
La IA en cada sistema
Exportamos los logs del IDS, del IPS y del SIEM y se los damos a un modelo de machine learning. El modelo aprende cómo es el tráfico normal y señala las anomalías.
- 02
Un ciclo cerrado
Hacemos que los tres sistemas trabajen juntos. Lo que ve el IDS llega al SIEM, que lo relaciona con el resto, y el IPS bloquea la conexión.
- 03
El ataque
Desde una máquina virtual con Kali Linux atacamos otra máquina virtual, un servidor Ubuntu. En el servidor están activos el IDS, el IPS y los agentes del SIEM.
Después miramos el panel del SIEM y nos hacemos tres preguntas. ¿La IA ha reconocido el ataque y lo ha clasificado bien? ¿En cuánto tiempo? ¿Y el IPS ha cerrado la conexión de la máquina Kali antes de que fuera demasiado tarde?
Las reglas
Atacamos solo máquinas nuestras. El Código Penal italiano castiga a quien entra sin derecho en un sistema informático (artículo 615-ter) y a quien intercepta comunicaciones informáticas (artículo 617-quater): en el laboratorio capturamos y atacamos solo nuestro tráfico.
Los logs son datos personales: basta una dirección IP, decidió el Tribunal de Justicia de la Unión Europea en 2016. Por eso trabajamos con datasets públicos y con el tráfico de nuestro laboratorio.
Fuera del laboratorio, darse cuenta de los ataques es una obligación. La directiva europea NIS2 pide a las empresas y a las entidades que entran en sus reglas que gestionen los incidentes y que den un primer aviso en 24 horas. En Italia la aplica el decreto legislativo 138 de 2024.
En qué punto estamos
- 2025 y 2026Con Cyber Naval atacamos y defendimos la red de puente de un barco, en el simulador de la Universidad de Génova.
- Octubre de 2026Arranca el proyecto nuevo. Formamos el equipo y montamos el primer laboratorio.
- HoyBuscamos personas de cualquier formación y empezamos por el primer paso: la IA en cada sistema.
Apoya a Cyber
300 € hacia 3.200 €
Etapa 1 de 3: el laboratorio: un servidor, la red y los sensores
La campaña está dividida en etapas, y cada etapa es una compra concreta. Cuando alcanzamos una, publicamos un vídeo de lo que hemos comprado.
Se abre el 15 de febrero
El recuadro viene de Produzioni dal Basso y solo se carga si lo abres.
Personas del proyecto
Fuentes
- Anthropic, Disrupting the first reported AI-orchestrated cyber espionage campaign, noviembre de 2025.
- Google Threat Intelligence Group, GTIG AI Threat Tracker, noviembre de 2025, mayo de 2026 y septiembre de 2026.
- ENISA Threat Landscape 2026, septiembre de 2026.
- ACN, Relazione annuale al Parlamento 2025.
- NIST SP 800-94, Guide to Intrusion Detection and Prevention Systems, 2007.
- Denning, An Intrusion-Detection Model, IEEE Transactions on Software Engineering, 1987.
- Axelsson, The base-rate fallacy and the difficulty of intrusion detection, ACM TISSEC, 2000.
- Alahmadi, Axon y Martinovic, 99% False Positives, USENIX Security 2022.
- Sommer y Paxson, Outside the Closed World, IEEE Symposium on Security and Privacy 2010.
- Arp et al., Dos and Don’ts of Machine Learning in Computer Security, USENIX Security 2022.
- Engelen, Rimmer y Joosen, Troubleshooting an Intrusion Detection Dataset: the CICIDS2017 Case Study, IEEE SPW 2021.
- Houssel et al., Towards Explainable Network Intrusion Detection using Large Language Models, IEEE/ACM BDCAT 2024.
- Kramer et al., Integrating Large Language Models into Security Incident Response, SOUPS 2025.
- Karanjai et al., Context Contamination in LLM Analysis of Network Security Logs, USENIX Security 2026.
- Directiva (UE) 2022/2555 (NIS2); decreto legislativo italiano 138/2024; Tribunal de Justicia de la UE, asunto C-582/14, 2016; Código Penal italiano, artículos 615-ter y 617-quater.
- Documentación oficial de Suricata, Zeek, Wazuh, Kali Linux y Ubuntu Server.
¿Quieres trabajar en ello?
No hace falta experiencia ni currículum. Escríbenos: te invitamos al próximo encuentro, donde conoces al equipo.