Projet en cours · Sécurité informatique
Cyber
Nous utilisons l’intelligence artificielle pour repérer les attaques informatiques. Ensuite, nous essayons de la tromper.
- du travail fait par une IA, dans une campagne d’espionnage découverte en 2025
- 80-90%
- sont de vraies alertes, si une fausse alerte se déclenche tous les 1 000 événements
- 2 sur 100
- le taux moyen d’exécution, par un LLM, d’instructions cachées dans les logs
- 83%
- les événements informatiques traités par le CSIRT Italia en 2025
- 2729
Pour celles et ceux qui viennent de informatique, ingénierie, mathématiques, psychologie, droit
Pourquoi maintenant
Ceux qui attaquent utilisent déjà l’intelligence artificielle. En novembre 2025, Anthropic a décrit une campagne d’espionnage contre une trentaine de cibles : l’IA a fait de 80 à 90 % du travail, et des personnes ne sont intervenues qu’à quelques moments.
Les mêmes sources disent aussi la limite. Pour l’instant, l’IA n’invente pas de nouvelles attaques : elle fait plus vite, et à plus d’endroits, des attaques déjà connues. Les défenseurs doivent aller à la même vitesse.
| Novembre 2025 | Anthropic | une campagne d’espionnage menée à 80-90 % par l’IA |
|---|---|---|
| Novembre 2025 | les premiers programmes malveillants qui demandent à un LLM quoi faire pendant qu’ils s’exécutent | |
| Mai 2026 | le premier zero-day qui, selon Google, a été développé avec l’IA | |
| Septembre 2026 | une campagne avec des agents IA, préparée et exécutée en moins de six heures | |
| Septembre 2026 | ENISA | en 2026, plusieurs phases d’une attaque seront probablement menées avec l’IA |
IDS, IPS et SIEM
Un IDS regarde le trafic d’un réseau et prévient quand il voit quelque chose de suspect. Un IPS fait la même chose et, en plus, il bloque. Un SIEM rassemble les alertes et les journaux de tous les appareils, les met en ordre et les relie : c’est l’écran devant lequel travaille l’analyste.
Le NIST, l’organisme américain des standards, distingue trois façons de reconnaître une attaque. Son guide sur les IDS est encore celui de 2007 : la révision de 2012 n’a jamais été terminée.
- 01
Signatures
Il compare le trafic avec des attaques déjà connues. C’est précis, mais il ne voit pas ce qu’il ne connaît pas.
- 02
Anomalies
Il apprend à quoi ressemble le réseau normal et signale ce qui s’en écarte. C’est ici qu’entre le machine learning.
- 03
Protocoles
Il vérifie que chaque échange respecte les règles de son protocole.
alert http any any -> $HOME_NET any (msg:"Richiesta a /admin"; http.uri; content:"/admin"; sid:1000001; rev:1;)
alert alerte ; avec drop, dans un IPS, bloque aussi le paquet
http le protocole à surveiller
any any depuis n’importe quelle adresse et quel port
-> $HOME_NET any vers notre réseau
msg le texte de l’alerte
http.uri où chercher : l’adresse demandée
content quoi chercher
sid, rev le numéro de la règle et sa versionLe problème des fausses alertes
Un détecteur qui se trompe une fois sur mille a l’air très bon. Il ne l’est pas. En 2000, Stefan Axelsson a fait le calcul pour un réseau avec un million d’événements par jour et deux attaques de dix événements chacune. Même si le détecteur voit les deux attaques, mille fausses alertes se déclenchent aussi : sur cent alertes, seules deux sont vraies.
Ceux qui travaillent dans les centres de sécurité le savent. Dans une étude de 2022 sur sept de ces centres, un analyste dit : « nous savons que 99 % de nos alertes sont fausses, mais nous devons quand même les regarder ». C’est pourquoi nous mesurons les fausses alertes par jour, pas l’exactitude.
Les chiffres du graphique
| Une fausse alerte | Alertes vraies sur 100 |
|---|---|
| 1 fausse sur 1 000 événements | 2 |
| 1 fausse sur 10 000 | 17 |
| 1 fausse sur 100 000 | 67 |
Ce que dit la recherche
L’intelligence artificielle pour repérer les attaques s’étudie depuis presque quarante ans : l’idée de chercher les anomalies est de Dorothy Denning, en 1987. Mais hors des laboratoires, elle marche moins bien que ce que promettent les articles. Quatre résultats que nous utilisons comme règles de travail :
- 01
Le monde fermé
Le machine learning reconnaît ce qui ressemble à ce qu’il a déjà vu. Une attaque nouvelle ne ressemble à rien. Sommer et Paxson, 2010.
- 02
Erreurs de méthode
Sur 30 articles des conférences les plus importantes, chacun tombe dans au moins trois erreurs sur dix. Dans un cas, un simple comptage des paquets bat un réseau de neurones. Arp et al., 2022.
- 03
Mauvaises données
Dans le dataset le plus utilisé, CIC-IDS2017, plus d’un flux sur quatre est un artefact sans aucun sens. Engelen et al., 2021.
- 04
Les LLM
Un modèle de langage classe le trafic presque au hasard, et il se laisse tromper : des instructions cachées dans les logs fonctionnent en moyenne dans 83 % des cas. Houssel et al., 2024 ; Karanjai et al., 2026.
Le laboratoire
Le premier laboratoire est un petit faux réseau, tout à nous, dans quelques machines virtuelles. Deux sondes le surveillent : Suricata, qui cherche les signatures des attaques, et Zeek, qui enregistre chaque connexion. Wazuh, le SIEM, rassemble tout.
Un modèle de machine learning, qui tourne sur notre ordinateur, lit les logs et cherche les anomalies : ainsi, les données ne sortent jamais du laboratoire. Les attaques, c’est nous qui les faisons, depuis une machine virtuelle avec Kali Linux. Le logiciel est entièrement open source.
| Outil | Ce qu’il fait | Licence |
|---|---|---|
| Suricata | IDS et IPS à signatures | GPLv2 |
| Zeek | enregistre chaque connexion | BSD |
| Wazuh | le SIEM : rassemble, relie, montre | GPLv2 et Apache 2.0 |
| Kali Linux | la machine depuis laquelle nous attaquons | gratuite, open source |
| Ubuntu Server | la machine attaquée | gratuite, open source |
Trois étapes
Le travail se fait en trois étapes, l’une après l’autre. À la fin, le laboratoire doit repérer une attaque tout seul et la bloquer.
- 01
L’IA dans chaque système
Nous exportons les logs de l’IDS, de l’IPS et du SIEM et nous les donnons à un modèle de machine learning. Le modèle apprend à quoi ressemble le trafic normal et signale les anomalies.
- 02
Une boucle fermée
Nous faisons travailler les trois systèmes ensemble. Ce que voit l’IDS arrive au SIEM, qui le relie au reste, et l’IPS bloque la connexion.
- 03
L’attaque
Depuis une machine virtuelle avec Kali Linux, nous attaquons une autre machine virtuelle, un serveur Ubuntu. Sur le serveur, l’IDS, l’IPS et les agents du SIEM sont activés.
Ensuite, nous regardons le tableau de bord du SIEM et nous nous posons trois questions. L’IA a-t-elle reconnu l’attaque et l’a-t-elle bien classée ? Au bout de combien de temps ? Et l’IPS a-t-il coupé la connexion de la machine Kali avant qu’il ne soit trop tard ?
Les règles
Nous n’attaquons que nos propres machines. Le code pénal italien punit celui qui entre sans droit dans un système informatique (article 615-ter) et celui qui intercepte des communications informatiques (article 617-quater) : dans le laboratoire, nous ne capturons et n’attaquons que notre propre trafic.
Les logs sont des données personnelles : une adresse IP suffit, a décidé la Cour de justice de l’Union européenne en 2016. C’est pourquoi nous travaillons sur des datasets publics et sur le trafic de notre laboratoire.
En dehors du laboratoire, s’apercevoir des attaques est une obligation. La directive européenne NIS2 demande aux entreprises et aux organismes qui entrent dans son champ d’application de gérer les incidents et d’envoyer une alerte précoce dans les 24 heures. En Italie, elle est appliquée par le décret législatif 138 de 2024.
Où nous en sommes
- 2025 et 2026Avec Cyber Naval, nous avons attaqué et défendu le réseau de passerelle d’un navire, sur le simulateur de l’Université de Gênes.
- Octobre 2026Le nouveau projet démarre. Nous formons l’équipe et montons le premier laboratoire.
- Aujourd’huiNous cherchons des personnes de tous les parcours et nous commençons par la première étape : l’IA dans chaque système.
Soutenir Cyber
300 € vers 3 200 €
Étape 1 sur 3 : le laboratoire : un serveur, le réseau et les sondes
La collecte est divisée en étapes, et chaque étape correspond à un achat précis. Quand nous en atteignons une, nous publions une vidéo de ce que nous avons acheté.
Ouverture le 15 février
Le cadre vient de Produzioni dal Basso et ne se charge que si tu l’ouvres.
Personnes du projet
Sources
- Anthropic, Disrupting the first reported AI-orchestrated cyber espionage campaign, novembre 2025.
- Google Threat Intelligence Group, GTIG AI Threat Tracker, novembre 2025, mai 2026 et septembre 2026.
- ENISA Threat Landscape 2026, septembre 2026.
- ACN, Relazione annuale al Parlamento 2025.
- NIST SP 800-94, Guide to Intrusion Detection and Prevention Systems, 2007.
- Denning, An Intrusion-Detection Model, IEEE Transactions on Software Engineering, 1987.
- Axelsson, The base-rate fallacy and the difficulty of intrusion detection, ACM TISSEC, 2000.
- Alahmadi, Axon et Martinovic, 99% False Positives, USENIX Security 2022.
- Sommer et Paxson, Outside the Closed World, IEEE Symposium on Security and Privacy 2010.
- Arp et al., Dos and Don’ts of Machine Learning in Computer Security, USENIX Security 2022.
- Engelen, Rimmer et Joosen, Troubleshooting an Intrusion Detection Dataset: the CICIDS2017 Case Study, IEEE SPW 2021.
- Houssel et al., Towards Explainable Network Intrusion Detection using Large Language Models, IEEE/ACM BDCAT 2024.
- Kramer et al., Integrating Large Language Models into Security Incident Response, SOUPS 2025.
- Karanjai et al., Context Contamination in LLM Analysis of Network Security Logs, USENIX Security 2026.
- Directive (UE) 2022/2555 (NIS2) ; décret législatif italien 138/2024 ; Cour de justice de l’UE, affaire C-582/14, 2016 ; Code pénal italien, articles 615-ter et 617-quater.
- Documentation officielle de Suricata, Zeek, Wazuh, Kali Linux et Ubuntu Server.
Tu veux y travailler ?
Il ne faut ni expérience ni CV. Écris-nous : nous t’invitons à la prochaine rencontre, où tu fais connaissance avec l’équipe.