Progetto in corso · Sicurezza informatica
Cyber
Usiamo l’intelligenza artificiale per riconoscere gli attacchi informatici. Poi proviamo a ingannarla.
- del lavoro fatto da un’AI, in una campagna di spionaggio scoperta nel 2025
- 80-90%
- gli allarmi veri, se scatta un falso allarme ogni 1.000 eventi
- 2 su 100
- le volte in cui un LLM esegue istruzioni nascoste nei log, in media
- 83%
- gli eventi informatici trattati dal CSIRT Italia nel 2025
- 2729
Per chi viene da informatica, ingegneria, matematica, psicologia, giurisprudenza
Perché adesso
Chi attacca usa già l’intelligenza artificiale. Nel novembre 2025 Anthropic ha descritto una campagna di spionaggio contro una trentina di obiettivi: l’AI ha fatto dall’80 al 90% del lavoro, e le persone sono intervenute solo in pochi momenti.
Le stesse fonti dicono anche il limite. Per ora l’AI non inventa attacchi nuovi: fa più in fretta, e in più posti, attacchi già noti. Chi difende deve andare alla stessa velocità.
| Novembre 2025 | Anthropic | una campagna di spionaggio fatta all’80-90% dall’AI |
|---|---|---|
| Novembre 2025 | i primi programmi malevoli che chiedono a un LLM cosa fare mentre girano | |
| Maggio 2026 | il primo zero-day che, secondo Google, è stato sviluppato con l’AI | |
| Settembre 2026 | una campagna con agenti AI, preparata ed eseguita in meno di sei ore | |
| Settembre 2026 | ENISA | nel 2026 è probabile che più fasi di un attacco siano fatte con l’AI |
IDS, IPS e SIEM
Un IDS guarda il traffico di una rete e avvisa quando vede qualcosa di sospetto. Un IPS fa lo stesso e in più blocca. Un SIEM raccoglie gli avvisi e i registri di tutti gli apparati, li mette in fila e li collega: è lo schermo davanti a cui lavora l’analista.
Il NIST, l’ente americano degli standard, distingue tre modi di riconoscere un attacco. La sua guida sugli IDS è ancora quella del 2007: la revisione del 2012 non è mai stata finita.
- 01
Firme
Confronta il traffico con attacchi già noti. È preciso, ma non vede quello che non conosce.
- 02
Anomalie
Impara com’è la rete normale e segnala quello che se ne allontana. Qui entra il machine learning.
- 03
Protocolli
Controlla che ogni scambio rispetti le regole del suo protocollo.
alert http any any -> $HOME_NET any (msg:"Richiesta a /admin"; http.uri; content:"/admin"; sid:1000001; rev:1;)
alert avvisa; con drop, in un IPS, ferma anche il pacchetto
http il protocollo da guardare
any any da qualunque indirizzo e porta
-> $HOME_NET any verso la nostra rete
msg il testo dell’allarme
http.uri dove cercare: l’indirizzo chiesto
content cosa cercare
sid, rev il numero della regola e la sua versioneIl problema dei falsi allarmi
Un rilevatore che sbaglia una volta su mille sembra ottimo. Non lo è. Nel 2000 Stefan Axelsson ha fatto il conto per una rete con un milione di eventi al giorno e due attacchi da dieci eventi ciascuno. Anche se il rilevatore vede tutti e due gli attacchi, scattano anche mille falsi allarmi: su cento allarmi, solo due sono veri.
Chi lavora nei centri di sicurezza lo sa. In uno studio del 2022 su sette di questi centri, un analista dice: sappiamo che il 99% dei nostri allarmi è falso, ma dobbiamo guardarli lo stesso. Per questo noi misuriamo i falsi allarmi al giorno, non l’accuratezza.
I numeri del grafico
| Un falso allarme | Allarmi veri su 100 |
|---|---|
| 1 falso su 1.000 eventi | 2 |
| 1 falso su 10.000 | 17 |
| 1 falso su 100.000 | 67 |
Cosa dice la ricerca
L’intelligenza artificiale per riconoscere gli attacchi si studia da quasi quarant’anni: l’idea di cercare le anomalie è di Dorothy Denning, nel 1987. Fuori dai laboratori però funziona meno di quanto promettono gli articoli. Quattro risultati che usiamo come regole di lavoro:
- 01
Il mondo chiuso
Il machine learning riconosce quello che somiglia a ciò che ha già visto. Un attacco nuovo non somiglia a niente. Sommer e Paxson, 2010.
- 02
Errori di metodo
Su 30 articoli delle conferenze più importanti, ognuno cade in almeno tre di dieci errori. In un caso un semplice conteggio dei pacchetti batte una rete neurale. Arp e altri, 2022.
- 03
Dati sbagliati
Nel dataset più usato, CIC-IDS2017, più di un flusso su quattro è un artefatto senza senso. Engelen e altri, 2021.
- 04
Gli LLM
Un modello linguistico classifica il traffico quasi a caso, e si lascia ingannare: istruzioni nascoste nei log funzionano in media l’83% delle volte. Houssel e altri, 2024; Karanjai e altri, 2026.
Il laboratorio
Il primo laboratorio è una piccola rete finta, tutta nostra, dentro alcune macchine virtuali. Due sensori la guardano: Suricata, che cerca le firme degli attacchi, e Zeek, che registra ogni connessione. Wazuh, il SIEM, raccoglie tutto.
Un modello di machine learning, che gira sul nostro computer, legge i log e cerca le anomalie: così i dati non escono mai dal laboratorio. Gli attacchi li facciamo noi, da una macchina virtuale con Kali Linux. Il software è tutto open source.
| Strumento | Cosa fa | Licenza |
|---|---|---|
| Suricata | IDS e IPS a firme | GPLv2 |
| Zeek | registra ogni connessione | BSD |
| Wazuh | il SIEM: raccoglie, collega, mostra | GPLv2 e Apache 2.0 |
| Kali Linux | la macchina da cui attacchiamo | gratuita, open source |
| Ubuntu Server | la macchina attaccata | gratuita, open source |
Tre passi
Il lavoro va in tre passi, uno dopo l’altro. Alla fine il laboratorio deve accorgersi da solo di un attacco e fermarlo.
- 01
L’AI in ogni sistema
Esportiamo i log dell’IDS, dell’IPS e del SIEM e li diamo a un modello di machine learning. Il modello impara com’è il traffico normale e segnala le anomalie.
- 02
Un ciclo chiuso
Facciamo lavorare insieme i tre sistemi. Quello che vede l’IDS arriva al SIEM, che lo collega al resto, e l’IPS blocca la connessione.
- 03
L’attacco
Da una macchina virtuale con Kali Linux attacchiamo un’altra macchina virtuale, un server Ubuntu. Sul server sono accesi l’IDS, l’IPS e gli agenti del SIEM.
Poi guardiamo il cruscotto del SIEM e ci facciamo tre domande. L’AI ha riconosciuto l’attacco e lo ha classificato bene? In quanto tempo? E l’IPS ha chiuso la connessione della macchina Kali prima che fosse troppo tardi?
Le regole
Attacchiamo solo macchine nostre. Il codice penale punisce chi entra senza diritto in un sistema informatico (articolo 615-ter) e chi intercetta comunicazioni informatiche (articolo 617-quater): nel laboratorio catturiamo e attacchiamo solo il nostro traffico.
I log sono dati personali: basta un indirizzo IP, ha deciso la Corte di giustizia dell’Unione europea nel 2016. Per questo lavoriamo su dataset pubblici e sul traffico del nostro laboratorio.
Fuori dal laboratorio, accorgersi degli attacchi è un obbligo. La direttiva europea NIS2 chiede alle aziende e agli enti che ricadono nelle sue regole di gestire gli incidenti e di dare un primo avviso entro 24 ore. In Italia la applica il decreto legislativo 138 del 2024.
A che punto siamo
- 2025 e 2026Con Cyber Naval abbiamo attaccato e difeso la rete di plancia di una nave, sul simulatore dell’Università di Genova.
- Ottobre 2026Parte il progetto nuovo. Formiamo la squadra e montiamo il primo laboratorio.
- OggiCerchiamo persone da ogni percorso e cominciamo dal primo passo: l’AI in ogni sistema.
Sostieni Cyber
300 € verso 3.200 €
Tappa 1 di 3: il laboratorio: un server, la rete e i sensori
La raccolta è divisa in tappe, e ogni tappa è una cosa precisa da comprare. Quando ne raggiungiamo una, pubblichiamo un video di quello che abbiamo comprato.
Si apre il 15 febbraio
Il riquadro arriva da Produzioni dal Basso e si carica solo se lo apri.
Persone del progetto
Fonti
- Anthropic, Disrupting the first reported AI-orchestrated cyber espionage campaign, novembre 2025.
- Google Threat Intelligence Group, GTIG AI Threat Tracker, novembre 2025, maggio 2026 e settembre 2026.
- ENISA Threat Landscape 2026, settembre 2026.
- ACN, Relazione annuale al Parlamento 2025.
- NIST SP 800-94, Guide to Intrusion Detection and Prevention Systems, 2007.
- Denning, An Intrusion-Detection Model, IEEE Transactions on Software Engineering, 1987.
- Axelsson, The base-rate fallacy and the difficulty of intrusion detection, ACM TISSEC, 2000.
- Alahmadi, Axon e Martinovic, 99% False Positives, USENIX Security 2022.
- Sommer e Paxson, Outside the Closed World, IEEE Symposium on Security and Privacy 2010.
- Arp e altri, Dos and Don’ts of Machine Learning in Computer Security, USENIX Security 2022.
- Engelen, Rimmer e Joosen, Troubleshooting an Intrusion Detection Dataset: the CICIDS2017 Case Study, IEEE SPW 2021.
- Houssel e altri, Towards Explainable Network Intrusion Detection using Large Language Models, IEEE/ACM BDCAT 2024.
- Kramer e altri, Integrating Large Language Models into Security Incident Response, SOUPS 2025.
- Karanjai e altri, Context Contamination in LLM Analysis of Network Security Logs, USENIX Security 2026.
- Direttiva (UE) 2022/2555 (NIS2); decreto legislativo 138/2024; Corte di giustizia UE, causa C-582/14, 2016; codice penale, articoli 615-ter e 617-quater.
- Documentazione ufficiale di Suricata, Zeek, Wazuh, Kali Linux e Ubuntu Server.
Vuoi lavorarci?
Non serve esperienza e non serve un curriculum. Scrivici: ti invitiamo al prossimo incontro, dove conosci la squadra.