Projekt läuft · IT-Sicherheit
Cyber
Wir nutzen künstliche Intelligenz, um Cyberangriffe zu erkennen. Dann versuchen wir, sie zu täuschen.
- der Arbeit hat eine KI gemacht, in einer Spionagekampagne, die 2025 entdeckt wurde
- 80-90%
- die echten Alarme, wenn auf 1.000 Ereignisse ein Fehlalarm kommt
- 2 von 100
- der Fälle, in denen ein LLM in Logs versteckte Anweisungen ausführt, im Durchschnitt
- 83%
- Cyber-Ereignisse, die das CSIRT Italia 2025 bearbeitet hat
- 2729
Für alle, die kommen aus Informatik, Ingenieurwesen, Mathematik, Psychologie, Recht
Warum jetzt
Wer angreift, nutzt schon künstliche Intelligenz. Im November 2025 hat Anthropic eine Spionagekampagne gegen etwa dreißig Ziele beschrieben: Die KI hat 80 bis 90% der Arbeit gemacht, und Menschen haben nur an wenigen Stellen eingegriffen.
Dieselben Quellen nennen auch die Grenze. Bisher erfindet die KI keine neuen Angriffe: Sie führt bekannte Angriffe schneller und an mehr Stellen aus. Wer verteidigt, muss genauso schnell sein.
| November 2025 | Anthropic | eine Spionagekampagne, zu 80 bis 90% von der KI ausgeführt |
|---|---|---|
| November 2025 | die ersten Schadprogramme, die während der Ausführung ein LLM fragen, was sie tun sollen | |
| Mai 2026 | der erste Zero-Day, der laut Google mit KI entwickelt wurde | |
| September 2026 | eine Kampagne mit KI-Agenten, in weniger als sechs Stunden vorbereitet und durchgeführt | |
| September 2026 | ENISA | 2026 werden wahrscheinlich mehrere Phasen eines Angriffs mit KI ausgeführt |
IDS, IPS und SIEM
Ein IDS beobachtet den Verkehr in einem Netz und warnt, wenn es etwas Verdächtiges sieht. Ein IPS tut dasselbe und blockiert zusätzlich. Ein SIEM sammelt die Alarme und die Logs aller Geräte, bringt sie in eine Reihenfolge und verknüpft sie: An seinem Bildschirm arbeiten die Analysten.
Das NIST, die amerikanische Behörde für Standards, unterscheidet drei Wege, einen Angriff zu erkennen. Sein Leitfaden zu IDS stammt noch von 2007: Die Überarbeitung von 2012 wurde nie fertig.
- 01
Signaturen
Vergleicht den Verkehr mit bekannten Angriffen. Das ist genau, erkennt aber nichts, was es nicht kennt.
- 02
Anomalien
Lernt, wie das normale Netz aussieht, und meldet, was davon abweicht. Hier kommt Machine Learning ins Spiel.
- 03
Protokolle
Prüft, ob jeder Austausch die Regeln seines Protokolls einhält.
alert http any any -> $HOME_NET any (msg:"Richiesta a /admin"; http.uri; content:"/admin"; sid:1000001; rev:1;)
alert warnt; mit drop stoppt ein IPS auch das Paket
http das Protokoll, das beobachtet wird
any any von jeder Adresse und jedem Port
-> $HOME_NET any in unser Netz
msg der Text des Alarms
http.uri wo gesucht wird: die angefragte Adresse
content wonach gesucht wird
sid, rev die Nummer der Regel und ihre VersionDas Problem der Fehlalarme
Ein Detektor, der sich nur einmal in tausend Fällen irrt, wirkt sehr gut. Er ist es nicht. Im Jahr 2000 hat Stefan Axelsson nachgerechnet, für ein Netz mit einer Million Ereignissen pro Tag und zwei Angriffen zu je zehn Ereignissen. Auch wenn der Detektor beide Angriffe erkennt, kommen tausend Fehlalarme dazu: Von hundert Alarmen sind nur zwei echt.
Wer in Sicherheitszentren arbeitet, weiß das. In einer Studie von 2022 in sieben solchen Zentren sagt eine Person aus der Analyse: „Wir wissen, dass 99% unserer Alarme falsch sind, aber wir müssen sie uns trotzdem ansehen.“ Deshalb messen wir die Fehlalarme pro Tag, nicht die Genauigkeit.
Die Zahlen im Diagramm
| Ein Fehlalarm | Echte Alarme von 100 |
|---|---|
| 1 Fehlalarm pro 1.000 Ereignisse | 2 |
| 1 Fehlalarm pro 10.000 | 17 |
| 1 Fehlalarm pro 100.000 | 67 |
Was die Forschung sagt
Künstliche Intelligenz zur Erkennung von Angriffen wird seit fast vierzig Jahren erforscht: Die Idee, nach Anomalien zu suchen, stammt von Dorothy Denning, 1987. Außerhalb der Labore funktioniert sie aber schlechter, als die Artikel versprechen. Vier Ergebnisse, die wir als Arbeitsregeln benutzen:
- 01
Die geschlossene Welt
Machine Learning erkennt, was dem ähnelt, was es schon gesehen hat. Ein neuer Angriff ähnelt nichts. Sommer und Paxson, 2010.
- 02
Methodenfehler
Von 30 Artikeln der wichtigsten Konferenzen macht jeder mindestens drei von zehn Fehlern. In einem Fall schlägt eine einfache Zählung der Pakete ein neuronales Netz. Arp et al., 2022.
- 03
Falsche Daten
Im meistgenutzten Dataset, CIC-IDS2017, ist mehr als jeder vierte Datenfluss ein sinnloses Artefakt. Engelen et al., 2021.
- 04
Die LLMs
Ein Sprachmodell klassifiziert den Verkehr fast zufällig und lässt sich täuschen: Versteckte Anweisungen in den Logs funktionieren im Durchschnitt in 83% der Fälle. Houssel et al., 2024; Karanjai et al., 2026.
Das Labor
Das erste Labor ist ein kleines Testnetz, ganz unser eigenes, in einigen virtuellen Maschinen. Zwei Sensoren beobachten es: Suricata, das nach den Signaturen von Angriffen sucht, und Zeek, das jede Verbindung aufzeichnet. Wazuh, das SIEM, sammelt alles.
Ein Machine-Learning-Modell, das auf unserem eigenen Computer läuft, liest die Logs und sucht nach Anomalien: So verlassen die Daten nie das Labor. Die Angriffe führen wir selbst durch, von einer virtuellen Maschine mit Kali Linux aus. Die Software ist komplett Open Source.
| Werkzeug | Aufgabe | Lizenz |
|---|---|---|
| Suricata | IDS und IPS mit Signaturen | GPLv2 |
| Zeek | zeichnet jede Verbindung auf | BSD |
| Wazuh | das SIEM: sammelt, verknüpft, zeigt | GPLv2 und Apache 2.0 |
| Kali Linux | die Maschine, von der wir angreifen | kostenlos, Open Source |
| Ubuntu Server | die angegriffene Maschine | kostenlos, Open Source |
Drei Schritte
Die Arbeit läuft in drei Schritten ab, einer nach dem anderen. Am Ende soll das Labor einen Angriff von selbst bemerken und stoppen.
- 01
KI in jedem System
Wir exportieren die Logs von IDS, IPS und SIEM und geben sie einem Machine-Learning-Modell. Das Modell lernt, wie der normale Verkehr aussieht, und meldet die Anomalien.
- 02
Ein geschlossener Kreislauf
Wir lassen die drei Systeme zusammenarbeiten. Was das IDS sieht, geht an das SIEM, das es mit dem Rest verknüpft, und das IPS blockiert die Verbindung.
- 03
Der Angriff
Von einer virtuellen Maschine mit Kali Linux aus greifen wir eine andere virtuelle Maschine an, einen Ubuntu-Server. Auf dem Server laufen das IDS, das IPS und die Agenten des SIEM.
Dann schauen wir uns das Dashboard des SIEM an und stellen uns drei Fragen. Hat die KI den Angriff erkannt und richtig klassifiziert? Wie schnell? Und hat das IPS die Verbindung der Kali-Maschine getrennt, bevor es zu spät war?
Die Regeln
Wir greifen nur eigene Maschinen an. Das italienische Strafgesetzbuch bestraft, wer sich unbefugt Zugang zu einem Computersystem verschafft (Artikel 615-ter), und wer Computerkommunikation abfängt (Artikel 617-quater): Im Labor erfassen und attackieren wir nur unseren eigenen Verkehr.
Logs sind personenbezogene Daten: Eine IP-Adresse genügt, hat der Gerichtshof der Europäischen Union 2016 entschieden. Deshalb arbeiten wir mit öffentlichen Datasets und mit dem Verkehr unseres Labors.
Außerhalb des Labors ist es Pflicht, Angriffe zu bemerken. Die europäische Richtlinie NIS2 verlangt von Unternehmen und Einrichtungen, die unter ihre Regeln fallen, Vorfälle zu managen und innerhalb von 24 Stunden eine erste Meldung abzugeben. In Italien setzt das Gesetzesdekret 138 von 2024 sie um.
Wo wir stehen
- 2025 und 2026Mit Cyber Naval haben wir das Brückennetz eines Schiffes angegriffen und verteidigt, am Simulator der Universität Genua.
- Oktober 2026Das neue Projekt startet. Wir stellen das Team zusammen und bauen das erste Labor auf.
- HeuteWir suchen Menschen mit jedem Hintergrund und fangen mit dem ersten Schritt an: KI in jedem System.
Cyber unterstützen
300 € Richtung 3.200 €
Etappe 1 von 3: das Labor: ein Server, das Netz und die Sensoren
Die Spendenaktion ist in Etappen aufgeteilt, und jede Etappe ist eine konkrete Anschaffung. Wenn wir eine erreichen, veröffentlichen wir ein Video von dem, was wir gekauft haben.
Startet am 15. Februar
Der Kasten kommt von Produzioni dal Basso und lädt nur, wenn du ihn öffnest.
Menschen im Projekt
Quellen
- Anthropic, Disrupting the first reported AI-orchestrated cyber espionage campaign, November 2025.
- Google Threat Intelligence Group, GTIG AI Threat Tracker, November 2025, Mai 2026 und September 2026.
- ENISA Threat Landscape 2026, September 2026.
- ACN, Relazione annuale al Parlamento 2025.
- NIST SP 800-94, Guide to Intrusion Detection and Prevention Systems, 2007.
- Denning, An Intrusion-Detection Model, IEEE Transactions on Software Engineering, 1987.
- Axelsson, The base-rate fallacy and the difficulty of intrusion detection, ACM TISSEC, 2000.
- Alahmadi, Axon und Martinovic, 99% False Positives, USENIX Security 2022.
- Sommer und Paxson, Outside the Closed World, IEEE Symposium on Security and Privacy 2010.
- Arp et al., Dos and Don’ts of Machine Learning in Computer Security, USENIX Security 2022.
- Engelen, Rimmer und Joosen, Troubleshooting an Intrusion Detection Dataset: the CICIDS2017 Case Study, IEEE SPW 2021.
- Houssel et al., Towards Explainable Network Intrusion Detection using Large Language Models, IEEE/ACM BDCAT 2024.
- Kramer et al., Integrating Large Language Models into Security Incident Response, SOUPS 2025.
- Karanjai et al., Context Contamination in LLM Analysis of Network Security Logs, USENIX Security 2026.
- Richtlinie (EU) 2022/2555 (NIS2); italienisches Gesetzesdekret 138/2024; Gerichtshof der EU, Rechtssache C-582/14, 2016; italienisches Strafgesetzbuch, Artikel 615-ter und 617-quater.
- Offizielle Dokumentation von Suricata, Zeek, Wazuh, Kali Linux und Ubuntu Server.
Willst du mitarbeiten?
Du brauchst keine Erfahrung und keinen Lebenslauf. Schreib uns: wir laden dich zum nächsten Treffen ein, dort lernst du das Team kennen.