Hardware-Angriffe manipulieren KI-Modelle im laufenden Betrieb
Sicherheitsforscher zeigen, wie Angreifer KI-Antworten direkt über Server-Hardware und Firmware verfälschen können, während Entwicklerwerkzeuge neue Schutzmaßnahmen einführen.
Eclypsium zeigt Manipulation von KI-Modellen über Server-Hardware
Am 29. Oktober 2026 veröffentlichte das Sicherheitsunternehmen Eclypsium neue Forschungsergebnisse zur Verwundbarkeit von KI-Infrastruktur. Angreifer können Chatbots sabotieren, indem sie Schwachstellen in Host-Betriebssystemen, Hardware-Treibern und Firmware ausnutzen. Dabei werden die mathematischen Gewichte des Modells direkt im Arbeitsspeicher verändert. Die gespeicherten Modelldateien auf der Festplatte bleiben bei dieser Methode unverändert. Dadurch schlagen übliche Sicherheitsprüfungen wie Prüfsummen fehl, obwohl das Modell bereits manipulierte Antworten ausgibt. In Versuchen brachten Forscher ein Modell dazu, lebensgefährliche Gesundheitstipps zu geben oder Risiken für internationale Konflikte drastisch zu verfälschen.
Einordnung: Sicherheitsprüfungen müssen über reine Datei-Hashes hinausgehen und auch die zugrundeliegende Server-Hardware überwachen. Ohne Schutz der Firmware bleibt selbst ein sorgfältig trainiertes Modell anfällig für gezielte Fehlinformationen.
Beispiel: Ein Angreifer verändert heimlich die Firmware eines Klinik-Servers, woraufhin ein Diagnose-Assistent akute Notfälle verharmlost.
- AI hardware can be hacked so chatbots provide dangerous answers, research shows | CNN Politics · 29. Oktober 2026Hintergrund
- Hackers could poison AI models by tampering with core infrastructure | Cybersecurity Dive · 29. Oktober 2026
Auch erwähnenswert
GitHub gibt Agentic Workflows allgemein frei
GitHub stellte am 28. Oktober 2026 seine Agentic Workflows allgemein bereit. Entwickler beschreiben Automatisierungen in einfachen Markdown-Dateien, die das System in reguläre GitHub-Actions-Dateien umwandelt. Die KI-Agenten laufen standardmäßig schreibgeschützt in isolierten Containern hinter einer speziellen Firewall, um unbeabsichtigte Code-Änderungen und Sicherheitsrisiken zu minimieren.
Einordnung: Entwicklungsteams können Routineaufgaben wie Fehlerprüfungen automatisieren, ohne Programmierer dauerhaft mit manuellen Code-Überprüfungen zu belasten.
Beispiel: Ein Team definiert in Markdown eine Prüfroutine, die automatisch neue Programmfehler scannt und Tests vorschlägt.
- GitHub Agentic Workflows generally available - GitHub Changelog · 28. Oktober 2026