Versteckte Hintertüren in KI-Speichern
Sicherheitsforscher warnen vor unbemerkten Manipulationen in modularen Sprachmodellen.
Sicherheitsforscher entdecken Hintertür in KI-Speichermodulen
Am 13. Oktober 2026 stellten Fachleute von Pillar Security und Fujitsu eine neue Angriffsmethode namens BadEngram vor. Der Angriff betrifft offene KI-Modelle, deren innere Gewichte frei aus dem Internet heruntergeladen werden können. Neuere Modelle nutzen oft getrennte Speicherbausteine, um gelernte Daten schneller abzurufen. Die Forscher zeigten, dass Angreifer nur diesen Speicherbereich manipulieren können. Das restliche Sprachmodell bleibt dabei völlig unverändert. Diese versteckte Hintertür bleibt im normalen Betrieb und bei üblichen Sicherheitstests unsichtbar. Sie wird erst aktiv, wenn ein bestimmtes kurzes Signalwort in einer Texteingabe auftaucht.
Einordnung: Herkömmliche Prüfungen testen meist nur das Hauptmodell und übersehen separate Speicherteile. Nach unserer Einschätzung müssen Entwickler künftig jede einzelne heruntergeladene Komponente genau auf Echtheit überprüfen.
Beispiel: Eine Firma lädt ein offenes Modell für ihren Kundendienst herunter. Ein Angreifer sendet ein geheimes Kennwort im Chat, wodurch das manipulierte System vertrauliche Rechnungsdaten preisgibt.