Waffe, Schutzschild, Zielscheibe: KI und Cybersicherheit im industriellen Engineering

Künstliche Intelligenz verändert nicht nur, wie Industrieunternehmen konstruieren, produzieren und warten – sie verändert auch, wie sie angegriffen und wie sie verteidigt werden. Wer KI einführt, ohne die Sicherheitslage mitzudenken, schliesst eine Effizienzlücke und öffnet zugleich eine Risikolücke.

In der industriellen Wertschöpfung ist Künstliche Intelligenz längst angekommen – vom generativen Entwurf über die Prozessautomatisierung bis zur vorausschauenden Wartung. Mit jeder KI, die in Konstruktion, Betrieb oder Produkt einzieht, verschiebt sich jedoch auch die Sicherheitslage. Cybersicherheit und KI sind keine getrennten Disziplinen mehr; sie prägen sich gegenseitig. Der zentrale Gedanke dabei lautet: Fähigkeit ist symmetrisch. Dieselbe Fähigkeit, die einen Angreifer stärkt, stärkt auch den Verteidiger und umgekehrt.

Für ingenieurgetriebene Sektoren – wo ein Fehler nicht nur ein „Bug", sondern ein physikalisches, sicherheitsrelevantes Ereignis ist – entsteht daraus eine dreifache Herausforderung. KI wird zur Waffe in der Hand des Angreifers, zum Schutzschild in der Hand des Verteidigers und, sobald sie in Entwicklungsprozessen oder Produkten steckt, selbst zur Zielscheibe. Wer diese drei Achsen nicht sauber auseinanderhält, bereitet die falschen Massnahmen vor.

Anatomie einer neuen Bedrohungslage

Entgegen der landläufigen Vorstellung erfindet KI keine grundsätzlich neuen Angriffe. Sie industrialisiert bekannte. Der teuerste Rohstoff einer Attacke – qualifizierte menschliche Arbeit – wird durch günstige Rechenleistung ersetzt. Das Ergebnis ist keine neue Angriffsklasse, sondern eine deutliche Zunahme von Volumen, Qualität und Reichweite. In einem Engineering-Umfeld zeigt sich das vor allem in drei Formen:

• Täuschung, die kein Filter stoppt: Grammatikalisch perfekte Phishing- und BEC-Nachrichten (Business Email Compromise – die Kompromittierung geschäftlicher E-Mail-Kommunikation) in jeder Sprache, dazu geklonte Stimmen und Deepfake-Videos, die eine bekannte Führungskraft überzeugend imitieren.

• Angriffe im Maschinentempo: KI-Agenten, die Netzwerke autonom kartieren, Schwachstellen suchen und Exploit-Code entwerfen – schneller, als ein menschliches Team reagieren kann.

• Die KI selbst als Ziel: Sobald ein Modell in der Entwicklung oder im Produkt steckt, wird es angreifbar – über manipulierte Eingaben, vergiftete Trainingsdaten oder eine kompromittierte Lieferkette.

Die Barriere für anspruchsvolle Angriffe ist damit deutlich gesunken. Zur Ehrlichkeit gehört aber auch: Heutige Modelle „halluzinieren" – sie erfinden Fakten und überschätzen ihren eigenen Erfolg. Vollständig autonome, zuverlässige Angriffe bleiben vorerst die Ausnahme. Die richtige Konsequenz ist deshalb, nicht die heutige Momentaufnahme, sondern den Trend zu verteidigen: Man plane damit, dass die Fähigkeiten der Angreifer weiter steigen.

Strategische Risiken für die industrielle Integrität

1. Wenn Identität manipulierbar wird

Sehen und Hören sind keine verlässlichen Identitätsnachweise mehr. Der prominenteste Fall: Ein Mitarbeiter des Ingenieurkonzerns Arup überwies 2024 rund 25,6 Millionen US-Dollar, nachdem er an einer Videokonferenz teilgenommen hatte, in der jeder Teilnehmer ausser ihm selbst ein Deepfake war – einschliesslich des vermeintlichen Finanzchefs. Kein System wurde gehackt; kein Schadcode lief. Der Angriff hebelte eine rein menschliche Annahme aus. Die entscheidende Lehre: Verlassen Sie sich nicht auf Erkennung – automatische Deepfake-Detektoren verlieren im realen Einsatz massiv an Genauigkeit, in Echtzeit erst recht. Die wirksame Kontrolle sitzt nicht auf dem Medium, sondern um die Entscheidung herum: Rückruf über eine bekannte Nummer, Vier-Augen-Prinzip und feste Freigabeschwellen für Zahlungen.

2. Wenn die KI im Code oder im Produkt steckt

Hier verschiebt sich das Risiko von „Angriff auf uns" zu „Schwachstelle in dem, was wir bauen und ausliefern":

• Prompt Injection – in der massgeblichen Risikoliste OWASP Top 10 für LLM-Anwendungen als Risiko Nr. 1 geführt – schmuggelt Anweisungen in die Eingabe eines Modells, sodass es dem Angreifer statt seinem Betreiber folgt. Besonders heikel: Die Anweisung kann sich in Inhalten verstecken, die das Modell ohnehin liest (eine Webseite, ein PDF, eine E-Mail). Ein vollständiger Schutz existiert bis heute nicht; nur gestaffelte Massnahmen helfen.

• Datenvergiftung (Data Poisoning): Eine Untersuchung aus dem Jahr 2025 zeigte, dass bereits rund 250 präparierte Dokumente genügen, um einem Modell – weitgehend unabhängig von seiner Grösse – eine versteckte Hintertür einzupflanzen, die erst bei einem geheimen Auslöser zuschlägt.

• Unsicherer KI-Code und „Slopsquatting": Ein erheblicher Teil KI-generierten Codes enthält Schwachstellen; unabhängige Untersuchungen finden in etwa jeder fünften KI-Empfehlung einen nicht existierenden Paketnamen. Angreifer registrieren genau diese erfundenen Namen mit Schadcode – und der arglose Entwickler installiert sie. Die Regel dagegen ist einfach: KI-generierter Code ist eine nicht vertrauenswürdige externe Zulieferung – und muss auch so behandelt werden.

  
  

3. Die Haftungsfrage: Wer trägt das Risiko?

Der EU AI Act (Verordnung (EU) 2024/1689) verteilt Pflichten nach Rolle – eine Unterscheidung, die in der Praxis oft übersehen wird. Der Anbieter (Provider) entwickelt das System und trägt die schwersten Pflichten; der Betreiber (Deployer) setzt es unter eigener Verantwortung ein; der Nutzer interagiert lediglich mit den Ergebnissen (umgangssprachlich meint „Nutzer" oft genau diese Person – im Gesetz ist damit der Betreiber gemeint). Die Falle: Wer ein fremdes Modell feinjustiert, umbenennt und unter eigenem Namen ausliefert, wird rechtlich selbst zum Anbieter – mit allen Dokumentations- und Konformitätspflichten. Die Einstufung folgt den Fakten, nicht dem Vertrag. Hinzu kommt eine Pflicht, die unabhängig von der Risikostufe für alle gilt: KI-Kompetenz (Art. 4) – wer KI bedient, muss dafür geschult sein.

Vom Verbot zur Befähigung

Ein pauschales KI-Verbot ist wirkungslos; es erzeugt nur kreativere Umgehungswege – die „Schatten-KI" lässt grüssen. Die Führungsebene muss von einer reinen Abwehrhaltung zu einer strategischen Befähigung übergehen.

Denn die Symmetrie wirkt in beide Richtungen: Dieselben Fähigkeiten stärken auch die Verteidigung. KI entlastet überlastete Security-Teams bei der Alarm-Triage, korreliert schwache Signale zu erkennbaren Angriffsmustern und beschleunigt die Reaktion auf Vorfälle. Doch weil die Fähigkeit symmetrisch ist, entsteht daraus kein dauerhafter Vorsprung. Der Unterschied liegt in jener Schicht, die KI nicht selbst liefern kann: Prozess, Verifikation, Governance und qualifizierte Menschen.

Verteidigung in der Tiefe

Wirksamer Schutz ist mehrschichtig – keine einzelne Kontrolle genügt, weil Prompt Injection und Datenvergiftung keinen vollständigen Fix kennen:

• Verifizieren statt erkennen: Folgenreiche Anweisungen – Zahlungen, Zugänge, Konfigurationsänderungen – immer über einen zweiten, bekannten Kanal bestätigen.

• Mensch in der Entscheidungsschleife (Human-in-the-Loop): Bei sicherheitsrelevanten Berechnungen und Aktionen bleibt eine verantwortliche Person zuständig. Ein KI-Ergebnis ist eine Empfehlung, kein Urteil.

• Grundsätzliches Misstrauen gegenüber Ein- und Ausgaben: Nicht vertrauenswürdige Inhalte isolieren, Agenten nur minimale Rechte geben (Least Privilege) und KI-Ausgaben vor der Weiterverarbeitung prüfen.

  
  

Governance, die mit der Praxis Schritt hält

Richtlinien müssen mit dem Tempo der Nutzung mithalten. Vier Leitplanken sind für industrielle KI unverzichtbar:

• Rollenklarheit: Für jedes eingesetzte KI-System festhalten, ob Sie Anbieter oder Betreiber sind – davon hängt ab, welche Pflichten und Kontrollen Sie vorbereiten müssen.

• KI-Kompetenz (AI Literacy): Verbindliche Schulung der Teams zu genau diesen Fehlermodi – von Deepfake-Betrug bis Prompt Injection.

• Verifikations- und Red-Team-Protokolle: Jeder KI-generierte technische Output durchläuft dieselbe strenge Prüfung wie menschliche Arbeit; eigene Modelle und Pipelines werden aktiv angegriffen, bevor es andere tun.

• Lieferketten-Hygiene: Herkunft von Modellen und Datensätzen prüfen, ein KI-Stücklistenverzeichnis (AI-BOM) führen und Abhängigkeiten verifizieren, bevor sie installiert werden.

  
  

Machen Sie Cybersicherheit zum Fundament Ihrer KI-Strategie

Die Einführung von KI ist kein reines Effizienzprojekt – sie ist eine sicherheitsrelevante Entscheidung. Die gute Nachricht: Fähigkeit ist symmetrisch, und der entscheidende Vorteil liegt nicht im leistungsstärksten Modell, sondern in der Governance darum herum.

Bei cross-ING verbinden wir modernste KI-Funktionen mit den strengen Sicherheits- und Compliance-Standards des industriellen Sektors – von der Bedrohungsanalyse über sichere Architektur bis zur Schulung Ihrer Teams. Lassen Sie nicht zu, dass Ihre KI-Initiative zur offenen Flanke wird.

Möchten Sie erfahren, wie Sie ein sicheres, geprüftes KI-Framework für Ihre Engineering-Workflows aufbauen? Schreiben Sie uns: ai@cross-ing.ch

Möchten Sie tiefer in die Thematik eintauchen?

Buchen Sie jetzt ein Expertengespräch und erhalten Sie individuelle Beratung von unseren Spezialist:innen.

Expertengespräch buchen >

Mehr zu unserem Competence Center AI bei cross-ING?

Erfahren Sie, wie unser interdisziplinäres Team komplexe technische Herausforderungen löst.

Mehr über AI >