Künstliche Intelligenz in Maschinen

Noch vor wenigen Jahren war künstliche Intelligenz für viele Maschinenbauer ein Zukunftsthema. Heute findet man KI bereits in zahlreichen industriellen Anwendungen: Bildverarbeitung, Qualitätskontrolle, Robotik, Produktionsoptimierung, Zustandsüberwachung, Predictive Maintenance und autonome Transportsysteme.

Klassische Maschinen wurden so entwickelt, dass ihr Verhalten weitgehend vorhersehbar war. Bei KI-Systemen ist dies nicht immer der Fall. Genau deshalb berücksichtigt die neue Maschinenverordnung erstmals ausdrücklich Systeme mit künstlicher Intelligenz.

Klassische Software folgt klar definierten Regeln: Wenn Bedingung A erfüllt ist, dann führe Aktion B aus. Das Verhalten ist grundsätzlich nachvollziehbar.

Ein KI-System hingegen bewertet Situationen anhand tausender Merkmale. Die Entscheidung basiert nicht auf wenigen festen Regeln, sondern auf einem trainierten Modell. Dadurch wird die Nachvollziehbarkeit schwieriger – und genau das ist die regulatorische Herausforderung.

Die Herausforderung liegt nicht darin, dass KI grundsätzlich unsicher wäre. Sie liegt darin, dass sich Fehler anders zeigen können:

Fehlerhafte Trainingsdaten können zu falschen Entscheidungen führen. Eine unvollständige Datenbasis bedeutet, dass das System nicht alle realen Situationen kennt. Veränderte Umgebungsbedingungen (Beleuchtung, Verschmutzung) können Ergebnisse beeinflussen. Und das System kann Entscheidungen treffen, die vom Entwickler nicht vorhergesehen wurden.

Die Maschinenverordnung stellt besondere Anforderungen an Maschinen mit KI-Komponenten:

Transparenz: Es muss erkennbar sein, dass ein KI-System vorhanden ist und welche Entscheidungen es beeinflusst.

Nachvollziehbarkeit: Die Grundlage der Entscheidungen muss dokumentiert sein.

Validierung: KI-Systeme müssen systematisch getestet werden – auch für Randfälle.

Überwachung: Das Verhalten muss im Betrieb kontinuierlich überwacht werden können.

Menschliche Kontrolle: Bei sicherheitskritischen Funktionen muss ein Mensch eingreifen können.

Qualitätskontrolle: Eine Kamera erkennt Oberflächenfehler – aber was passiert bei neuen Werkstücken, die das System nicht kennt?

Robotik: Ein Cobot passt seine Bewegungen an die Umgebung an – wie wird sichergestellt, dass keine gefährlichen Situationen entstehen?

Predictive Maintenance: Ein System empfiehlt Wartungsintervalle – was passiert bei fehlerhaften Vorhersagen?

In all diesen Fällen muss der Hersteller nachweisen, dass die KI-Funktion die Sicherheit nicht beeinträchtigt.

Neben der Maschinenverordnung entsteht mit dem EU AI Act ein weiteres Regelwerk für KI-Systeme. Für Maschinenbauer bedeutet dies: Beide Regelwerke können gleichzeitig gelten. Die Maschinenverordnung betrachtet KI als Teil der Maschinensicherheit, der AI Act betrachtet KI als eigenständiges Regulierungsobjekt. Unternehmen sollten beide Perspektiven frühzeitig berücksichtigen.