Die Nutzung künstlicher Intelligenz (KI) in der Arbeitswelt ist bereits in vielen Tätigkeitsfeldern Realität und nimmt stetig zu. Welchen Einfluss hat das auf sichere und gesunde Arbeitsbedingungen? Das Programm ARBEIT: SICHER + GESUND (ASUG) beleuchtete zentrale Fragestellungen zunächst in einer virtuellen Themenreihe.
Arbeitsschutz und KI

Neben der weit verbreiteten Anwendung von ChatGPT und anderen Large-Language-Modellen werden weitere digitale Technologien wie Machine Learning oder Big Data zunehmend auch im Arbeitsschutz genutzt. Dies eröffnet Chancen für Sicherheit, Gesundheit und Prävention, erfordert aber zugleich passende Rahmenbedingungen. Gerade für überbetriebliche Arbeitsschutzakteure in Regelsetzung und Vollzug sowie bei der Erarbeitung von Normen bietet der Einsatz von KI neue Möglichkeiten – und erzeugt gleichzeitig Handlungsbedarfe.
Die europäische KI-Verordnung und die europäische Maschinenverordnung nehmen diese technologischen Entwicklungen regulatorisch in den Blick. Trotzdem bleiben weiterhin Fragen offen:
- Wie sind die Verantwortlichkeiten zwischen Herstellern und Betreibern verteilt?
- Wie können betriebliche Daten zur Verbesserung von Produkten, Programmen und Prävention zum Einsatz kommen?
- Wie können die überbetrieblichen Arbeitsschutzakteure KI nutzen?
- Müssen Regelungen im Arbeitsschutz möglicherweise angepasst werden?
Online-Themenreihe „Arbeitsschutz und KI“
Die abgeschlossene Online-Themenreihe „Arbeitsschutz und KI“ griff diese Fragen auf. Im Zeitraum von November 2025 bis Februar 2026 wurden vier Fokusthemen zu Arbeitsschutz und KI vorgestellt und gemeinsam mit einem breiten Teilnehmendenkreis aus den Bereichen Arbeitsschutz, Wissenschaft, Betrieben und weiteren Feldern reflektiert.
In der ersten Veranstaltung diskutierten Vertretungen der Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA), der Berufsgenossenschaft der Bauwirtschaft (BG BAU), der Wissenschaft sowie Referierende aus Unternehmen über die Chancen und neuen Möglichkeiten, die KI für den Arbeitsschutz schafft.
Die folgenden Veranstaltungen nahmen in den Fokus, inwiefern der Arbeitsschutz auch als Innovationspartner agieren kann. Diese Frage diskutierten Sprecher*innen aus den Bereichen Normung, Wissenschaft, Wirtschaft und Unfallversicherung in einer interdisziplinären Runde.
Im dritten Termin setzten sich die Teilnehmenden mit aktuellen arbeitsrechtlichen Fragen und Unsicherheiten auseinander, die sich besonders vor dem Hintergrund der europäischen KI-Verordnung und Maschinenverordnung ergeben. Zuletzt stand ein sehr konkretes Thema im Mittelpunkt: Vertretungen aus Berufsgenossenschaften, Unternehmen wie der Siemens AG und der Telekom, dem Ausschuss für Sicherheit und Gesundheit bei der Arbeit (ASGA) und der BAuA zeigten anhand verschiedener Impulse, ob und wie KI künftig die Erstellung von Gefährdungsbeurteilungen vereinfachen könnte und worauf dabei zu achten ist.
Im Folgenden finden Sie eine detailliert aufbereitete Zusammenfassung der einzelnen Veranstaltungen, die die wichtigsten Inhalte der Impulsvorträge und Diskussionen sowie wichtige Erkenntnisse festhält.
1. Chancen und Potenziale von KI
Die erste Veranstaltung der Themenreihe befasste sich mit aktuellen übergeordnete Entwicklungen an der Schnittstelle von Künstlicher Intelligenz und Arbeitsschutz. Im Fokus standen dabei die Chancen und Potenziale von KI, insbesondere für überbetriebliche Akteure im Arbeitsschutz.
Künstliche Intelligenz für eine sichere und gesunde Arbeitswelt
Den Auftakt bildete Dr. Lars Adolph, wissenschaftlicher Leiter Produkte und Arbeitssysteme sowie Koordinator der KI-Forschung bei der BAuA. In seinem Vortrag „Künstliche Intelligenz für eine sichere und gesunde Arbeitswelt“ beleuchtete er zunächst die wachsende Bedeutung von KI für die Arbeitswelt. Seiner Einordnung nach wird KI in den kommenden Jahren erhebliche Auswirkungen auf Unternehmen haben – sowohl positive als auch negative. Bereits heute nutzen rund 30 Prozent der Unternehmen KI intensiv.

Anschließend ging Dr. Adolph auf die zentralen Herausforderungen beim Einsatz von KI ein und bezog diese konkret auf den Bereich Arbeitsschutz. Er betonte, dass in Betrieben vieles durch KI in Bewegung gerät, jedoch nicht immer in geordneten Bahnen. Ein Problem dabei sei fehlende Robustheit: KI-Systeme können Fehler machen, die im Betrieb zu Schwierigkeiten führen. Auch die zugrunde liegenden Daten bergen Risiken, etwa durch Verzerrungen oder Diskriminierung. Darüber hinaus sprach Dr. Adolph von Phänomenen wie „Slop“ und „Brainrot“: Mit „Slop“ bezeichnete er die Problematik, dass qualitativ schlechte KI-generierte Inhalte wiederum zur Trainingsgrundlage für KI-Systeme werden, wodurch die Gesamtqualität des Outputs sinkt. „Brainrot“ beschreibt hingegen das Risiko, mit zunehmender KI-Nutzung eigene Denk- und Verarbeitungsprozesse zu vernachlässigen. Informationen werden dann nur oberflächlich verarbeitet, was langfristig zu einem Verlust von Kompetenzen führen kann.
Ergänzend stellte er Fragen nach der Vertrauenswürdigkeit, Erklärbarkeit und Transparenz von KI-Systemen sowie nach unklaren Produktionsprozessen. Zudem fehle bei KI-Anwendungen häufig der soziale Prozess, der die Zusammenarbeit mit Kolleg*innen auszeichnet.
Anschließend ordnete Dr. Adolph KI sowohl als Gegenstand als auch als Instrument des Arbeitsschutzes ein. Er machte deutlich, dass KI Tätigkeiten und Arbeitsprozesse tiefgreifend verändern kann. Sicherheitstechnische Risiken von KI-Systemen müssen stets durch den Menschen bewertet und kontrolliert werden. Daher sei ein Aufbau von KI-Kompetenzen notwendig, etwa durch Schulungen. Im Bereich der Maschinensicherheit kommt nach Dr. Adolph der Robustheit eine besondere Bedeutung zu: Komplexe KI-basierte Systeme müssen hinsichtlich ihrer Sicherheit und Zuverlässigkeit bewertbar bleiben, insbesondere wenn sie sicherheitsrelevante Funktionen übernehmen.
Zugleich zeigte Dr. Adolph auf, wie KI den Arbeitsschutz konkret unterstützen kann. Beispielsweise kann KI als Assistenz bei der Gefährdungsbeurteilung dienen. Dabei muss klar sein, dass die Gefährdungsbeurteilung ein menschengesteuerter Prozess bleibt und KI lediglich unterstützend wirkt. Darüber hinaus kann KI bei der Analyse von Umgebungsfaktoren helfen oder digitale Lösungen zur Bereitstellung und Anwendung von Regelwerken in der betrieblichen Praxis ermöglichen, etwa durch maschinenlesbare Regeln.
Um die Chancen zu nutzen, müssen nach Dr. Adolph verschiedene Bedigungen erfüllt werden: KI-Arbeitssysteme müssen im Sinne der KI-Verordnung unter Aspekten der Produktsicherheit zuzüglich des Lebenszyklus wie auch unter Aspekten des Arbeitsschutzes betrachtet werden. Unternehmen müssen sich intensiv mit KI-Verordnungen auseinandersetzen und begleitende soziale Prozesse definieren.
Die vollständige Präsentation von Dr. Lars Adolph finden Sie in Kürze hier.
KI in der Unfallprävention
Ellen Hellmann, Referentin für Digitalisierung und Leitung Digitales Transformationsprogramm bei der BG BAU, stellte anschließend Best-Practice-Beispiele und Projekte vor, in denen die BG BAU schon KI-gestützte Systeme und Werkzeuge erprobt.
Ein KI-basiertes Werkzeug zur Unterstützung von Aufsichtspersonen analysiert Unfalldaten und identifiziert so Unfallschwerpunkte. Das Leuchtturmprojekt wurde mit 3,5 Millionen Euro vom BMAS gefördert und zielt auf die Verbesserung der Präventionsarbeit mithilfe von KI ab. Denn: Die BG BAU hat 500 Aufsichtspersonen, die betriebliche Beratungen und Besichtigungen durchführen können, aber rund 600.000 Mitgliedsunternehmen, die unter ihre Aufsicht fallen. So können nur etwa zehn Prozent der Unternehmen jedes Jahr durch eine Besichtigung geprüft werden. Sie müssen deshalb besonders sorgfältig ausgewählt werden. Seit 2023 unterstützt das KI-Tool diesen Auswahlprozess. Die Erprobung zeigte signifikante Vorteile:
- Die Erfolgsquote bei der Auswahl beratungsintensiver Unternehmen verbesserte sich von 35 auf 75 Prozent.
- Die Unfallzahlen konnten um acht Prozent gesenkt werden: 2022 wurden insgesamt 99.380 Unfälle gezählt, 2024 nur noch 91.813.
- Die dadurch eingesparten Kosten für Entschädigungs- und Rehabilitationszahlungen liegen geschätzt bei 250 Millionen Euro, bezogen auf zehn Jahre.
- Vier Menschenleben konnten durch die Reduktion von Abstürzen, herabfallenden Teilen und sowie Maschinen- und Fahrzeugunfälle gerettet werden.
Darüber hinaus zeigte Ellen Hellmann am Beispiel der KI-Besichtigungsassistenz „BesA“, wie KI Dokumentations- und Berichtsaufgaben im Arbeitsschutz erleichtern kann. Aufsichtspersonen sprechen bei Besichtigungen festgestellte Mängel direkt ein und dokumentieren sie fotografisch. Die KI unterstützt bei der Dokumentation der Mängel und reduziert so den zeitintensiven Aufwand von Nachbereitungen.
Durch BesA haben wir eine voraussichtliche Effizienzsteigerung von 50 Prozent bei der Besichtigungsdokumentation, wodurch ein jährlicher Ressourcengewinn von 13.100 Stunden für die Präventionsarbeit entsteht. Das sind 13.100 Stunden mehr Zeit, die wir für wichtige Präventions- und Beratungsgespräche haben.
Ein weiteres Praxisbeispiel ist der noch entstehende „360°-Blick“ für Außendiensteinsätze. Mithilfe von KI sollen hier bisherige Kontakte, relevante Informationen sowie vorhandene Daten zu Unternehmen oder Baustellen gebündelt und übersichtlich bereitgestellt werden. Aufsichtspersonen sollen so bereits vor Ort einen schnellen Überblick über den aktuellen Stand erhalten.
Auch für Mitgliedsunternehmen und Beschäftigte entstehen konkrete Mehrwerte: Im zukünftigen Serviceportal der BG BAU kommen mehrsprachige Informationen sowie KI-gestützte Empfehlungen für passende Services zum Einsatz. Zudem werden Schulungen zu Gefahrensituationen in VR- und XR-Umgebungen angeboten, die als unterstützendes Instrument für Unterweisungen dienen können.
In ihrer Einordnung der aktuellen Lösungsansätze erläuterte Ellen Hellmann, dass der Einsatz von KI derzeit vor allem in der internen Nutzung verankert sei. Ziel sei es, vorhandene Daten besser auszuwerten und relevante Informationen aufzubereiten, um bei Aufsichtspersonen Kapazitäten freizusetzen.
Für die weitere Entwicklung nannte sie zentrale Gelingensbedingungen. Dazu gehört insbesondere, Nutzende und Kolleg*innen frühzeitig in die Entwicklung einzubeziehen. Agile Vorgehensweisen mit kurzen Testphasen und kontinuierlichem Feedback ermöglichen eine schnelle Weiterentwicklung der Anwendungen und steigern zugleich die Motivation der Beteiligten. Orientierung bieten dabei die KI-Leitlinien des BMAS.
Hier finden Sie in Kürze hier die vollständige Präsentation von Ellen Hellmann.
Kameratechnik und Sensorik für mehr betriebliche Sicherheit
Sebastian Prill, Head of Business Strategy & Innovation bei Telekom MMS, zeigte, wie KI die betriebliche Sicherheit stärken kann und welche Voraussetzungen dafür notwendig sind. Im Fokus stand der strategische Einsatz von KI zur effizienteren Nutzung von Infrastrukturen, Kostensenkung und Erhöhung der Sicherheit. Viele Unternehmen setzen zunächst auf provisorische Lösungen, bis diese nicht mehr tragfähig sind. Umso wichtiger seien ein strategischer Ansatz und die Befähigung der Mitarbeitenden.
Workshops sind nach Sebastian Prill ein passendes Instrument, um sich KI-Potenzialen zu nähern und vielversprechende Ideen sowie Use Cases zu identifizieren. Entscheidend sei dabei die Bewertung der Wirtschaftlichkeit. Prill erläuterte, dass rund 80 Prozent der KI‑Projekte scheitern, weil sie keinen klar erkennbaren Mehrwert liefern. Erfolgreiche Use Cases entstehen in der Schnittmenge aus Wirtschaftlichkeit, Erwünschtheit und Machbarkeit. Wirtschaftlichkeit bedeutet dabei, dass ein Use Case einen mess- und skalierbaren geschäftlichen Nutzen liefert. Erwünschtheit beschreibt nutzerorientierte Lösungen, die tatsächliche und relevante Bedürfnisse adressieren. Machbarkeit bedeutet, dass sich eine Lösung technisch und rechtlich innerhalb des verfügbaren Budgets und mit den vorhandenen Ressourcen umsetzen lässt.

Am Beispiel von KI-gestützter Überwachung mittels Kameratechnik und Sensorik veranschaulichte Prill, wie KI Muster, Regelmäßigkeiten und Abweichungen erkennen kann, etwa bei der Überwachung von Baustellen oder Laufwegen. Algorithmen lassen sich gezielt auf erwünschte und unerwünschte Zustände trainieren. KI kann beispielsweise prüfen, in welcher Höhe sich Beschäftigte aufhalten oder ob Lauf‑ und Fahrwege autonomer Fahrzeuge sicher sind. Zudem kann KI Werkzeuge und Maschinen bei Störungen automatisch stoppen und Personen ohne Schutzkleidung oder unbemannte kritische Zonen identifizieren und melden.
Auf diese Weise können Schäden vermieden, Ausfallzeiten reduziert, Schäden vermieden und die Compliance sichergestellt werden, da KI eine schnellere Reaktion ermöglicht. Darüber hinaus trägt sie zur Senkung von Ausfall- und Verletzungskosten sowie zur Sicherung von Menschen und Anlagen bei. So kann KI beispielsweise überwachen, ob persönliche Schutzausrüstung (PSA) getragen wird. Laut Prill ist dies häufig kostengünstig auf bestehender Kamera- und Rechner-Infrastruktur umsetzbar.
Der Algorithmus kann mithilfe von Sensoren auch Gefahren aus der Umgebung erkennen, etwa durch Temperaturmessungen (Feueralarm), Kameras (Brände/Explosionen) oder akustische Signale (ungewöhnliche Geräusche). Neben dem Schutz von Personen kann KI auch zur Absicherung von Produktionsanlagen und Maschinen beitragen, indem sie Logistikbereiche, Anlieferzonen oder Bewegungsbereiche von Maschinen überwacht. Dadurch lassen sich Risiken wie Schlag‑ oder Stoßunfälle frühzeitig erkennen und verhindern.
Prill präsentierte zudem zwei konkrete Anwendungsfälle:
-
Videokameras erfassen Kunststoffbahnen, während KI‑Komponenten die Daten automatisch auswerten und die Qualität prüfen. Diese KI-Anwendung verbessert Effizienz und Genauigkeit bei der Qualitätskontrolle und damit auch die Produktqualität. Zudem konnte sich das Unternehmen im Markt als Innovationsvorreiter positionieren.
-
Ziel der Anwendung ist es, Wartungsbedarfe frühzeitig zu erkennen und zu reduzieren, ungeplante Unterbrechungen zu vermeiden und die Verfügbarkeit der Anlagen zu erhöhen. Grundlage dafür ist ein permanentes Zustandsmonitoring mithilfe akustischer Sensoren sowie die Verarbeitung der Daten durch Machine-Learning-Algorithmen. Der IST-Zustand wird auf einem Dashboard dargestellt.
Hier finden Sie in Kürze die vollständige Präsentation von Sebastian Prill.
Im Anschluss an die Impulsvorträge diskutierten die Referent*innen in einer gemeinsamen Runde, ergänzt durch die Perspektive von Michael Aleksa, Senior Research Engineer, Transportation Infrastructure Technologies, am Austrian Institute of Technology (AIT). Er arbeitet an KI-gestützten Projekten zur Verkehrssicherheit, die sich auch auf den Kontext der Arbeitssicherheit übertragen lassen. Anhand der kameragestützten und datenschutzkonformen Beobachtung von Verkehrs-Mischflächen auf dem Werksgelände eines Pharmaunternehmens zeigte Aleksa, wie KI potenziell gefährliche Situationen sichtbar macht. Betrachtet werden dabei Bereiche, in denen Lieferverkehr, Fahrräder, E-Scooter und Fußgänger*innen aufeinandertreffen. Auf dieser Basis lassen sich gezielte Maßnahmen zur Entflechtung der Verkehrsströme entwickeln, sowohl durch bauliche Anpassungen als auch durch verhaltensbezogene Regelungen.
Eine weitere Perspektive brachte Prof. Dr. Uta Wilkens, Sprecherin des Kompetenzzentrums humAIne an der Ruhr-Universität Bochum, in die Diskussion ein. Sie betonte, dass die Humanzentrierung im KI-Einsatz eine komplexe und vielschichtige Herausforderung darstellt. Sie umfasst nicht nur die Berücksichtigung der Beschäftigtenperspektive, etwa in Bezug auf Gesundheitsschutz und Arbeitsgestaltung, sondern erfordert auch die Betrachtung der Sicht von Kund*innen, Klient*innen oder Patient*innen. Hinzu kommen Fragen der Datenethik und Qualitätssicherung.
2. Arbeitsschutz als Innovationspartnern
Der zweite Termin der Online-Themenreihe zu Arbeitsschutz und KI behandelte das Thema „Arbeitsschutz als Innovationspartner“. Verschiedene Perspektiven zeigten auf, inwiefern der Arbeitsschutz Einfluss auf die Entwicklung von KI nehmen kann.
Potentiale KI-basierter Objekterkennung für Arbeitsschutz und Wirtschaft
Den Auftakt der Veranstaltung bildete Karsten Roscher, Abteilungsleiter Industrial Sensing Systems am Fraunhofer IKS. Das Fraunhofer IKS betreibt anwendungsorientiere Forschung für zuverlässige Softwaretechnologie – mit einem besonderen Fokus auf kognitive Systeme, KI und moderne Softwarearchitekturen für sicherheitskritische Anwendungen.
Zu Beginn seines Vortrags „Potentiale KI-basierter Objekterkennung für Arbeitsschutz und Wirtschaft“ ging Roscher zunächst auf KI-basierte Personenerkennung im Arbeitsschutz ein. Dabei machte er deutlich, dass die bislang eingesetzte Sensorik an klare Grenzen stößt: Sichtbehinderungen, komplexe Arbeitszonen, Fehlalarme, hohe Kosten sowie Risiken in Mensch-Maschine-Interaktionen. Der Status Quo im Arbeitsschutz sind nach wie vor konservative Schutzvorrichtungen wie Sicherheitskäfige und Lichtschranken. Diese gehen allerdings mit einem hohen Kosten- und Engineering-Aufwand und sind wenig flexibel. Dementsprechend sind sie ihrer Leistungsfähigkeit begrenzt und anfällig für Manipulationen.
Als Alternative stellte Roscher sogenannte „Cobots“ vor. Sie gelten als sicherere Kooperation von Mensch und Roboter. Allerdings wies Roscher auch hier auf Grenzen hin – darunter begrenzte Performanz, aufwändige Reassessments, geringe Flexibilität sowie Sicherheitslücken. Für diese Herausforderung bietet KI einen Lösungsansatz: Ein 3D-Erfassungsystem überwacht Personen und Objekte in Gefahrenbereichen. Statische Sicherheitseinrichtungen entfallen somit und ein kamera-basiertes Monitoring kommt zum Einsatz. Dieses System ermöglicht ist laut Roscher flexibler, sicherer und schneller. Trotzdem würden solche Systeme noch nicht flächendeckend genutzt. Roscher führte dies vor allem auf unterschiedliche Perspektiven auf Sicherheit zurück. Aus Entwicklerperspektive gilt ein KI-Modell mit einer Genauigkeit von 98 Prozent als nahezu sicher. Aus funktionaler Sicht braucht es hingegen eine Genauigkeit von 99,99 Prozent mit einem plausiblen Konfidenzband.
Roscher betonte außerdem, dass der Bereich der KI-Systeme stark reguliert ist. Diese Regulierung könne jedoch auch als Innovationsmotor wirken: Wenn Erfahrungen aus der Absicherung KI-basierter Funktionen systematisch in die Entwicklung einfließen, könne daraus ein globaler Wettbewerbsvorteil für sichere KI-Systeme entstehen.
Arbeitssicherheit kann auch ein Zugpferd sein. Wichtig ist dabei, dass es Räume für Kollaboration geben muss. Einzelne Firmen können die Probleme nicht lösen.
In diesem Zusammenhang stellte Roscher den Use Case „PROTECT“ vor, den das Fraunhofer IKS gemeinsam mit dem Schwesterinstitut IGCV betrachtet hat, um gezielt Erfahrungen im Umgang mit KI-basierten Sicherheitssystemen zu sammeln. Ziel des Projekts war es, die Performanz von Robotersystemen bei der KI‑gestützten Personenerkennung zu optimieren, ohne die Arbeitssicherheit zu gefährden. Diverse Herausforderungen andressierte das Projektteam mit entsprechenden Gegenmaßnahmen, die in einer strukturieren Nachweisführung dokumentiert wurden.
Roscher stellte abschließend folgende Punkte als Mehrwert des KI-Einsatzes für Beschäftigte, Betreiber und Hersteller vor:
- Sicherheitsverbesserungen durch Unfallreduktion und Vertrauen in Maschinen
- Performanz-Steigerung durch bessere Maschinenauslastung und Wettbewerbsfähigkeit
- Wettbewerbsdifferenzierung durch Echtzeitverlässlichkeit, Standard-Compliance und zusätzliche Service-Modelle
- Roadmap zu autonomen Aufgaben, zum Beispiel Parallelbetrieb durch automatisierte Fahrten
Assistenzsysteme sind die autonomen Systeme von Morgen und müssen heute schon ganzheitlich mitgedacht werden!
Hier finden Sie in Kürze hier die vollständige Präsentation von Karsten Roscher.
Arbeitsschutzwissen bereits in Entwicklungsprozessen verankern
Christian Witt, Functional and Cybersecurity Manager bei LUIS Technology, befasste sich im Folgenden mit dem Thema: „Wie können funktional sichere KI-Systeme Realität werden? Einbringen von Arbeitsschutzwissen in Entwicklungsprozesse“. Dafür erläuterte er zunächst, wann der Einsatz von KI in sicherheitsrelevanten Anwendungen sinnvoll ist. Dies sei vor allem dann der Fall, wenn klassische Systeme zu ungenau arbeiten oder nicht zuverlässig zwischen Menschen und Objekten unterschieden können. Auch Kosteneffizienz oder eine Verringerung des Unfallrisikos sprechen laut Witt für den Einsatz von KI. Dabei betonte er auch:
KI-Systeme können kein Ersatz, sondern nur eine Ergänzung bestehender Systeme sein.
Witt erläuterte die KI‑Wirkungskette entlang der verschiedenen Entwicklungs- und Einsatzphasen: In der Entwicklungsphase werden erwartete Ergebnisse gemeinsam mit Trainingsdaten in einen KI‑Modelltrainer gegeben, aus dem ein Algorithmus entsteht. Im Betrieb verarbeitet dieser Algorithmus Sensordaten und liefert zunächst keine eindeutigen Ergebnisse, sondern Wahrscheinlichkeiten – etwa eine 98-prozentige Wahrscheinlichkeit dafür, dass eine Person erkannt wurde. Erst durch die Festlegung von Grenzwerten lassen sich aus diesen Wahrscheinlichkeiten belastbare Entscheidungen ableiten. Wichtig ist dabei, dass das Training bereits in der Entwicklung stattfindet: Die meisten KI‑Systeme lernen im Betrieb nicht weiter, und der Algorithmus bleibt unverändert.

Anschließend erklärte Witt, wie die klassische Safety auf die KI schaut. Bei Mustererkennungssystemen wie Personenerkennung, Objekterkennung und Systemzuständen können demnach systematische Fehler und pseudo-zufällige Fehler auftreten, also Fehler, die zufällig erscheinen, aber berechenbar sind.
Mögliche systematische Fehler in der KI-Entwicklung
- Daten-Bias
- Inkonsistente Annotation
- Inkonsistente Metrikdefinitionen
- Unterschiede zwischen Entwicklungs- und Produktivsystemen
- Overfitting / schwache Generalisierung
In der Automobilbranche existiert bereits eine Norm für systematische Entwicklungsprozesse. Witt plädierte dafür, diesen Ansatz auf die Industrie zu übertragen. Auch für das Auftreten pseudo-zufälliger Fehler gibt es bereits Ansätze aus der Automobilbranche: Witt verwies auf die Norm ISO 21448 (Safety of the Intended Functionality, SOTIF), die eine systematische Prüfung der Zielfunktion vorsieht. Der Ansatz folgte dabei einem zweistufigen Vorgehen: Zum einen werden die Grenzen der Mustererkennung analysiert, etwa durch die Definition der Betriebsumgebung (ODD), die Identifikation und Validierung von Ausfall‑ beziehungsweise Triggerbedingungen, die Erzeugung von Randszenarien sowie das Testen der vorgesehenen Funktion. Darauf folgt eine Validierungsstrategie, bei der der Hersteller eigene Akzeptanzkriterien festlegt, reale Validierungsdaten erhebt und zusätzliche Trainings‑ und Validierungsdaten generiert. Dieses Vorgehen mündet schließlich in einer Herstellererklärung.
Fraglich sei nach Witt, wie sich dieser Ansatz auf den Kontext der Arbeitssicherheit übertragen lässt. Gut übertragbar seien Aspekte wie die Definition der Betriebsumgebung sowie die Identifikation und Validierung von Ausfallbedingungen, die Erzeugung von Rand-Szenarien und die Generierung von Trainings- und Validierungsdaten. Schwierigkeiten gebe es bezüglich der fehlenden Safety-Übertragbarkeit und Vergleichbarkeit zwischen Herstellern, der unzureichenden Möglichkeit der Datenakquise, der schwierigen Kommunikation der Systemgrenzen sowie der nicht vorgesehenen Produkt-Validierung durch Drittstellen.
Witt skizzierte auch, wie man diesen Herausforderungen begegnen könnte und benannte Ansatzpunkte für Hersteller, Unfallversicherer, Betreiber und Gesetzgeber. Hersteller sollten demnach bereitgestellte Unfallberichte konsequent in die Trainingsdaten einbeziehen und eng mit den Betreibern zusammenarbeiten, insbesondere bei der Definition der Betriebsumgebung. Unfallversicherer seien gefordert, kurzfristig die Akzeptanz automotiver Normen zu fördern, Unfallberichte bereitzustellen und Akzeptanzkriterien für Herstellerdaten zu entwickeln. Langfristig sollten sie zudem herstellerunabhängige Validierungsdaten aufbauen. Betreiber wiederum sollten Beinaheunfälle systematisch dokumentieren und ihre Mitarbeitenden schulen, etwa im Hinblick auf Systemgrenzen. Der Gesetzgeber müsse schließlich Anreize schaffen, um die Umsetzung dieser Maßnahmen voranzutreiben.
Hier finden Sie in Kürze die vollständige Präsentation von Christian Witt.
Bewertung der Arbeitssicherheit KI-gestützter Systeme
Den dritten und letzten Impulsvortrag hielt Franz Welsch, stellvertretender Leiter Zertifizierungsstelle für den Bereich Bauwesen bei der BG BAU. Er behandelte das Thema „Notwendigkeit tragfähiger Konventionen zu akzeptablen Restrisiken am Beispiel KI-gestützter Systeme zur Objektdetektion“.
Als zertifizierte Prüfstelle bewertet die BG BAU Arbeitsmaschinen auf ihre Arbeitssicherheit hin und arbeitet dabei in einem Kreislauf aus Prüfung, Normung und dem Lernen aus Unfällen. Grundlage der Bewertung sind Maschinenrichtlinien, etwa die MRL 2006/42/EG, die unter anderem Anforderungen an den Fahrerplatz von Maschinen formuliert. Spezifische, gültige Normen für KI‑basierte Assistenzsysteme existieren bislang jedoch nicht. Zwar befinden sich erste Regelwerke wie ISO/TR 5469 oder die TS 22440 in Arbeit, doch zielen diese bisher vor allem auf Entwicklungsprozesse ab.
Normen für KI-basierte Assistenzsysteme sind dringend notwendig, da zahlreiche Hersteller und Nachrüster bereits KI‑gestützte Assistenzsysteme entwickeln, ohne hierfür verbindliche Vorgaben zu haben.
Derzeit gelten die Prüfgrundsätze GS‑BAU‑70 für Assistenzsysteme allgemein und GS‑BAU‑71 für Personendetektionssysteme. Die Anwendung ist freiwillig und betrifft Assistenzsysteme, die keine Sicherheitseinrichtung sind. KI‑Anforderungen enthalten sie bislang nicht.
KI‑gestützte Assistenzsystemen der Klasse C warnen aktiv und greifen bei Bedarf in das Fahrgeschehen ein. Der Fahrer kann diese Eingriffe jederzeit überstimmen. Die Systeme sind nicht selbstlernend und müssen auch nicht zwingend Bestandteil der Maschine sein. Für die Prüfung dieser Systeme ist eine KI‑Prüfdatenbank erforderlich, die aus vielfältigen, gelabelten Bildern besteht, die den Herstellern nicht bekannt sind. Diese Daten decken unterschiedliche Wetter‑ und Lichtverhältnisse, Baustellensituationen, Kleidung, Körperbauten, Ethnien sowie Grenzfälle ab. Die Absicherung der KI erfolgt dabei auf drei Ebenen:
- Prüfdaten sichern die Funktionalität ab,
- Strategien definieren den Umgang mit fehlerhaften KI‑Ergebnissen und
- eine gesamtsystemische Absicherung gewährleistet den sicheren Einsatz, etwa indem zusätzliche Sensorik die Einsatzgrenzen der KI überwacht.
Zentrale offene Fragen betreffen nach Welsch die Festlegung der vorgesehenen Verwendung und der vorhersehbaren Fehlanwendungen, die Vielfalt der Einsatzumgebungen sowie die Personengruppen, die bei Prüfungen zu berücksichtigen sind. Ebenso ungeklärt sei, wie Prüfkörper eindeutig definiert werden können, ohne sie gezielt anzutrainieren. Schließlich fehle bislang eine klare Bestimmung zulässiger Fehlertoleranzen, da sich diese bei KI‑Systemen derzeit nicht eindeutig festlegen lassen. Aus diesem Grund würden sich Unfälle auch künftig nicht vollständig vermeiden lassen.
Aus der bisherigen Prüfpraxis berichtete Welsch, dass viele neue Marktakteure ohne ausreichende Erfahrung mit europäischen Richtlinien und Verordnungen auftreten würden. Diese fehlende Erfahrung führe dazu, dass Prüfstellen Konformitätserklärungen, Bedienungsanleitungen und Prüfunterlagen nacharbeiten müssen. Gleichzeitig fehlen derzeit die notwendigen Strukturen und rechtlichen Grundlagen für den Aufbau zentraler Prüfdatenbanken. Die BG BAU arbeitet daher eng mit Betrieben zusammen, um gemeinsam tragfähige Lösungen zu entwickeln.
Nicht absolute Sicherheit, sondern akzeptable Restrisiken stehen nach Welsch im Mittelpunkt. Um KI‑gestützte Systeme praxistauglich auf den Markt zu bringen, müssten Akteure unterhalb formaler Normungsprozesse zunächst gemeinsame Grundsätze etablieren, offen diskutieren und iterativ weiterentwickeln. Dazu gehöre auch die Bereitschaft, Fehlentwicklungen anzuerkennen und aus ihnen zu lernen.
Hier finden Sie in Kürze die vollständigen Präsentationsfolien von Franz Welsch.
Im Anschluss an die Impulsvorträge eröffnete die Moderation eine Panel-Diskussion der Referent*innen. Drei weitere Diskussionsteilnehmende brachten ihre Perspektiven ein: Lydia Hauer, Leitung der Arbeitssicherheit bei der PORR Group, Michael Thierbach von der Kommission Arbeitsschutz und Normung (KAN) und Torben Hoetter, stellvertretender Leiter des Referats Marktüberwachung im Umweltministerium Baden-Württemberg.
Lydia Hauer vertrat die Perspektiven der Betreiber und stellte klar, dass diese eine zentrale Verantwortung bei der Entwicklung sicherer KI‑Systeme tragen. Betreiber könnten diesen Prozess aktiv unterstützen, etwa durch die Bereitstellung relevanter Daten, müssten dabei jedoch Herausforderungen wie Datenschutz und Persönlichkeitsrechte berücksichtigen. Zudem stellte sie die Safety App der PORR AG vor, die Safety Walks vollständig und standardisiert dokumentiert.
Torben Hötter beleuchtete die Diskussion aus der Sicht der der Marktüberwachung. Er erläuterte, dass die KI-Verordnung gezielt bei den Herstellern ansetze, um Interessenskonflikten vorzubeugen. Gleichzeitig wies er auf ein zentrales Problem hin: Bislang existiert keine Behörde, die explizit für die KI-Verordnung zuständig ist.
Michael Thierbach brachte die Perspektive der Kommission Arbeitsschutz und Normung (KAN) ein, einer ehrenamtlichen Einrichtung, in der Akteure mit Arbeitsschutzauftrag vertreten sind: Sozialpartner, staatliche Stellen, die gesetzliche Unfallversicherung und DIN. Im Kontext von KI engagiert sich die KAN in der Normung und beobachtet beziehungsweise beteiligt sich an der europäischen Rechtssetzung, sofern diese Auswirkungen auf die arbeitsschutzrelevante Normung hat – wie im Fall der KI-Verordnung. Er warb für eine Mitarbeit in der KI-Normung, insbesondere um Anwendungserfahrung einzubringen.
3. KI und Arbeitsschutzrecht
Der dritte Termin der Veranstaltungsreihe widmete sich den rechtlichen Implikationen der KI-Nutzung und führte wichtige juristische, praktische und wissenschaftliche Perspektiven zusammen.
Regulierung von KI und Haftung
Zu Beginn stellte Dr. Arun Kapoor, Rechtsanwalt bei der Noerr Partnerschaftsgesellschaft mbB, die Arbeit der Taskforce „AI Regulierung und Haftung“ vor. Nach ihm seien die zentralen Fragenstellungen für Unternehmen, ob und wie sie vom AI Act betroffen sind, wie sie KI‑Systeme rechtlich einordnen müssen und welche Haftungsrisiken bestehen – insbesondere beim Einsatz von Systemen externer Anbieter.
Dabei unterstützt die Plattform Industrie 4.0: Das Netzwerk aus Industrie, Wissenschaft, Verbänden und Sozialpartnern begleitet vor allem kleine und mittlere Unternehmen (KMU) beim Umgang mit regulatorischen Anforderungen, entwickelt praxisnahe Konzepte und bereitet sie auf kommende Verpflichtungen vor. In sechs Arbeitsgruppen bearbeitet die Plattform diese Fragestellungen. Die vierte Arbeitsgruppe identifiziert Problemschwerpunkte bei der Anwendung der KI-Regulierung, einschließlich Fragen der KI-Haftung. In diesem Rahmen definierte die Taskforce mehrere „Cluster“ von Schmerzpunkten, darunter die Risikoklassifizierung von Systemen, den Anwendungsbereich, Abgrenzungen und Wechselwirkungen sowie Haftung, Produktsicherheit und Kennzeichnung.
Dr. Kapoor betonte, dass eines der größten Probleme der KI-Regulierung darin besteht, dass der Gesetzgeber nur Hochrisikosysteme detailliert reguliert, während die Praxis eine Vielzahl von Systemen mit unterschiedlichen Risikostufen nutzt.

Daraus resultieren laut Kapoor unklare Haftungsrisiken und weitere Rechtsunsicherheiten. Er empfiehlt Unternehmen deshalb, die Gesetzgebung zunächst nach bestem Wissen anzuwenden und die Entwicklung der Vollzugspraxis im Blick zu behalten.
Ich würde erwarten, dass es noch zwei bis vier Jahre dauert, bis man eine entsprechende Vollzugspraxis sehen kann. Dann ist es natürlich wichtig, sich im Detail mit den Anforderungen auseinanderzusetzen und zu schauen, was Rechtsprechung und behördliche Vollzugspraxis bis dahin herausgearbeitet haben werden.
Die Präsentationsfolien von Dr. Arun Kapoor können Sie in Kürze hier einsehen.
Maschinenlesbarkeit von Vorschriften und Regelwerken
Dr. Stefan Voß, Gruppenleiter Gruppe 2.6 „Arbeitsstätten, Maschinen- und Betriebssicherheit“ bei der BAuA, ging der Frage nach, ob Vorschriften und Regelwerke zukünftig maschinenausführbar sein werden. Dies führte er am Beispiel einer bauteilorientierten und maschinenausführbaren Aufbereitung des Arbeitsstättenrechts aus. In der Bauplanungsphase konnte durch die Nutzung eines digitalen Modells in Verbindung mit Building Information Modelling (BIM), das entsprechende zu beachtende Regelwerk kontextbezogen eingebunden werden. Ein gemeinsames Forschungsprojekt der BAuA, der Ruhr‑Universität Bochum sowie der Unternehmen Drahtler Architekten und Kapellmann Rechtsanwälte demonstrierte dieses Potenzial bereits praktisch. Die Projektbeteiligten modellierten erfolgreich die Aspekte von Fluchtwegen sowie Leitsystemen und Beschilderungen. Auf dieser Grundlage konnte das System kontextbezogen anzeigen, ob alle rechtlichen Anforderungen erfüllt sind. Die Maschinenlesbarkeit rechtlicher Vorgaben kam damit bereits konkret zum Einsatz.
Des Weiteren führte Voß fünf Level beziehungsweise Stufen zur Digitalisierung aus dem Bereich der Normung auf, die zur weiteren Betrachtung von Digitalisierungspotenzialen sehr hilfreich sind:
-
Digitale Darstellung
-
- Strukturiertes Dokumentformat
- Software-Verarbeitung mit viel manuellem Aufwand
-
- Inhalt vollständig (semantisch) erschlossen
- Semantische Suche und selektiver Zugriff auf Inhaltsebene
- Zweckgebundene Informationsbereitstellung über mehrere Dokumente hinweg
-
- Informationsmodelle, die den Inhalt und die Beziehungen zwischen Informationen beschreiben und erklären
- Selbstlernende Analyse sowie automatische Validierung und Optimierung
- Mehrwertdienste möglich wie Konformitätsprüfung, Question Answering, Predictive Content Supply
- Unterbrechungsfreie digitale Wertschöpfungskette möglich
-
- Die Inhalte einer Norm können durch Maschinen selbstständig angepasst und durch automatisierte Entscheidungsprozesse verabschietet werden.
- Den Digitalen Normen liegt ein System einer Allgemeinen Künstlichen Intelligenz mit kognitiven Fährigkeiten zugrunde.
- Digitale Normen passen sich ständig an den aktuellen Wissensstand der technischen und regulativen Rahmenbedigungen an.
DIN e. V. (Hrsg.) Das erweiterte Utilitymodell. Quelle: D. A. Czarny et al., Szenarien zur Digitalisierung der Normung und Normen. IDiS Whitepaper 1. Frankfurt am Main: DKE – Deutsche Kommission Elektrotechnik Elektronik Informationstechnik in DIN und VDE, 2021
Ein weiteres aktuelles Forschungsprojekt mit dem Titel „Digital Smart Regulations“ setzt genau an dieser Stelle an und zielt darauf ab, Prozesse der Regelsetzung und -anwendung systematisch zu verbessern. Das Projekt verortet seine Ziele auf der dritten und vierten Stufe der Digitalisierung und verfolgt mehrere Schwerpunkte:
- Weiterentwicklung der Digitalisierung von staatlichen Arbeitsschutzvorschriften und -regeln für verschiedene Anwendungskontexte,
- Betrachtung der Möglichkeiten und Herausforderungen für die Digitalisierung des Vorschriften- und Regelwerks,
- Strukturierung der Anwendungsbereiche, Untersuchung hinsichtlich Bedarfs und Umsetzungsmöglichkeiten von Smart Standards,
- Beiträge zur Verbesserung der Kohärenz, Anwenderfreundlichkeit und Effizienz bei der Regelerstellung und Regelfortschreibung,
- Zusammenwirken mit und Lernen von anderen Rechtsgebieten sowie
- weitere exemplarische Umsetzungen.
Dr. Voß zeigte anhand der Beispiele, welche Chancen digitale Regelsysteme bieten. Klare Prozessführungen, konsistente Strukturen und eine bessere Zugänglichkeit können Betriebe spürbar entlasten. Gleichzeitig warnte er davor, Vorschriften und Regelwerk ausufern zu lassen: Ein systemischer Ansatz könnte helfen, klare und stabile Rahmenbedingungen zu schaffen. Digitale Instrumente können diesen Prozess unterstützen, dürfen jedoch weder Verantwortung ersetzen noch eigenständig rechtliche Wertungen vornehmen.
Entscheidend bleibt der menschliche Entscheidungsspielraum, ergänzt durch digitale Werkzeuge, die Orientierung bieten und komplexe Inhalte, wie zum Beispiel den europäischen AI Act oder das Arbeitsstättenrecht, transparenter machen.
Hier finden Sie in Kürze die Präsentationsfolien von Dr. Stefan Voß.
Empfehlung des Ausschusses für Betriebssicherheit zu Arbeitsmitteln mit KI
Prof. André Steimers von der Hochschule Koblenz befasste sich mit der geplanten Empfehlung des Ausschusses für Betriebssicherheit (EmpfBS) zum Einsatz von KI‑basierten Arbeitsmitteln. Steimers erklärte, dass eine EmpfBS zwar keine Vermutungswirkung besitze, Unternehmen jedoch mittel‑ und langfristig eine wichtige Orientierung biete. Die Empfehlung soll Betreiber dabei unterstützen, KI‑Systeme sicher, rechtskonform und verantwortungsvoll einzusetzen. Anwender von KI‑gestützten Arbeitsmitteln können sich mithilfe der EmpfBS zunächst einen strukturierten Überblick verschaffen, ohne unmittelbar einzelne Normen und technische Spezifikationen prüfen zu müssen. Denn eine EmpfBS beschreibt den Stand der Technik sowie weitere gesicherte arbeitswissenschaftliche Erkenntnisse zur sicheren Verwendung von Arbeitsmitteln.
Inhalte der Empfehlung sind:
-
Abgrenzung der Anwendungsfelder der EmpfBS sowie klare Benennung der Bereiche, die nicht vom Anwendungsbereich erfasst sind.
-
Definition zentraler Begriffe und Konzepte als gemeinsame Verständigungsgrundlage.
-
Einordnung des aktuellen Standes der Technik sowie Überblick über bestehende Anforderungen an KI‑Systeme.
-
Darstellung der Pflichten von Arbeitgebern beim Einsatz KI‑basierter Arbeitsmittel, mit enger Anlehnung an die Vorgaben der KI‑Verordnung.
-
Beschreibung zentraler Aspekte und Vorgehensweisen zur Integration KI‑basierter Arbeitsmittel in die Gefährdungsbeurteilung.
Steimers stellte insbesondere den Praxisleitfaden im Anwendungsbereich und die Vertrauenswürdigkeitsanalyse heraus. Diese legt fest, wie Unternehmen KI‑Arbeitsmittel prüfen müssen – von der Rechtskonformität über ethische Grundsätze wie Diskriminierungsfreiheit bis hin zu Zuverlässigkeit und Robustheit. Die Empfehlung gibt Hinweise zur systematischen Bewertung dieser Anforderungen und betont, dass KI‑basierte Arbeitsmittel mindestens ebenso sicher sein müssen wie klassische Technologien.
Die vollständigen Präsentationsfolien von Prof. Steimers finden Sie in Kürze hier.
Projekt „KIRR Real“ für rechtskonforme KI und Robotik
Lena Lörcher, Forschungsteamleiterin „Zuverlässige KI“ am Fraunhofer-Institut für Produktionstechnik und Automatisierung (Fraunhofer IPA) stellte das Projekt „KIRR Real“ vor, ein Reallabor für rechtskonforme KI und Robotik. Das Projekt unterstützte Unternehmen konkret beim Einsatz von KI im Rahmen des EU AI Acts und der EU‑Maschinenverordnung und erhielt eine Förderung durch das Ministerium für Wirtschaft, Arbeit und Tourismus Baden-Württemberg. Hintergrund des Projektes war der erwartete breite Aufbau von KI-Reallaboren ab 2026. Gleichzeitig bestand jedoch große Unsicherheit über deren praktische Ausgestaltung und Betrieb. KIRR Real leistete einen wichtigen Beitrag zur Schließung dieser Lücke, indem es Unternehmen praxisnah begleitete und zugleich regulatorisches Lernen für Gesetzgebung und Aufsicht ermöglichte. Anhand von 15 ausgewählten Use Cases mit besonderer regulatorischer und technischer Relevanz konnte das Projekt bereits wichtige Erkenntnisse gewinnen. Die Use Cases wurden von Unternehmen eingereicht und das Projekt ordnete sie zunächst rechtlich ein. Anschließend wurden sie sowohl in Workshops besprochen und technisch geprüft. Das Projekt veröffentliche die gewonnenen Ergebnisse anschließend über KIRR Real.

Zu den zentralen Erkenntnissen des Projekts zählen die erheblichen Unsicherheiten, die Unternehmen bei der Umsetzung des AI Acts erleben. Diese betreffen insbesondere die Einordnung von KI-Systemen in Risikoklassen, die technische Umsetzung regulatorischer Anforderungen sowie den Umfang der erforderlichen Dokumentation bei mehreren gleichzeitig geltenden Verordnungen. Auch sind viele Unternehmen bislang unzureichend auf den AI Act vorbereitet. Daraus leitet das Projekt einen klaren Bedarf an niedrigschwelligen Unterstützungsangeboten ab.
Das Projekt setzt seine Arbeit künftig als Teil des „KI-Fortschrittszentrums Lernende Systeme und Kognitive Robotik“ fort und richtet den Fokus stärker auf die Ausgestaltung und Erprobung eines Reallabors im Sinne des AI Acts, insbesondere in Bezug auf die Themenfelder Generative und Agentische KI sowie Humanoide Robotik.
In Kürze finden Sie hier die Präsentationsfolien von Lena Lörcher.
Im Anschluss an die Impulsvorträge eröffnete die Moderation die Diskussion der Impulsgebenden. Den Auftakt machte Prof. Dr.-Ing. habil. Anke Kahl vom Lehrstuhl für Arbeitssicherheit an der Bergischen Universität Wuppertal (BUW) und Vorsitzende des ASGA. Für den ASGA sowie die anderen Fachausschüsse, so Prof. Kahl, stehen vor allem die gezielte Aufbereitung und zukünftige Bereitstellung eines maschinenlesbaren Regelwerks sowie eine barrierefreie Gestaltung im Fokus.
Dr. Kapoor betonte, dass aus einer juristischen Perspektive besonders der Beitrag über die Reallabore spannend sei, insbesondere hinsichtlich der rechtlichen Verbindlichkeit der Ergebnisse. Prof. Voß ging darauf ein, dass in allen besprochenen Bereichen zu erkennen sei, dass die Komplexitätsgrade steigen, woraus eine Überlagerung von Schutzzielen entstehe. Er stimmte Dr. Kapoor zu, dass es auf behördlicher Seite aktuell noch an Mechanismen mangeln würde, wie damit umzugehen sei, diese aber in Bearbeitung seien. Prof. Steimers betonte vor allem auf die Anwendbarkeit der Regelwerke und dass Projekte wie das gemeinsame Forschungsprojekt der BAuA, der Ruhr‑Universität Bochum sowie der Unternehmen Drahtler Architekten und Kapellmann Rechtsanwälte sehr wichtig seien, um diese zu gewährleisten. Lena Lörcher betonte, dass Regelwerke gerade für KMU, die meist keine eigene oder eine eher kleine juristische Abteilung haben, oft schwierig umzusetzen seien. Deshalb seien schlanke und strukturierte Prozesse wichtig, um ihnen den Umgang mit Regeln zu erleichtern. Prof. Kahl bestätigte, dass der Wille dazu in den Ausschüssen durchaus da sei, es aber oft schwer sei, die verschiedenen Interessengruppen in den Regelwerken zu vereinigen. Deshalb seien „Regeln zum Regeln schreiben“ wichtig, um die Regelwerke schlank zu halten.
4. KI und Gefährdungsbeurteilung
In der abschließenden Veranstaltung der Themenreihe stand die Frage im Mittelpunkt, wie KI die arbeitsschutzrechtliche Gefährdungsbeurteilung als zentrales Instrument eines zielgerichteten Arbeitsschutzes künftig unterstützen kann.
„SiemensGPT“: Effizienter Entwurf für eine Gefährungsbeurteilung
Den Auftakt machte Lars Hoffmann, Head of Occupational Safety bei der Siemens AG. Er stellte den hauseigenen Chatbot „SiemensGPT“ vor und demonstrierte unter anderem, wie dieser anhand einer Bildanalyse eine fundierte Ausgangsbasis für eine Gefährdungsbeurteilung liefern kann. Einen ersten Entwurf für eine Gefährdungsbeurteilung könne der Chatbot innerhalb von zwei Minuten erstellen. Anhand dieses Beispiels verdeutlichte Hoffmann die Chancen des KI-Einsatz im Arbeitsschutz. Dazu zählte er insbesondere Effizienz- und Zeitgewinne, erhöhte Konsistenz und Standardisierung, die Möglichkeit dynamischer Aktualisierungen sowie die Unterstützung bei der Berücksichtigung rechtlicher Anforderungen.
Dynamische Aktualisierung
Mit „dynamischer Aktualisierung“ ist gemeint, dass KI Änderungen unmittelbar erfassen und berücksichtigen kann. Neue Maschinen, Stoffe, Arbeitsverfahren oder geänderte Rechtsnormen lassen sich so zeitnah bewerten und in die Gefährdungsbeurteilung integrieren. Verknüpft mit dem Änderungsmanagement kann die KI relevante Änderungen in Echtzeit erkennen und verarbeiten. Ein anschauliches Beispiel ist die Echtzeitberücksichtigung von Wetterbedingungen, etwa beim Betrieb von Windturbinen. Auf diese stützt KI in der Gefährdungsbeurteilung den Übergang von der statischen Dokumentation hin zu einem kontinuierlichen Verbesserungsprozess.
Hoffmann benannte zugleich Risiken der KI-Nutzung, zum Beispiel fehlende Orts- und Kontextkenntnis sowie die Gefahr einer Scheinsicherheit. Zudem machte er auf zentrale Herausforderungen aufmerksam, etwa die starke Abhängigkeit von der Datenqualität und die begrenzte Fähigkeit von KI-Systemen, komplexe Risiken umfassend zu bewerten. Sein Fazit: KI ist als leistungsfähiges Unterstützungswerkzeug zu verstehen, ersetzt jedoch keinesfalls die erforderliche Fachkunde. Ebenso kanns sie weder unternehmerische Verantwortung noch Haftung übernehmen – diese verbleiben stets beim Arbeitgeber beziehungweise bei der jeweiligen Führungskraft.
Die vollständige Präsentation von Lars Hoffmann finden Sie in Kürze hier.
Chatbot der Berufsgenossenschaft Nahrungsmittel und Gastgewerbe
Henning Krüger, Abteilungsleiter Präventionsmanagement bei der Berufsgenossenschaft Nahrungsmittel und Gastgewerbe (BGN), zeigte im Anschluss auf, wie KI als Kommunikationsbrücke zwischen Unfallversicherungsträger und Versicherten dienen kann. Im Mittelpunkt seines Vortrags stand der hauseigene BGN‑Chatbot, der zwar nicht ausschließlich für die Erstellung von Gefährdungsbeurteilungen entwickelt wurde, diese jedoch wirkungsvoll unterstützen kann. Krüger benannte mehrere Vorteile des Chatbots, darunter Mehrsprachigkeit, die Möglichkeit zur gezielten Nachfrage, transparente Quellenangaben sowie die DSGVO‑Konformität. Zugleich räumte er ein, dass der Chatbot keine Einzelfallberatung vornehmen kann. Darüber hinaus erläuterte er, wie der Chatbot unterschiedliche Dokumententypen verarbeitet: Während einfache Textdokumente sehr gut ausgewertet werden, stoßen nicht maschinenlesbare Dokumente wie zum Beispiel Bilddateien erwartungsgemäß an Grenzen. Zudem stellte Krüger Tools vor, die die BGN zur Verbesserung des Chatbots angewandt hatte, darunter „Docling“ zur Erschließung und Aufbereitung von Dokumenten, „System‑Prompt‑Tuning“ zur Steuerung präziser Antworten sowie das Einbinden impliziten Wissens durch das Einspeisen interner Dokumente.
Krüger präsentierte mehrere Anwendungsbeispiele, die die Vielseitigkeit des BGN-Chatbots verdeutlichten. Er unterstützt unter anderem beim Auffinden der zuständigen Ansprechperson, bei der Bearbeitung fremdsprachiger Anfragen sowie bei Frage zu konkreten Präventionsmaßnahmen.

Die vollständige Präsentation von Henning Krüger finden Sie in Kürze hier.
BAuA-Projekte für die KI-gestützte Gefährdungsbeurteilung
Einen weiteren Impuls zum Einsatz von KI in der Gefährdungsbeurteilung gaben Martin Westhoven und Arn Dietz von der BAuA. Sie erläuterten, wie KI die Verarbeitung von Text- und Umgebungsdaten unterstützen kann. In ihrem Vortrag beschrieben sie die Rolle der BAuA in einer zunehmend digitalisierten Arbeitswelt, in der KI-Systeme Texte, Umgebungsdaten und komplexe Situationen für Gefährdungsbeurteilungen analysieren. Vor diesem Hintergrund treibt die BAuA mehrere Projekte zur KI-gestützten Gefährdungsbeurteilungen voran, darunter Vorhaben zur Abschätzung der Aufnahme von Gefahrstoffen über die Haut, zur Analyse von partikelförmigen Gefahrstoffen (zum Beispiel Asbeststaub) sowie zur Analyse von Umweltparametern (zum Beispiel Lärmpegel oder CO2 Konzentration) mithilfe smarter Umgebungssensorik.
Grundlagen zum Thema KI (Empfehlung der Referenten)
David Kriesel, 2007: Ein kleiner Überblick über Neuronale Netze. https://www.dkriesel.com/science/neural_networks
Stephen Wolfram, 2023: What is ChatGPT doing … and why does it work?https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/
Westhoven und Dietz sprachen über die Nutzung großer Sprachmodelle (englisch: Large Language Models, kurz: LLM) zur Unterstützung der Gefährdungsbeurteilung. Für die BAuA sei dieses Thema besonders wichtig, da erhebliche Defizite bei Durchführungen von Gefährdungsbeurteilungen bestehen: Rund 32 Prozent der Arbeitsstätten führen gar keine Gefährdungsbeurteilung durch. Gleichzeitig nutzen Fachkräfte für Arbeitssicherheit zunehmend und meist informell LLMs zur Gefährdungsbeurteilung. Diese ungeregelte Nutzung sogenannter Schatten-IT (siehe auch KI und Arbeitsschutzrecht, Vortrag von Dr. Arun Kapoor) berge allerdings auch Risiken, etwa durch Halluzinationen, unklare Spezifikationen und unzureichende Abbildungen des jeweiligen Kontexts.
Vor diesem Hintergrund sowie angesichts des komplexen Akteursfelds rund um die Gefährdungsbeurteilung entwickelt die BAuA einen KI-Prototypen zur gezielten Unterstützung dieses Prozesses. In einem ersten Schritt führten die Projektbeteiligten eine Anforderungsanalyse auf Basis einer Expert*innenbefragung durch und entwickelten Szenarien im Rahmen eines Workshops. Darauf aufbauend entstand ein Prototypen-System, das dazu diente, Prompt-Designs und den Einsatz von Hintergrunddokumenten zu erproben. Damit generierten die Forschenden testweise Gefährdungsbeurteilungen, unter anderem auf Basis von Bildern, Arbeitsplatz- oder Tätigkeitsbeschreibungen. So ließ sich prüfen, inwieweit das KI-System die definierten Anforderungen erfüllt oder an Grenzen stößt. Die Evaluation der Ergebnisse wurde gemeinsam mit Expert*innen durchgeführt. Die Referierenden erklärten, dass die Evaluation idealerweise anhand eines automatisierten Abgleichs mit Referenzdaten erfolgen sollte. Eine zentrale Herausforderung sei allerdings der hohe Aufwand, der für die Erstellung dieser Referenzdaten erforderlich ist.
Westhoven und Dietz betonten, dass die Plausibilitätsprüfung bei der Nutzung von KI in Gefährdungsbeurteilungen ein zentraler Schritt bleibt. Jeder KI-generierte Output müsse daher stets durch einen Menschen geprüft werden, denn hier liegt die Verantwortung. Insbesondere bei der Auswertung großer Textmengen könne KI jedoch wertvolle Unterstützung bieten.
Die vollständigen Präsentationsfolien finden Sie in Kürze hier.
Technische Regeln für KI-Systeme optimieren
Prof. Dr.-Ing. habil. Anke Kahl, Professorin an der BUW und Vorsitzende des ASGA, erläuterte in ihrem abschließenden Vortrag, welche Herausforderungen bei den aktuell vorliegenden technischen Regeln bestehen und was sich daraus für die Gestaltung zukünftiger Regeln ableiten lässt, damit KI-Systemen diese zuverlässig verarbeiten können.
Im Rahmen eines Proof of Concepts integrierte das Projektteam der BUW ausgewählte staatliche Arbeitsschutz-Regelwerke in eine Chatbot-Testumgebung. Ziel war es, die Leistungsfähigkeit großer Sprachmodelle anhand realistischer Anwendungsfälle zu prüfen. Die Analyse umfasste vier Inhaltsarten: Text, Tabellen, Mathematische Formeln und Abbildungen. Reine Textinhalte verarbeiteten die Sprachemodelle weitgehend korrekt. Einschränkungen traten jedoch auf, wenn zahlreiche Quellenverweise enthalten waren, externe Dokumente fehlten oder Versionierungen unklar blieben. Dr. Kahl betonte daher die Notwendigkeit, dem Chatbot referenzierte Quellen vollständig zur Verfügung zu stellen. Auch empfahl sie, Inhalte ganz gezielt und gegebenenfalls zusätzlich in Leichter Sprache aufzubereiten. Tabellarische Inhalte stellten die KI teilweise vor besondere Herausforderungen, da sich ihre Bedeutung erst aus der Struktur von Zeilen und Spalten erschließt. Dr. Kahl empfahl daher einfach strukturierte Tabellen sowie eine zeilenbasierte Aufbereitung der Inhalte. Auch mathematische Formeln erfordern eine spezielle Behandlung: Um eine zuverlässige Speicherung, Suche und Darstellung in KI‑Antworten zu ermöglichen, müssen sie in standardisierte Formate wie zum Beispiel LaTeX Umgebungen überführt werden. Zudem sollte der erläuternde Kontext möglichst nah an der jeweiligen Formel platziert sein, um eine korrekte inhaltliche Verarbeitung sicherzustellen.

Abbildungen stellen laut Dr. Kahl die größte Herausforderung bei der KI-gestützten Verarbeitung staatlicher Regelwerke dar. Damit KI-Systeme Abbildungen zuverlässig nutzen können, müssen diese über aussagekräftige Metadaten verfügen, da andernfalls wesentliche visuelle Informationen verloren gehen. Informationen sollten daher möglichst direkt in Textform hinterlegt sein. „Text-als-Bild“ gilt es, zu vermeiden. Auch schematische Abbildungen sollten von Beginn an mit klaren textlichen Beschreibungen versehen werden.
Der Proof of Concept zeigte laut Dr. Kahl, dass klare, einheitliche Strukturen und vollständige Datengrundlagen entscheidend für die maschinelle Verarbeitbarkeit von Regelwerken sind. Ziel müsse es daher sein, staatliche Regeln künftig so zu formulieren, dass KI‑Systeme besser auf sie zugreifen können und dialogorientierte Formate mit Bots neue Möglichkeiten für Arbeitsschutz und Beteiligung eröffnen. Zugleich lege der Einsatz von KI einen grundlegenden Befund offen: Im staatlichen Regelwerk selbst, sowie zwischen Regelwerk und Einzelverordnungen zum ArbSchG, mangele es bislang deutlich an Kohärenz.
Hier finden Sie die Präsentationsfolien zu Frau Prof. Kahls Vortrag.
Zum Abschluss der Veranstaltung gingen die Impulsgebenden miteinander in eine moderierte Diskussion. Den Auftakt machte Christof Groß, Head of Wellbeing, Health and Safety bei der Deutschen Telekom AG. Er machte darauf aufmerksam, dass viele Institutionen sehr ähnliche Erfahrungen bei der Einführung von KI machen, diese jedoch bisher kaum miteinander teilen. Groß plädierte deshalb für einen „Geist des Teilens“ und Wissenstransfers im Arbeitsschutz und rief damit zu verstärkter Zusammenarbeit auf. Mit diesem Appell stieß er in der Runde auf große Zustimmung.
Ausblick: Kooperation, Transparenz und gemeinsames Lernen
Die Online-Themenreihe „Arbeitsschutz und KI“ zeigte mit ihren vielfältigen Beiträgen, dass Künstliche Intelligenz auch im Arbeitsschutz eine zunehmend größere Rolle spielt. KI bietet erhebliche Potenziale für Prävention, Effizienz und Qualität im Arbeitsschutz. Anwendungsbeispiele reichen von der Analyse von Unfall‑ und Sensordaten über KI‑gestützte Assistenzsysteme bis hin zur Unterstützung bei Gefährdungsbeurteilungen.
Allerdings zeigten sich auch, vielfältige Unsicherheiten, die mit dem Einsatz von KI einhergehen. KI‑Systeme weisen mitunter eine unzureichende Robustheit auf, verarbeiten fehlerhafte oder unvollständige Daten und bleiben in ihrer Funktionsweise oft unzureichend transparent und erklärbar. Hinzu kommt die Gefahr einer Scheinsicherheit. Die Referent*innen betonten, dass KI-basierte Fehlentscheidungen niemals vollständig ausgeschlossen werden können. Daher bleiben eine kritische Bewertung und die Plausibilitätsprüfung durch einen Menschen sowie dessen Fachkunde unverzichtbar. Eine weitere wichtige Erkenntnis der Themenreihen ist, dass Arbeitsschutzwissen die Entwicklung sicherer und zuverlässiger KI‑Systeme aktiv mitgestalten kann und sollte, etwa durch die Definition klarer Einsatzgrenzen und die Einbindung realer Unfall‑ und Beinaheunfalldaten.
In allen vier Veranstaltungen zeichnete sich ein gemeinsamer Nenner ab: Ein erfolgreicher KI‑Einsatz im Arbeitsschutz erfordert Kooperation, Transparenz und gemeinsames Lernen. Viele Akteure stehen vor ähnlichen Herausforderungen. Die Themenreihe hat gezeigt, dass ein intensiverer Austausch von Erfahrungen, Daten und Erkenntnissen entscheidend ist, um den menschengerechten und sicheren Einsatz von KI zu gewährleisten. Vor diesem Hintergrund soll eine Politikwerkstatt ins Leben gerufen werden, in der die identifizierten Handlungsfelder in einem engeren Rahmen vertieft und weiterentwickelt werden.
Bleiben Sie mit uns in Verbindung
Jetzt für den Newsletter anmelden