Künstliche Intelligenz übernimmt zunehmend Aufgaben in Systemen, bei denen Fehler teuer oder gefährlich sind: in Drohnen und anderen autonomen Systemen, in der Überwachung kritischer Infrastrukturen, in industriellen Anlagen. Damit verschiebt sich eine Frage in den Mittelpunkt, die uns als Messtechniker seit jeher begleitet: Woher wissen wir eigentlich, dass ein System das tut, was es soll, und wie weisen wir es nach?
Seit über 40 Jahren beantworten wir diese Frage für Strukturen und Maschinen. Unsere Messwerterfassungssysteme begleiten Flugzeuge, Windenergieanlagen und Schienenfahrzeuge über ihren gesamten Lebenszyklus, erfassen Belastungen und machen den Zustand eines Systems belastbar dokumentierbar. Measuring, Analysing, Storing: Das ist unser Handwerk. Mit Sentinel übertragen wir genau dieses Handwerk auf eine neue Systemklasse. Denn eine KI, die sicherheitsrelevante Entscheidungen trifft, braucht dasselbe wie ein tragendes Bauteil: kontinuierliche Messung, saubere Aufzeichnung und einen klaren Umgang mit Grenzwerten.
Vier Bausteine entlang des KI-Lebenszyklus
Sentinel ist unser Lösungskonzept für vertrauenswürdige KI. Es macht KI-Systeme nachvollziehbar, dokumentierbar und kontrollierbar, und zwar über den gesamten Lebenszyklus: von der Datenerfassung über Test und Validierung bis zum laufenden Betrieb. Dahinter stehen vier Bausteine, die einzeln einsetzbar sind oder als integrierte Kette zusammenwirken. Jeder Baustein beantwortet eine einfache Frage.
DAQ: Bekommt die KI die richtigen Daten? Jede KI ist nur so gut wie ihre Datengrundlage. Der DAQ-Baustein sorgt für verlässliche Datenerfassung und Sensorfusion und stellt über Data Provenance sicher, dass Herkunft und Integrität der Daten jederzeit nachweisbar sind, auch unter den engen Rahmenbedingungen mobiler Systeme bei Größe, Gewicht, Leistungsaufnahme und Kosten.
LOG: Was hat die KI getan und warum? Wenn etwas schiefgeht, muss sich im Nachhinein rekonstruieren lassen, was das System wahrgenommen und entschieden hat. LOG zeichnet das Verhalten der KI strukturiert auf, mit Signierung und Manipulationsschutz, sodass ein belastbarer Audit Trail entsteht. Damit adressieren wir direkt die Aufzeichnungspflichten, die der EU AI Act in Artikel 12 für Hochrisiko-KI vorschreibt.
MONITOR: Wie gut funktioniert die KI gerade? Ein Modell, das gestern zuverlässig war, kann heute an seine Grenzen kommen, weil sich Umgebung oder Datenlage verändert haben. MONITOR beobachtet das System im Betrieb anhand definierter Metriken, erkennt schleichende Veränderungen (Drift) ebenso wie akute Anomalien und macht die Leistungsfähigkeit der KI in Echtzeit sichtbar.
INTERVENE: Muss jemand eingreifen? Beobachten allein genügt nicht. Verlässt die KI definierte Grenzen, greift eine gestufte Eingriffslogik: von der Warnung über die Übernahmeaufforderung bis zum automatischen Eingriff. Damit wird menschliche Aufsicht (Human Oversight) nicht zum Feigenblatt, sondern zu einer technisch umgesetzten Eingriffsmöglichkeit.
Warum jetzt: Der EU AI Act macht Nachweisbarkeit zur Pflicht
Mit dem EU AI Act wird Vertrauenswürdigkeit von KI von der Kür zur Pflicht. Betreiber von Hochrisiko-KI müssen Aufzeichnungen führen, wirksame menschliche Aufsicht sicherstellen und ihre Systeme einer Konformitätsbewertung unterziehen, und zwar nicht einmalig, sondern kontinuierlich über den Betrieb hinweg. Genau hier setzt Sentinel an: Die Bausteine liefern die technische Evidenz, auf der Prüfung, Audit und kontinuierliche Konformitätsbewertung aufsetzen können, von der Datenherkunft bis zum Betriebsprotokoll.
Vom Konzept zum fliegenden System
Sentinel ist kein Papierkonzept. In unserem Demonstrator bringen wir die Bausteine gemeinsam auf einer Drohne in die Luft: Edge Computing unter realen Bedingungen, bei denen jedes Gramm und jedes Watt zählt. Die Drohne ist dabei bewusst gewählt, denn kaum eine Plattform vereint die Herausforderungen autonomer Systeme so kompakt. Der Demonstrator wächst schrittweise und dient uns als Grundlage für Gespräche mit Kunden, Partnern und Prüfinstanzen.
Die Einsatzfelder reichen dabei weit über die Luftfahrt hinaus: von kritischen Infrastrukturen über Anwendungen in Sicherheit und Verteidigung bis zu autonomen Systemen ganz allgemein, überall dort, wo KI nachweisbar funktionieren muss. Unser angestammtes Feld, das Monitoring von Strukturen und Anlagen, bleibt dabei das Fundament, auf dem Sentinel aufsetzt.
Sie möchten mehr erfahren oder haben eine konkrete Anwendung im Kopf?
Kontaktieren Sie uns gern.