Wer eine KI entscheiden lässt, muss belegen können, was sie getan hat, und sie stoppen können. Nach drei Jahren mFUND-Projekt ISEKIS liegt die Grundlage dafür vor.
Drohnen sollen außerhalb der Sichtweite und zunehmend autonom fliegen. KI übernimmt Aufgaben des Fernpiloten. Genehmigt und versichert wird das nur, wenn die Drohne weiß, wie verlässlich ihre Position ist, und wenn KI-Entscheidungen im Flug überprüfbar und hinterher nachvollziehbar sind. ISEKIS hat beides zusammengeführt. Das Projekt endet im November 2026, gefördert vom Bundesministerium für Verkehr im Rahmen des mFUND.
Unser Beitrag ist SenTenCe, ein Flugdatenschreiber für KI. Er sitzt als eigene Hardware neben der KI und spielt nicht in ihrem Team mit: ein unparteiischer Dritter, der aufzeichnet, was die KI sieht und entscheidet, und im Flug bewertet, ob die Sensordaten vertrauenswürdig sind und die Entscheidungen plausibel bleiben. Beobachten und Belegen sind umgesetzt und in Flugversuchen erprobt. Der nächste Schritt ist das Eingreifen. Nicht jede Abweichung ist ein Abbruch: Gestufte Eingriffe und die kalkulierte Übergabe an den Menschen sollen die KI an der Leine halten, ohne sie zu lähmen. Zügel statt Not-Aus.
Dass dieser Ansatz trägt, hat im September die Europäische Agentur für Flugsicherheit bestätigt: Platz 2 bei den ersten EASA AI Olympics, als einziger Finalist für Systeme, in denen die KI selbst entscheidet.
Das Thema reicht weit über Drohnen hinaus. Europa baut die Systeme, zögert aber beim Einsatz von KI, weil der Nachweis fehlt. Was in der Luft gilt, gilt am Boden genauso, ob in der Robotik oder in einer Leitzentrale: Wer eine KI entscheiden lässt, muss belegen können, was sie getan hat.
Die Partner haben die übrigen Bausteine geliefert. Emqopter hat eine Navigation entwickelt, die auch ohne Satellitensignal funktioniert, und eine Fehlererkennung an Bord, die in rund 100 Testflügen gelockerte Schrauben und beschädigte Propeller zuverlässig erkannt hat. Das Institut für Regelungstechnik der RWTH Aachen liefert garantierte Schranken für den Positionsfehler und sichert damit die Einhaltung von Flugverbotszonen formal ab.
Bei der Abschlussveranstaltung am 28. Oktober 2026 hat Staatssekretär Stefan Schnorr das Projekt eingeordnet: Für sicherheitskritische Systeme reiche es nicht, dass eine KI funktioniert; ihre Entscheidungen müssten nachvollziehbar und überprüfbar sein, als Grundlage für Sicherheitsnachweise und künftige Zulassungsverfahren. Den Flugdatenschreiber hob er besonders hervor.
Wie geht es weiter? Wir entwickeln SenTenCe zum Produkt weiter und suchen Pilotanwender aus Drohnenbetrieb, Luftfahrt, Robotik und kritischer Infrastruktur. Die Ergebnisse fließen 2027 in die Konsultation der EASA zu KI-Regeln ein. Mit den Projektpartnern und weiteren Partnern aus Industrie und Forschung bereiten wir Anschlussvorhaben vor, die den Schritt vom Prototyp in den Regelbetrieb gehen.
ISEKIS wurde im Rahmen der Innovationsinitiative mFUND durch das Bundesministerium für Verkehr gefördert (Förderkennzeichen 01F2243A).