KI und Verantwortung

„KI-gestützt" ist schnell behauptet. Wer Alarmsysteme für den Bevölkerungsschutz betreibt, schuldet eine präzisere Antwort: Was rechnet da, mit welchen Daten, mit welchen Grenzen — und wer trägt die Verantwortung?

Was die Modelle tun — und was nicht

Die Senteris-Plattform nutzt Modelle für drei Aufgaben:

1. Plausibilisierung der Messwerte. Ausreißer, Sensordrift und Ausfälle werden erkannt, bevor sie eine Warnkette auslösen oder verstummen lassen.
2. Kurzfristprognose. Aus Messreihen, Radardaten und Vorsättigung wird die wahrscheinliche Entwicklung der nächsten Minuten bis Stunden geschätzt.
3. Lagebewertung im Zwilling. Das hydrologische Modell rechnet Szenarien, siehe Echtzeit-Zwilling des Einzugsgebiets.

Was die Modelle nicht tun: Sie lösen keine Einsatzmaßnahmen aus. Jeder Alarm ist eine Meldung an Menschen, die nach ihrem Alarmplan entscheiden. Diese Grenze ist kein technisches Zugeständnis, sondern Absicht — die Verantwortung für Einsatzentscheidungen bleibt bei den zuständigen Stellen.

Fehlalarme: der ehrliche Zielkonflikt

Jede Warnschwelle ist ein Kompromiss zwischen zwei Fehlern: zu spät warnen oder zu oft. Wer nie fehlalarmiert, warnt zu spät; wer ständig alarmiert, wird ignoriert. Unser Umgang damit:

• Schwellen werden je Messpunkt kalibriert, nicht pauschal gesetzt
• Nach jedem Ereignis und jedem Fehlalarm werden die Schwellen überprüft — die Nachführung ist Teil des Betriebsvertrags
• Warnstufen sind gestaffelt: die Vorwarnung an den Bauhof ist billiger als der Vollalarm und darf deshalb empfindlicher eingestellt sein
• Jeder Alarm ist protokolliert und nachvollziehbar: welcher Messwert, welche Schwelle, welche Empfänger

Menschliche Aufsicht und Protokollierung

• Alarmpläne, Schwellen und Empfängerkreise werden gemeinsam mit der Kommune festgelegt und nur dokumentiert geändert
• Die Plattform protokolliert Messwerte, Bewertungen, Alarme und Zustellwege revisionsfähig
• Modellprognosen sind im Dashboard als solche gekennzeichnet und von Messwerten unterscheidbar

Einordnung im EU AI Act

KI-Systeme als Sicherheitskomponenten im Betrieb kritischer Infrastruktur gehören nach Anhang III der KI-Verordnung zu den Hochrisiko-Systemen. Die zugehörigen Pflichten gelten nach der im Juli 2026 in Kraft getretenen Änderung durch den Digital Omnibus (Verordnung (EU) 2026/1744) ab dem 2. Dezember 2027. Senteris bereitet die Einstufung nicht als Pflichtübung vor, sondern als Arbeitsprogramm: Risikomanagement, Datenqualität, technische Dokumentation, menschliche Aufsicht und Protokollierung — die Abschnitte oben sind der Anfang davon. Kommunen, die heute beschaffen, können die AI-Act-Konformität als Vertragsanforderung vereinbaren.