Unverbindliche rechtliche Würdigung zur Gesetzeshierarchie und Normenkollisionen beim Einsatz eines KI-gestützten Beihilfe- und Heilfürsorge-Assistenten in Niedersachsen

KI-generiert
Verfasser:Claude Opus 4.6 mit Yann Sénécheau
Version:1.3 – Stand: 20. April 2026
Vertraulich – nur für den Dienstgebrauch

A. Gegenstand und Fragestellung

Geltungsbereich (Projektkonzeption): Das Assistenzsystem umfasst neben der Bearbeitung nach NBhVO/eBeihilfe auch Vorgänge der freien Heilfürsorge (HFB) (NBG §§224/224a, Heilfürsorgebestimmungen/Runderlass); der HFB-Pfad ist in Routing, Daten-Scope und Freigabelogik gleichwertig zum Beihilfepfad ausgestaltet. Die folgenden Ausführungen beziehen sich schwerpunktmäßig auf die Beihilfe, gelten aber für Architektur- und Freigabelogik sinngemäß auch für den HFB-Pfad.

Rn. 1 Gegenstand dieser Würdigung ist die rechtliche Einordnung eines KI-gestützten Assistenzsystems (Beihilfe- und Heilfürsorge-Assistent), das im Rahmen des Fachverfahrens eBeihilfe und perspektivisch auch der Heilfürsorgebearbeitung des Landes Niedersachsen eingesetzt werden soll. Das System soll Beihilfe- und Heilfürsorgevorgänge niedersächsischer Beamtinnen und Beamter maschinell vorprüfen, Bescheidvorschläge generieren und – perspektivisch – in geeigneten Fällen eine sogenannte Dunkelverarbeitung ermöglichen, bei der ein Sachbearbeiter den Bescheidvorschlag lediglich bestätigt, ohne jede Einzelposition aktiv zu prüfen.

Rn. 2 Fraglich ist, ob der Einsatz eines solchen Systems mit der geltenden Rechtsordnung vereinbar ist. Insbesondere bedarf es der Klärung, ob und inwieweit Normenkollisionen zwischen dem europäischen, dem bundes- und dem landesrechtlichen Rahmen bestehen und wie diese aufzulösen sind.

Rn. 3 Dabei sind namentlich folgende Rechtskreise in den Blick zu nehmen: das Europarecht (Verordnung (EU) 2024/1689 – EU AI Act, Datenschutz-Grundverordnung), das Grundgesetz (Art. 33 Abs. 5, Art. 74 Abs. 1 Nr. 27, Art. 31 GG), das Bundesrecht (VwVfG §35a, BeamtStG §45), das Landesrecht (NBG §§80, 89, 94, 95, 224, 224a; NVwVfG §1; NDSG), die Niedersächsische Beihilfeverordnung (NBhVO) sowie — für Heilfürsorge — die Heilfürsorgebestimmungen in ihrer jeweiligen Fassung (Runderlass).

Rn. 4 Diese Würdigung gliedert sich in eine Darstellung der Normenhierarchie (B.), eine Beschreibung der drei Betriebsmodi des Systems (C.), eine systematische Kollisionsprüfung mittels Subsumtion (D.), eine Darstellung der Rechtsschutz- und Haftungsfragen (E.), eine Zusammenstellung offener Punkte (F.) sowie eine abschließende Zusammenfassung mit Handlungsempfehlungen (G.).

B. Normenhierarchie – Stufenbau der Rechtsordnung

Rn. 5 Die rechtliche Beurteilung des Assistenzsystems erfordert zunächst eine präzise Bestimmung der anwendbaren Normen und ihres Rangverhältnisses. Die Normenhierarchie folgt dem Stufenbau der Rechtsordnung, wonach höherrangiges Recht niederrangigem vorgeht. Bei Kollisionen innerhalb derselben Stufe gilt der Grundsatz lex specialis derogat legi generali.

I. Europarecht

Rn. 6 An der Spitze der für das Assistenzsystem relevanten Normenhierarchie steht das Europarecht. Gemäß Art. 288 Abs. 2 AEUV gelten EU-Verordnungen unmittelbar in jedem Mitgliedstaat, ohne dass es eines nationalen Umsetzungsaktes bedürfte. Im Kollisionsfall genießen sie Anwendungsvorrang vor dem gesamten nationalen Recht einschließlich des Verfassungsrechts.1

Rn. 7 Von Bedeutung sind insbesondere:

  • Verordnung (EU) 2024/1689 (EU AI Act) – unmittelbar geltendes Unionsrecht; die Anwendung einzelner Kapitel ist gestaffelt (Art. 113, u. a. Kapitel I/II ab 2. Februar 2025; ausgewählte Teile ab 2. August 2025; Gesamtanwendung v. a. ab 2. August 2026; vgl. Wortlaut EUR-Lex, abgerufen 2026-04-14). Art. 14 verlangt bei Hochrisiko-KI-Systemen eine wirksame menschliche Aufsicht. Anhang III Nummer 5 Buchstabe a erfasst u. a. KI-Systeme, die von Behörden zur Beurteilung der Anspruchsberechtigung auf öffentliche Unterstützungsleistungen und -dienste einschließlich Gesundheitsdiensten eingesetzt werden. Es spricht Erhebliches dafür, dass das Assistenzsystem unter diese Klassifizierung fällt.
  • DSGVO (Verordnung (EU) 2016/679) – Art. 22 Abs. 1 gewährt betroffenen Personen das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet. Art. 9 Abs. 2 lit. b DSGVO enthält die Rechtsgrundlage für die Verarbeitung von Gesundheitsdaten im Beschäftigungskontext, sofern diese aufgrund einer Rechtsvorschrift erforderlich ist. Art. 35 DSGVO verlangt eine Datenschutz-Folgenabschätzung (DSFA) vor Einsatz des Systems.

Auf Bundesebene liegt ein Referentenentwurf zur Umsetzung der VO 2024/1689 vor (häufig „KI-MIG“; Bundestagsdrucksache 21/4594, 1. Lesung am 20. März 2026; verlinkt unter Bundestag — Textarchiv KW 12/2026, abgerufen 2026-04-14). Das Gesetz soll u. a. Marktüberwachung, Beschwerde- und Sanktionsregime ausgestalten; es ersetzt die EU-Verordnung nicht (Anwendungsvorrang der VO). Zum Produktbezug und Zeitplan der VO siehe die kompakte Rechtliche Einschätzung v3 (Stand 20. April 2026).

II. Grundgesetz

Rn. 8 Auf der Ebene des Verfassungsrechts sind folgende Bestimmungen einschlägig:

  • Art. 33 Abs. 5 GG – Das Recht des öffentlichen Dienstes ist unter Berücksichtigung der hergebrachten Grundsätze des Berufsbeamtentums zu regeln und fortzuentwickeln. Zu diesen Grundsätzen gehört die Fürsorgepflicht des Dienstherrn gegenüber seinen Beamten.2 Die Beihilfe ist Ausdruck dieser Fürsorgepflicht.3
  • Art. 74 Abs. 1 Nr. 27 GG – Die konkurrierende Gesetzgebungskompetenz des Bundes erstreckt sich auf die Statusrechte und -pflichten der Beamten der Länder und Kommunen. Die nähere Ausgestaltung – einschließlich der Beihilfe – obliegt dagegen dem jeweiligen Landesgesetzgeber. Diese Kompetenzabgrenzung ist für das Verhältnis von §35a VwVfG zu §95 NBG von zentraler Bedeutung (dazu unten Rn. 44 ff.).
  • Art. 31 GG – Bundesrecht bricht Landesrecht. Dieser Grundsatz bildet die innerstaatliche Grundlage der Normenhierarchie und kommt zum Tragen, soweit Bundes- und Landesrecht denselben Regelungsgegenstand betreffen und nicht auflösbar kollidieren.
  • Art. 34 GG i. V. m. §839 BGB – Staatshaftung bei Amtspflichtverletzungen; relevant für die Haftungsfragen bei fehlerhaften automatisierten Bescheiden (dazu unten Rn. 66 ff.).

III. Bundesgesetze

Rn. 9 Auf einfachgesetzlicher Bundesebene sind relevant:

  • VwVfG §35a – Vollständig automatisierter Erlass eines Verwaltungsaktes ist nur zulässig, wenn dies durch Rechtsvorschrift zugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht.4
  • BeamtStG §45 – Bundesgesetzliche Normierung der Fürsorgepflicht des Dienstherrn. Bindet als Statusrecht auch die Länder.

Rn. 10 Hinsichtlich der Anwendbarkeit des VwVfG in Niedersachsen ist festzuhalten, dass §1 Abs. 1 NVwVfG eine dynamische Verweisung auf das Bundes-VwVfG enthält. Das bedeutet: Niedersachsen wendet das VwVfG des Bundes in seiner jeweils geltenden Fassung an, soweit nicht landesrechtliche Sonderregelungen bestehen. §35a VwVfG gilt daher über §1 NVwVfG unmittelbar auch für das niedersächsische Verwaltungsverfahren.

IV. Landesgesetze

Rn. 11 Auf landesgesetzlicher Ebene sind maßgeblich:

  • NBG §80 – Ermächtigungsgrundlage für die NBhVO. Abs. 6 verweist ausdrücklich darauf, dass die Beihilfe „unter Berücksichtigung der Fürsorgepflicht“ zu regeln ist.
  • NBG §95 – Regelung der automatisierten Verarbeitung von Personalakten. Abs. 4 erlaubt eine ausschließlich automatisierte Entscheidung, wenn dem Antrag vollständig entsprochen wird. Abs. 3 verbietet dagegen ausdrücklich ausschließlich automatisierte Entscheidungen bei dienstlichen Beurteilungen.
  • NBG §§89, 94 – Regelungen zu Beihilfeakten und Aufbewahrungsfristen.
  • NVwVfG §1 – Dynamische Verweisung auf das Bundes-VwVfG (siehe Rn. 10).
  • NDSG (Niedersächsisches Datenschutzgesetz) – Ergänzt die DSGVO auf Landesebene, insbesondere hinsichtlich der Aufsicht und besonderer öffentlicher Stellen. Findet Anwendung auf die Datenverarbeitung im Beihilfeverfahren, soweit nicht die DSGVO unmittelbar greift.

V. Landesverordnungen

Rn. 12 Auf der untersten Stufe der Normenhierarchie steht die NBhVO (Niedersächsische Beihilfeverordnung). Sie konkretisiert die Ermächtigung des §80 NBG und regelt die Beihilfefähigkeit einzelner Aufwendungen, Bemessungssätze, Eigenbehalte und das Antragsverfahren. Als Rechtsverordnung ist sie an alle höherrangigen Normen gebunden. Sie enthält selbst keine Ermächtigung zur vollautomatisierten Bescheidung.

VI. Synoptische Übersicht

Rn. 13 Die nachfolgende Übersicht stellt den Stufenbau der für das Assistenzsystem relevanten Normen dar:

Stufe 1: EU-Primärrecht und EU-Verordnungen (Anwendungsvorrang)
→ Art. 288 Abs. 2 AEUV – Unmittelbare Geltung von EU-Verordnungen
→ Verordnung (EU) 2024/1689 (EU AI Act) – Art. 14, Anhang III Nummer 5 Buchstabe a; Art. 113 (gestaffelte Anwendung)
→ Künftiges deutsches Umsetzungsgesetz (KI-MIG-Entwurf, BT-Drs. 21/4594) – Vollzug/Marktüberwachung, kein Ersatz der VO
→ DSGVO – Art. 9 Abs. 2 lit. b, Art. 22, Art. 35
Stufe 2: Grundgesetz
→ Art. 31 GG – Bundesrecht bricht Landesrecht
→ Art. 33 Abs. 5 GG – Hergebrachte Grundsätze des Berufsbeamtentums (Fürsorgepflicht)
→ Art. 34 GG – Staatshaftung
→ Art. 74 Abs. 1 Nr. 27 GG – Konkurrierende Gesetzgebung (Statusrechte / Ausgestaltung)
Stufe 3: Bundesgesetze
→ BeamtStG §45 – Fürsorgepflicht des Dienstherrn
→ VwVfG §35a – Vollständig automatisierter Erlass von Verwaltungsakten
Stufe 4: Landesgesetze
→ NVwVfG §1 – Dynamische Verweisung auf Bundes-VwVfG
→ NBG §80 – Ermächtigungsgrundlage NBhVO (Abs. 6: Fürsorgepflicht)
→ NBG §95 – Automatisierte Verarbeitung von Personalakten
→ NBG §§89, 94 – Beihilfeakten, Aufbewahrungsfristen
→ NDSG – Niedersächsisches Datenschutzgesetz
Stufe 5: Landesverordnung
→ NBhVO – Beihilfefähigkeit, Eigenbehalte, Verfahren

Rn. 14 Rangfolge bei Kollision: EU-Verordnung > Grundgesetz > Bundesgesetz > Landesgesetz > Landesverordnung. Innerhalb derselben Rangstufe gilt: lex specialis derogat legi generali; lex posterior derogat legi priori.

Rn. 15 Ergänzend ist auf die Kompetenzabgrenzung nach Art. 74 Abs. 1 Nr. 27 GG hinzuweisen. Danach hat der Bund die konkurrierende Gesetzgebungskompetenz für die Statusrechte und -pflichten der Landesbeamten. Die Ausgestaltung des öffentlichen Dienstrechts – einschließlich der Beihilfe – bleibt hingegen dem Landesgesetzgeber vorbehalten. §95 NBG bewegt sich in diesem Ausgestaltungsbereich und steht daher kompetenzrechtlich nicht im Widerspruch zu §35a VwVfG, der das allgemeine Verwaltungsverfahren regelt.

Rn. 16 Von besonderer Bedeutung ist ferner, dass mehrere Normen unterschiedlicher Rangstufen kumulativ zur Anwendung gelangen können, ohne dass ein Normwiderspruch vorliegt. Es ist stets das jeweils strengere Schutzniveau maßgeblich.

Rn. 17 Die Gesundheitsdatenverarbeitung im Beihilfeverfahren stützt sich primär auf Art. 9 Abs. 2 lit. b DSGVO i. V. m. §95 NBG und den Vorschriften der NBhVO. Danach ist die Verarbeitung besonderer Kategorien personenbezogener Daten zulässig, wenn sie zur Ausübung von Rechten und Pflichten aus dem Beschäftigungsverhältnis aufgrund einer Rechtsvorschrift erforderlich ist. Die Beihilfebearbeitung fällt hierunter. Im Behördenkontext kommen als alternative bzw. ergänzende Rechtsgrundlagen insbesondere Art. 9 Abs. 2 lit. g DSGVO (erhebliches öffentliches Interesse auf Grundlage einer Rechtsvorschrift mit angemessenen Schutzmaßnahmen) und — soweit der Gesundheitsbezug überwiegt — Art. 9 Abs. 2 lit. h DSGVO in Betracht. Die Wahl der tragenden Ziffer ist im Rahmen der DSFA festzulegen.

Rn. 18 Das NDSG ergänzt die DSGVO auf Landesebene, insbesondere hinsichtlich der Zuständigkeit der oder des Landesbeauftragten für den Datenschutz Niedersachsen als Aufsichtsbehörde für die Datenverarbeitung öffentlicher Stellen des Landes. Vor dem Einsatz des Assistenzsystems ist eine Datenschutz-Folgenabschätzung nach Art. 35 DSGVO durchzuführen und mit der Aufsichtsbehörde abzustimmen.

C. Betriebsmodi des Assistenzsystems und ihre rechtliche Einordnung

Rn. 19 Das Assistenzsystem sieht drei Betriebsmodi vor, die sich hinsichtlich der Art und Intensität der menschlichen Beteiligung und damit in ihren rechtlichen Konsequenzen wesentlich unterscheiden. Die Differenzierung ist für die anschließende Kollisionsprüfung grundlegend.

I. Shadow-Modus

Rn. 20 Im Shadow-Modus verarbeitet das Assistenzsystem Anträge parallel zum bestehenden manuellen Verfahren über eBeihilfe. Die Ergebnisse des Systems werden protokolliert, dem Sachbearbeiter jedoch nicht angezeigt. Der Sachbearbeiter bearbeitet den Antrag vollständig manuell.

Rn. 21 Rechtliche Einordnung: Der Shadow-Modus hat keine unmittelbare rechtliche Relevanz für den Bescheid. Das System tritt nach außen nicht in Erscheinung; es wird kein Verwaltungsakt durch das System beeinflusst. Die datenschutzrechtlichen Anforderungen an die Verarbeitung von Gesundheitsdaten (Art. 9 DSGVO) und die Pflicht zur Durchführung einer DSFA (Art. 35 DSGVO) bestehen gleichwohl.

II. Assistenz-Modus

Rn. 22 Im Assistenz-Modus generiert das System einen Bescheidvorschlag, den der Sachbearbeiter prüft, gegebenenfalls ändert und anschließend freigibt. Der Sachbearbeiter nimmt eine inhaltliche Prüfung jeder Position vor.

Rn. 23 Rechtliche Einordnung: Es handelt sich um eine menschliche Entscheidung unter Zuhilfenahme technischer Hilfsmittel. Ein vollständig automatisierter Erlass im Sinne des §35a VwVfG liegt nicht vor. Die Anforderungen des Art. 14 EU AI Act an die menschliche Aufsicht werden erfüllt, da der Mensch die Entscheidung inhaltlich verantwortet. Art. 22 DSGVO ist nicht einschlägig, da keine ausschließlich automatisierte Entscheidung vorliegt.

III. Dunkelverarbeitung

Rn. 24 In der Dunkelverarbeitung erstellt das System einen Bescheidvorschlag, den der Sachbearbeiter zur Bestätigung erhält. Die Bestätigung erfolgt ohne vollständige inhaltliche Prüfung jeder Einzelposition; der Sachbearbeiter verlässt sich auf die Systemprüfung und gibt den Bescheid pauschal frei. Architektonisch bleibt die Möglichkeit des Eingriffs (Ablehnung, Änderung) jederzeit erhalten.

Rn. 25 Rechtliche Einordnung: Die Dunkelverarbeitung wirft die meisten rechtlichen Fragen auf. Sie bewegt sich im Regime des §95 Abs. 4 NBG, der eine ausschließlich automatisierte Entscheidung unter der Bedingung zulässt, dass dem Antrag vollständig entsprochen wird. Zugleich müssen die Anforderungen des §35a VwVfG (kein Ermessen, kein Beurteilungsspielraum), des Art. 14 EU AI Act (wirksame menschliche Aufsicht) und des Art. 22 DSGVO (Schutz vor ausschließlich automatisierten Entscheidungen) gewahrt werden.

Rn. 26 Die Dunkelverarbeitung ist konzeptionell dadurch gekennzeichnet, dass der Sachbearbeiter den Bescheidvorschlag gerade nicht im Einzelnen inhaltlich prüft. Die architektonisch vorgesehene Freigabe ist daher datenschutzrechtlich keine „menschliche Letztentscheidung“ i. S. v. Art. 22 Abs. 1 DSGVO und auch keine vollwertige inhaltliche Einzelprüfung; sie wirkt als organisatorische Schutzmaßnahme im Rahmen des Ausnahmetatbestandes Art. 22 Abs. 2 lit. b DSGVO i. V. m. §95 Abs. 4 NBG. Die Zulassung der Dunkelverarbeitung stützt sich damit nicht auf die Behauptung einer nachgelagerten menschlichen Entscheidung, sondern auf die landesgesetzliche Öffnungsklausel §95 Abs. 4 NBG und die flankierenden Schutzmaßnahmen (vollständige Antragsentsprechung, Zweckbindung, Rechtsbehelfe, Stichproben, Dienstanweisung). Die nachfolgende Kollisionsprüfung (Rn. 50–57) vertieft diese Einordnung.

D. Kollisionsprüfung

Rn. 27 Im Folgenden werden die identifizierten potenziellen Normenkollisionen im juristischen Prüfungsstil (Obersatz – Definition – Subsumtion – Ergebnis) geprüft. Für jede Kollision wird zunächst der Obersatz formuliert, sodann die einschlägigen Begriffe definiert, auf den Sachverhalt des Assistenzsystems subsumiert und ein Ergebnis festgehalten.

I. §95 Abs. 4 NBG im Verhältnis zum EU AI Act (Art. 14, Anhang III Nummer 5 Buchstabe a)

1. Obersatz

Rn. 28 Fraglich ist, ob die durch §95 Abs. 4 NBG ermöglichte Dunkelverarbeitung mit den Anforderungen des Art. 14 der Verordnung (EU) 2024/1689 an die menschliche Aufsicht bei Hochrisiko-KI-Systemen vereinbar ist.

2. Definition

Rn. 29 Art. 14 Abs. 1 EU AI Act bestimmt, dass Hochrisiko-KI-Systeme so zu gestalten sind, dass sie während der Dauer ihrer Verwendung von natürlichen Personen wirksam beaufsichtigt werden können. Art. 14 Abs. 2 konkretisiert, dass die Aufsicht darauf abzielen muss, Risiken für Gesundheit, Sicherheit oder Grundrechte zu verhindern oder zu minimieren. Die Aufsichtsperson muss in die Lage versetzt werden, die Empfehlungen des Systems zu verstehen, zu übersteuern oder abzuschalten.

Rn. 30 §95 Abs. 4 NBG erlaubt eine ausschließlich automatisierte Entscheidung über Beihilfeanträge, wenn dem Antrag vollständig entsprochen wird. Die Norm setzt keine inhaltliche Einzelprüfung durch den Sachbearbeiter voraus, verlangt aber nach der Architektur des Assistenzsystems eine Bestätigung (Freigabe) durch den Sachbearbeiter.

3. Subsumtion

Rn. 31 Das Assistenzsystem dürfte als Hochrisiko-KI-System im Sinne des Anhangs III Nummer 5 Buchstabe a EU AI Act (öffentliche Unterstützungsleistungen und -dienste einschließlich Gesundheitsdiensten) einzuordnen sein, da es über den Zugang zu öffentlichen Leistungen (Beihilfe, Heilfürsorge) entscheidet oder solche Entscheidungen maßgeblich vorbereitet.5 Die formale Hochrisiko-Klassifizierung steht allerdings noch aus und sollte vor dem Go-Live verbindlich festgestellt werden.

Rn. 32 Die architektonische Vorkehrung, dass jeder Bescheid – auch im Modus der Dunkelverarbeitung – der Sachbearbeiter-Freigabe bedarf, begründet eine menschliche Kontrollinstanz. Der Sachbearbeiter kann den Vorschlag ablehnen, ändern oder an die vertiefte Prüfung überweisen. Damit ist die Möglichkeit wirksamer Aufsicht gegeben.

Rn. 33 Gleichwohl ist zweifelhaft, ob eine bloße Bestätigungsmöglichkeit ohne tatsächliche inhaltliche Prüfung den Anforderungen des Art. 14 genügt. Der EU AI Act verlangt eine „wirksame“ Aufsicht, was über ein formales Genehmigungsrecht hinausgehen dürfte.6 Entscheidend wird sein, ob der Sachbearbeiter die Systementscheidung nachvollziehen kann und ob organisatorische Maßnahmen (Stichprobenprüfungen, Mindest-Bearbeitungszeiten, Erklärbarkeit der Systemempfehlung) die Effektivität der Aufsicht sicherstellen.

4. Ergebnis

Rn. 34 Im Ergebnis liegt kein zwingender Normwiderspruch vor. Beide Normen verlangen menschliche Beteiligung und sind kumulativ zu beachten. Das jeweils strengere Niveau – die „wirksame menschliche Aufsicht“ des Art. 14 EU AI Act – ist maßgeblich. Die bloße architektonische Vorkehrung einer Freigabe-Möglichkeit reicht allein nicht aus; es bedarf zusätzlicher organisatorischer und technischer Maßnahmen zur Sicherstellung der Effektivität der Aufsicht. Empfehlung: Abstimmung mit der zuständigen Marktüberwachungsbehörde; Konkretisierung der Aufsichtsanforderungen in einer Dienstanweisung.

II. Fürsorgepflicht im Verhältnis zur Dunkelverarbeitung

1. Obersatz

Rn. 35 Fraglich ist, ob die Dunkelverarbeitung von Beihilfeanträgen mit der verfassungsrechtlich verbürgten Fürsorgepflicht des Dienstherrn vereinbar ist.

2. Definition

Rn. 36 Die Fürsorgepflicht gehört zu den hergebrachten Grundsätzen des Berufsbeamtentums im Sinne des Art. 33 Abs. 5 GG. Das Bundesverfassungsgericht hat früh klargestellt, dass der Dienstherr für das Wohl des Beamten und seiner Familie Sorge zu tragen hat.3 Einfachgesetzlich ist die Fürsorgepflicht in §45 BeamtStG normiert. Für das niedersächsische Beihilferecht konkretisiert sich die Normkette wie folgt:

Art. 33 Abs. 5 GG → §45 BeamtStG → §80 Abs. 6 NBG → NBhVO

Rn. 37 Die Fürsorgepflicht verlangt, dass der Dienstherr dem Beamten und seinen Angehörigen eine angemessene Beihilfe gewährt. „Angemessen“ bedeutet, dass die Beihilfe sachgerecht und zumutbar geprüft und bewilligt wird. Sie orientiert sich an einem der Sach- und Rechtslage entsprechenden Verarbeitungsniveau; eine maximale manuelle Prüftiefe für jeden Antrag ist nicht zwingend erforderlich.7

3. Subsumtion

Rn. 38 Bei der Dunkelverarbeitung wird der Beihilfebescheid vom System erstellt und vom Sachbearbeiter lediglich bestätigt. Es könnte argumentiert werden, dass die reduzierte Prüftiefe die Fürsorgepflicht verletzt, weil der Beamte einen Anspruch darauf habe, dass sein Antrag von einem Menschen inhaltlich geprüft werde.

Rn. 39 Dem ist entgegenzuhalten, dass §95 Abs. 4 NBG die Dunkelverarbeitung auf Fälle vollständiger Antragsentsprechung beschränkt. In diesen Fällen erhält der Beamte exakt das, was ihm nach der Sach- und Rechtslage zusteht. Es findet keine Ermessens- oder Härtefallentscheidung statt, bei der eine vertiefte menschliche Würdigung erforderlich wäre. Der Landesgesetzgeber hat §95 Abs. 4 NBG unter Beachtung der Fürsorgepflicht – wie aus §80 Abs. 6 NBG folgt – erlassen.

Rn. 40 Darüber hinaus verbleiben alle Fälle, in denen ein Ermessensspielraum besteht (etwa Härtefälle nach §17 Abs. 6 NBhVO), Regelkonflikte auftreten oder der Antrag nicht vollständig bewilligt werden kann, zwingend in der manuellen Bearbeitung. Die Architektur sieht zudem Mechanismen für Nachkorrekturen und menschliche Fachentscheidungen vor. Schließlich könnte eine schnellere, fehlerärmere Bearbeitung ihrerseits der Fürsorgepflicht dienen, da Beamte früher Beihilfe erhalten.

4. Ergebnis

Rn. 41 Im Ergebnis ist die Dunkelverarbeitung bei regelkonformen Fällen vollständiger Antragsentsprechung mit der Fürsorgepflicht vereinbar. Die Fürsorgepflicht fordert eine angemessene, nicht eine maximale Prüftiefe. Die gesetzliche Begrenzung auf unkritische Fälle, die menschliche Freigabe und die Aufrechterhaltung der vollen manuellen Bearbeitung für Ermessens- und Sonderfälle wahren das verfassungsrechtlich gebotene Schutzniveau.

III. §35a VwVfG im Verhältnis zu §95 Abs. 4 NBG

1. Obersatz

Rn. 42 Fraglich ist, in welchem Verhältnis §35a VwVfG und §95 Abs. 4 NBG zueinander stehen und ob §95 Abs. 4 NBG als Ermächtigung im Sinne des §35a VwVfG für den vollständig automatisierten Erlass von Beihilfebescheiden dienen kann.

2. Definition

Rn. 43 §35a VwVfG bestimmt, dass ein Verwaltungsakt vollständig durch automatische Einrichtungen erlassen werden kann, sofern dies durch Rechtsvorschrift zugelassen ist und weder ein Ermessen noch ein Beurteilungsspielraum besteht. Die Vorschrift gehört zum allgemeinen Verwaltungsverfahrensrecht und ist über §1 NVwVfG in Niedersachsen anwendbar.4

Rn. 44 §95 Abs. 4 NBG erlaubt die ausschließlich automatisierte Entscheidung über Beihilfeanträge unter der Bedingung, dass dem Antrag vollständig entsprochen wird. Die Norm ist eine landesrechtliche Spezialregelung im Bereich des Beamtenrechts, das nach Art. 74 Abs. 1 Nr. 27 GG der Ausgestaltungskompetenz des Landesgesetzgebers unterfällt.

3. Subsumtion

Rn. 45 Im Ausgangspunkt könnte die Anwendung des Art. 31 GG (Bundesrecht bricht Landesrecht) dazu führen, dass §35a VwVfG als Bundesgesetz dem §95 Abs. 4 NBG vorgeht. Dies setzt jedoch einen echten Normwiderspruch voraus.

Rn. 46 Ein solcher liegt hier nicht vor. Beide Normen verfolgen dasselbe Regelungsziel (Ermöglichung automatisierter Verwaltungsverfahren unter Schutzvorbehalten) und lassen sich widerspruchsfrei nebeneinander anwenden: §35a VwVfG stellt die allgemeine Rahmenvoraussetzung auf (Rechtsvorschrift erforderlich, kein Ermessen, kein Beurteilungsspielraum). §95 Abs. 4 NBG ist die gesuchte Rechtsvorschrift im Sinne des §35a, die den automatisierten Erlass für Beihilfebescheide ausdrücklich zulässt – unter der zusätzlichen Einschränkung vollständiger Antragsentsprechung.

Rn. 47 Kompetenzrechtlich ist dies konsistent: Der Bund regelt in §35a VwVfG die allgemeinen Verfahrensgrundsätze. Der Landesgesetzgeber regelt in §95 Abs. 4 NBG die bereichsspezifische Zulassung im Beamtenrecht, wozu er nach Art. 74 Abs. 1 Nr. 27 GG befugt ist. §95 Abs. 4 NBG ist als lex specialis zu §35a VwVfG zu qualifizieren, da er für einen spezifischen Anwendungsbereich (Beihilfe) eine engere Zulassungsvoraussetzung aufstellt als die allgemeine Norm.

Rn. 48 Die kumulativen Voraussetzungen des §35a VwVfG sind bei vollständiger Antragsentsprechung erfüllt: Die Rechtsvorschrift im Sinne des §35a liegt in §95 Abs. 4 NBG. Ein Ermessen besteht bei vollständiger Bewilligung nicht; ebenso wenig ein Beurteilungsspielraum, da die Beihilfefähigkeit nach den tabellarischen Vorgaben der NBhVO regelbasiert ermittelt wird.

4. Ergebnis

Rn. 49 Daraus folgt, dass §95 Abs. 4 NBG als Ermächtigung im Sinne des §35a VwVfG fungiert. Beide Normen ergänzen sich; ein Widerspruch liegt nicht vor: §35a als allgemeine Verfahrensregel, §95 Abs. 4 als bereichsspezifische Zulassung. Die Sachbearbeiter-Freigabe bleibt architektonisch vorgesehen, sodass im Ergebnis eine bestätigte Systementscheidung vorliegt und kein vollständig maschineller Erlass ohne jede menschliche Beteiligung.

IV. Art. 22 DSGVO im Verhältnis zur Dunkelverarbeitung

1. Obersatz

Rn. 50 Fraglich ist, ob die Dunkelverarbeitung eine ausschließlich auf automatisierter Verarbeitung beruhende Entscheidung im Sinne des Art. 22 Abs. 1 DSGVO darstellt und ob die betroffenen Beamten sich darauf berufen können, einer solchen Entscheidung nicht unterworfen zu werden.

2. Definition

Rn. 51 Art. 22 Abs. 1 DSGVO gewährt betroffenen Personen das Recht, nicht einer Entscheidung unterworfen zu werden, die ausschließlich auf automatisierter Verarbeitung – einschließlich Profiling – beruht und die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt. „Ausschließlich“ bedeutet nach herrschender Auffassung, dass kein Mensch in den Entscheidungsprozess eingebunden ist, der über eine nur pro-forma-Beteiligung hinaus tatsächlichen Einfluss auf das Ergebnis ausübt.8

Rn. 52 Art. 22 Abs. 2 lit. b DSGVO enthält eine Ausnahme: Die ausschließlich automatisierte Entscheidung ist zulässig, wenn sie aufgrund von Rechtsvorschriften der Union oder der Mitgliedstaaten, denen der Verantwortliche unterliegt, zulässig ist und diese Rechtsvorschriften angemessene Maßnahmen zur Wahrung der Rechte und Freiheiten sowie der berechtigten Interessen der betroffenen Person enthalten.

3. Subsumtion

Rn. 53 Der Beihilfebescheid ist ein Verwaltungsakt mit rechtlicher Wirkung gegenüber dem Beamten. Die Dunkelverarbeitung stellt eine Entscheidung dar, die maßgeblich auf automatisierter Verarbeitung beruht. Entscheidend ist, ob die Sachbearbeiter-Freigabe die Entscheidung zu einer nicht ausschließlich automatisierten macht.

Rn. 54 Hierbei kommt es nach der Rechtsprechung und Literatur auf die Qualität der menschlichen Beteiligung an, nicht auf deren bloßes Vorliegen. Eine menschliche Beteiligung, die sich in einer rein formalen Absegnung erschöpft, ohne dass der Entscheider den Sachverhalt und die Systemempfehlung inhaltlich zur Kenntnis nimmt und eigenständig beurteilt, genügt nicht, um den Charakter der Ausschließlichkeit zu beseitigen (sog. rubber stamping).811

Rn. 55 Einerseits ist im Modus der Dunkelverarbeitung die Sachbearbeiter-Freigabe architektonisch zwingend vorgesehen; der Sachbearbeiter kann den Vorschlag ablehnen oder ändern. Andererseits ist die Intention der Dunkelverarbeitung gerade, dass der Sachbearbeiter den Vorschlag nicht im Einzelnen prüft. Es besteht daher das Risiko, dass die Sachbearbeiter-Freigabe als rubber stamping einzuordnen ist und die Entscheidung im Ergebnis als „ausschließlich automatisiert“ gilt.

Rn. 56 Die hier tragende Lösung ist nicht, die Dunkelverarbeitung über die Sachbearbeiter-Freigabe aus dem Anwendungsbereich des Art. 22 Abs. 1 DSGVO herauszudefinieren, sondern die Ausnahme des Art. 22 Abs. 2 lit. b DSGVO heranzuziehen: §95 Abs. 4 NBG ist eine Rechtsvorschrift eines Mitgliedstaates, die die ausschließlich automatisierte Entscheidung ausdrücklich zulässt. Zu beachten ist, dass Art. 22 Abs. 3 DSGVO seinem Wortlaut nach nur die Fälle des Abs. 2 lit. a und lit. c adressiert; für die hier einschlägige lit. b muss die mitgliedstaatliche Rechtsvorschrift selbst angemessene Maßnahmen zur Wahrung der Rechte, Freiheiten und berechtigten Interessen vorsehen. Diese ergeben sich hier aus der Begrenzung auf vollständige Antragsentsprechung, den flankierenden Regelungen des §95 Abs. 1 und 3 NBG, den allgemeinen Verfahrensrechten nach VwVfG (§§37, 39, 41), den Rechtsbehelfen nach VwGO (§§68, 42) sowie organisatorischen Maßnahmen (Stichproben, Dienstanweisung, Monitoring).

4. Ergebnis

Rn. 57 Die datenschutzrechtliche Zulässigkeit der Dunkelverarbeitung stützt sich in der hier zugrunde gelegten Dogmatik (vgl. Rn. 26) auf Art. 22 Abs. 2 lit. b DSGVO i. V. m. §95 Abs. 4 NBG; die Sachbearbeiter-Freigabe im Dunkelmodus wird dabei nicht als Ausschluss der Ausschließlichkeit behandelt, sondern als organisatorische Schutzmaßnahme. Art. 22 Abs. 3 DSGVO gilt nach seinem Wortlaut nur für die Fälle des Abs. 2 lit. a und lit. c und ist damit hier nicht unmittelbar einschlägig; die dort genannten Schutzstandards (Information, Widerspruch, Recht auf Eingreifen einer Person) werden aber über die nationale Verfahrensrechts- und Rechtsbehelfsebene gleichwertig sichergestellt. Empfehlung: Organisatorische Maßnahmen (Mindest-Prüfzeiten, Stichproben, Transparenz der Systemempfehlung) sowie eine Abstimmung mit der zuständigen Datenschutzaufsichtsbehörde im Rahmen der DSFA.

V. Auslegung des Begriffs „vollständig entsprochen“ (§95 Abs. 4 NBG)

Rn. 58 Die Reichweite der Dunkelverarbeitung hängt maßgeblich von der Auslegung des Begriffs „vollständig entsprochen“ in §95 Abs. 4 NBG ab. Im Folgenden wird dieser Begriff nach den vier anerkannten Auslegungsmethoden untersucht.

a) Wortlaut (grammatische Auslegung)

Rn. 59 „Vollständig“ bedeutet dem Wortlaut nach, dass dem Antrag in jeder Hinsicht entsprochen wird – alle beantragten Positionen werden als beihilfefähig anerkannt. Eine Teilablehnung oder eine Ermessensausübung liegen außerhalb des Wortlauts. Regelbasierte Kürzungen (etwa Eigenbehalte nach §45 NBhVO oder Festbeträge) sind gesetzlich vorgegebene Betragsreduktionen: Der Antrag wird bewilligt, lediglich der beihilfefähige Betrag wird nach festen Regeln berechnet; eine Teilablehnung im Wortsinne liegt damit nicht vor. Der Wortlaut steht einer solchen Auslegung nicht entgegen.

b) Systematische Auslegung

Rn. 60 Im Kontext des §95 NBG fällt auf, dass Abs. 3 ausschließlich automatisierte Entscheidungen bei dienstlichen Beurteilungen ausdrücklich verbietet. Der Gesetzgeber hat also differenziert: Wo eine wertende Beurteilung erforderlich ist, bleibt der Mensch zwingend. Wo hingegen ein regelbasiertes Ergebnis vorliegt (vollständige Antragsentsprechung), ist die Automatisierung zulässig. Diese Systematik spricht dafür, dass „vollständig entsprochen“ eng auszulegen ist: Nur wenn kein wertender Entscheidungsspielraum verbleibt, ist die Dunkelverarbeitung zulässig.

c) Teleologische Auslegung (Sinn und Zweck)

Rn. 61 Die Vorschrift verfolgt einen doppelten Zweck: Einerseits soll sie die effiziente Verarbeitung unkritischer Massenverfahren ermöglichen und damit die Verwaltung entlasten. Andererseits soll sie den Beamten vor entmenschlichten automatisierten Entscheidungen schützen, die über eine reine Regelanwendung hinausgehen. Dieser Schutzgedanke spricht dafür, dass „vollständig entsprochen“ alle Fälle ausschließt, in denen eine Wertung, ein Ermessen oder eine Härtefall-Prüfung erforderlich ist. Gleichzeitig wäre es mit dem Effizienzzweck unvereinbar, bereits jede regelmäßige Kürzung (Eigenbehalt) aus dem Anwendungsbereich auszuschließen.

d) Historische Auslegung

Rn. 62 Die Entstehungsgeschichte des §95 NBG steht im Zusammenhang mit dem Bestreben des Landesgesetzgebers, die Digitalisierung der Verwaltung voranzutreiben und zugleich den spezifischen Schutzbedürfnissen im Beamtenrecht Rechnung zu tragen. Die Norm wurde in Kenntnis des §35a VwVfG geschaffen und stellt eine bereichsspezifische Ergänzung dar, die den besonderen Charakter von Beihilfeanträgen – als Massenverfahren mit hoher Regelgebundenheit einerseits und sensibler Gesundheitsdatenverarbeitung andererseits – berücksichtigt. Daraus folgt, dass der Gesetzgeber eine pragmatische Grenzziehung beabsichtigt hat: vollständige Bewilligung (einschließlich regelkonformer Kürzungen) = dunkelverarbeitbar; Teilablehnung, Ermessen, Beurteilungsspielraum = nicht dunkelverarbeitbar.

Zusammenfassung zur Auslegung: „Vollständig entsprochen“ ist dahingehend auszulegen, dass alle beantragten Positionen als dem Grunde nach beihilfefähig anerkannt werden. Regelbasierte Betragsreduzierungen (Eigenbehalte, Festbeträge) stehen der vollständigen Entsprechung nicht entgegen. Sobald eine Position abgelehnt, ein Ermessen ausgeübt oder ein Beurteilungsspielraum eröffnet wird, ist die Dunkelverarbeitung unzulässig. Empfehlung: Konkretisierung durch Verwaltungsvorschrift oder Erlass.

E. Rechtsschutz und Amtshaftung

Rn. 63 Der Einsatz eines KI-gestützten Assistenzsystems (Beihilfe und Heilfürsorge) wirft Fragen des Rechtsschutzes und der Haftung auf, die im Folgenden dargestellt werden.

I. Rechtsbehelfe gegen Beihilfebescheide

Rn. 64 Ein Beihilfebescheid ist ein Verwaltungsakt im Sinne des §35 VwVfG. Gegen ihn steht dem Beamten der Widerspruch gemäß §68 VwGO und – nach erfolglosem Widerspruchsverfahren – die Anfechtungsklage gemäß §42 Abs. 1 Alt. 1 VwGO zu. Daran ändert sich durch den Einsatz des Assistenzsystems nichts: Der Bescheid wird dem Beamten als Verwaltungsakt des Dienstherrn zugerechnet, unabhängig davon, ob er manuell oder maschinell vorbereitet wurde.

Rn. 65 Im Widerspruchs- und Klageverfahren hat der Dienstherr darzulegen, wie der Bescheid zustande gekommen ist. Bei maschinell vorbereiteten Bescheiden umfasst dies die Nachvollziehbarkeit der Systementscheidung. Die Anforderungen an die Begründung des Verwaltungsaktes nach §39 VwVfG bleiben unberührt: Auch ein im Modus der Dunkelverarbeitung erlassener Bescheid muss die wesentlichen tatsächlichen und rechtlichen Gründe erkennen lassen.

II. Amtshaftung bei fehlerhaften Bescheiden

Rn. 66 Fraglich ist, wer haftet, wenn ein fehlerhafter Bescheid auf einen Fehler des KI-Systems zurückzuführen ist. Gemäß §839 BGB i. V. m. Art. 34 GG haftet der Staat (nicht der einzelne Beamte) für Amtspflichtverletzungen, die ein Beamter in Ausübung seines öffentlichen Amtes begeht.

Rn. 67 Der Einsatz technischer Hilfsmittel ändert an dieser Haftungsstruktur nichts: Der Dienstherr ist für die Ordnungsmäßigkeit der von ihm eingesetzten Systeme verantwortlich. Verursacht das KI-System einen Fehler, der zu einem rechtswidrigen Bescheid führt, trifft die Haftung den Dienstherrn – das Land Niedersachsen.9 Die Sachbearbeiter-Freigabe in der Dunkelverarbeitung wirkt als organisatorische Schutzmaßnahme (vgl. Rn. 26); sie verlagert die Haftung nicht auf den einzelnen Sachbearbeiter, sofern dieser das System bestimmungsgemäß bedient hat.

Rn. 68 Es ist festzuhalten, dass die Sachbearbeiter-Freigabe allerdings eine Organisationspflicht des Dienstherrn begründet: Er muss sicherstellen, dass die Sachbearbeiter in die Lage versetzt werden, die Systemvorschläge angemessen zu prüfen (Schulung, Erklärbarkeit, angemessene Fallzahlen). Ein Organisationsverschulden kann eine Amtspflichtverletzung begründen.

III. Beweislast bei algorithmengestützten Entscheidungen

Rn. 69 Eine besondere Herausforderung stellt die Beweislast dar. Grundsätzlich trägt im Verwaltungsprozess jede Partei die Beweislast für die ihr günstigen Tatsachen. Bei algorithmengestützten Entscheidungen kann sich jedoch eine faktische Beweisnot des Beamten ergeben, wenn die Funktionsweise des Systems nicht transparent ist.10

Rn. 70 Dem ist durch Transparenzverpflichtungen zu begegnen: Das Assistenzsystem muss protokollieren, welche Regeln angewandt, welche Eingangsdaten verwendet und welche Schlussfolgerungen gezogen wurden (Audit-Trail). Im Streitfall muss der Dienstherr in der Lage sein, die Systementscheidung lückenlos nachzuvollziehen und darzulegen. Dies folgt bereits aus dem Gebot des effektiven Rechtsschutzes (Art. 19 Abs. 4 GG) und wird durch Art. 14 Abs. 4 EU AI Act (Transparenzpflichten bei Hochrisiko-KI) verstärkt.

IV. Regress und Systemhersteller-Haftung

Rn. 71 Im Innenverhältnis kann das Land Niedersachsen Regressansprüche gegen den Systemhersteller oder -betreiber geltend machen, sofern vertragliche Gewährleistungs- oder Haftungsregelungen bestehen. Die öffentlich-rechtliche Haftung gegenüber dem Beamten bleibt davon unberührt.

Rn. 72 Empfehlung: Die vertraglichen Vereinbarungen mit Systemherstellern und -dienstleistern sollten eine klare Haftungsverteilung, Gewährleistungsregelungen und Pflichten zur Mitwirkung bei der Aufklärung von Systemfehlern enthalten.

F. Offene Fragen und Klärungsbedarf

Rn. 73 1. Konkretisierung der „wirksamen menschlichen Aufsicht“ nach Art. 14 EU AI Act: Die Durchführungsrechtsakte und Leitlinien der EU-Kommission zur Konkretisierung der Aufsichtsanforderungen stehen noch aus. Es ist derzeit nicht abschließend geklärt, ob eine Sachbearbeiter-Freigabe ohne aktive Einzelprüfung jeder Position den Anforderungen genügt. Empfehlung: Abstimmung mit dem Niedersächsischen Ministerium für Inneres und Sport sowie mit der zuständigen Marktüberwachungsbehörde.

Rn. 74 2. Formale Hochrisiko-Klassifizierung: Die Einordnung des Assistenzsystems als Hochrisiko-KI-System nach Anhang III Nummer 5 Buchstabe a EU AI Act steht noch aus. Bei Bestätigung sind die jeweils anwendbaren Pflichten aus Kapitel III zeitlich nach Art. 113 VO 2024/1689 zu beachten (u. a. allgemeine Anwendung der Verordnung ab 2. August 2026 im Sinne des Art. 113 Abs. 2; vgl. Wortlaut EUR-Lex). Empfehlung: Verbindliche juristische Einschätzung vor Go-Live einholen.

Rn. 75 3. Grenzfälle „vollständig entsprochen“: Die Abgrenzung zwischen regelbasierter Kürzung (dunkelverarbeitbar) und Teilablehnung (nicht dunkelverarbeitbar) ist in Grenzfällen unklar, insbesondere bei Festbeträgen, Mehrfachzuordnungen und Mischfällen. Empfehlung: Konkretisierung durch Verwaltungsvorschrift oder Erlass des Fachministeriums. Dabei sollten die in Rn. 59–62 entwickelten Auslegungsgrundsätze berücksichtigt werden.

Rn. 76 4. Technische Mindestanforderungen an die Sachbearbeiter-Freigabe: Es bedarf der Klärung, welche Mindestanforderungen an die Freigabe im Assistenz- und Shadow-Modus zu stellen sind, damit sie als „wirksame Aufsicht“ (EU AI Act Art. 14) und als nicht-ausschließlich-automatisierte Entscheidung (DSGVO Art. 22) qualifiziert werden kann; in der Dunkelverarbeitung wirkt die Freigabe dagegen als organisatorische Schutzmaßnahme (vgl. Rn. 26), deren Mindestanforderungen sich an §35a VwVfG und §95 Abs. 4 NBG orientieren. In Betracht kommen je Modus: Nachweis der inhaltlichen Kenntnisnahme, Mindest-Bearbeitungszeiten, regelmäßige Stichprobenprüfungen, Pflichtschulungen der Sachbearbeiter. Empfehlung: Festlegung in einer Dienstanweisung vor Pilotbetrieb.

Rn. 77 5. Datenschutz-Folgenabschätzung: Die nach Art. 35 DSGVO erforderliche DSFA ist vor dem produktiven Einsatz des Assistenzsystems durchzuführen und mit der oder dem Landesbeauftragten für den Datenschutz Niedersachsen abzustimmen.

Rn. 78 6. Künftige Rechtsentwicklung: Sowohl der EU AI Act als auch das nationale Recht zur Verwaltungsdigitalisierung befinden sich in einer dynamischen Entwicklung. Es ist damit zu rechnen, dass die hier aufgeworfenen Fragen durch künftige Durchführungsrechtsakte, Rechtsprechung und Verwaltungspraxis weiter konkretisiert werden. Empfehlung: Einrichtung eines Monitoring-Prozesses zur laufenden Überwachung der Rechtsentwicklung.

G. Zusammenfassung und Empfehlungen

Rn. 79 Die rechtliche Prüfung hat ergeben, dass der Einsatz eines KI-gestützten Assistenzsystems (Beihilfe und Heilfürsorge) im Grundsatz mit der geltenden Rechtsordnung vereinbar ist. Die Normenhierarchie (EU-Recht > Grundgesetz > Bundesgesetz > Landesgesetz > Landesverordnung) und der Grundsatz lex specialis derogat legi generali ermöglichen eine widerspruchsfreie Einordnung der einschlägigen Vorschriften.

Rn. 80 Im Einzelnen ist festzuhalten:

  1. Zwischen §95 Abs. 4 NBG und Art. 14 EU AI Act besteht kein zwingender Normwiderspruch. Beide Normen sind kumulativ zu beachten; das strengere Niveau (wirksame menschliche Aufsicht) ist maßgeblich.
  2. Die Fürsorgepflicht (Art. 33 Abs. 5 GG, §45 BeamtStG, §80 Abs. 6 NBG) wird durch die Begrenzung der Dunkelverarbeitung auf regelkonforme Fälle (vollständige Antragsentsprechung) und die flankierenden organisatorischen Schutzmaßnahmen (Sachbearbeiter-Freigabe, Stichproben, Rechtsbehelfe, Dienstanweisung; vgl. Rn. 26) gewahrt.
  3. §95 Abs. 4 NBG fungiert als bereichsspezifische Ermächtigung im Sinne des §35a VwVfG. Beide Normen stehen in einem Verhältnis von lex generalis zu lex specialis.
  4. Die datenschutzrechtliche Zulässigkeit der Dunkelverarbeitung unter Art. 22 DSGVO ist nicht abschließend gesichert und hängt maßgeblich von der Qualität der menschlichen Beteiligung ab.
  5. „Vollständig entsprochen“ ist dahingehend auszulegen, dass alle Positionen dem Grunde nach bewilligt werden; regelbasierte Kürzungen stehen nicht entgegen.

Rn. 81 Die Haftung für fehlerhafte Bescheide trifft den Dienstherrn (Land Niedersachsen). Der Rechtsschutz der Beamten bleibt durch Widerspruch und Anfechtungsklage gewährleistet. Der Dienstherr trifft eine Organisationspflicht hinsichtlich der Sicherstellung der Systemqualität und der Fähigkeit der Sachbearbeiter zur effektiven Prüfung.

Rn. 82 Handlungsempfehlungen:

  1. Verbindliche Klärung der Hochrisiko-Klassifizierung nach dem EU AI Act vor Go-Live.
  2. Erlass einer Verwaltungsvorschrift zur Konkretisierung des Begriffs „vollständig entsprochen“ und der Mindestanforderungen an die Sachbearbeiter-Freigabe.
  3. Durchführung der Datenschutz-Folgenabschätzung nach Art. 35 DSGVO und Abstimmung mit der Datenschutzaufsichtsbehörde.
  4. Einholung einer Stellungnahme der zuständigen Marktüberwachungsbehörde zu den Anforderungen an die menschliche Aufsicht nach Art. 14 EU AI Act.
  5. Gestaltung der Sachbearbeiter-Freigabe in einer Weise, die den Anforderungen des Art. 22 DSGVO standhält (keine bloße Pro-forma-Bestätigung).
  6. Einrichtung eines Monitoring-Prozesses zur laufenden Überwachung der Rechtsentwicklung auf EU-, Bundes- und Landesebene.

Rn. 83 Es wird empfohlen, das Assistenzsystem zunächst im Shadow- und Assistenz-Modus zu pilotieren. Die Dunkelverarbeitung sollte erst aufgenommen werden, wenn die in den Rn. 73–78 bezeichneten offenen Fragen geklärt und die organisatorischen Vorkehrungen getroffen sind.

Rn. 84 Unter diesen Voraussetzungen ist der Einsatz des Assistenzsystems nach gegenwärtigem Rechtsstand grundsätzlich zulässig und mit der Normenhierarchie vereinbar.

Fußnotenverzeichnis

  1. EuGH, Rs. 6/64 (Costa/ENEL); st. Rspr. zum Anwendungsvorrang des EU-Rechts. ↑
  2. BVerfGE 8, 332 (356 f.) – Grundlegende Entscheidung zur verfassungsrechtlichen Verankerung der Fürsorgepflicht als hergebrachter Grundsatz des Berufsbeamtentums. ↑
  3. Plog/Wiedow, Bundesbeamtengesetz, Kommentar (Loseblatt), §45 BeamtStG Rn. 3 ff.; BVerfGE 83, 89 (98). ↑
  4. Stelkens/Bonk/Sachs, VwVfG, Kommentar, 10. Aufl. 2022, §35a Rn. 1 ff. Zur Entstehungsgeschichte, den Voraussetzungen und der Reichweite der Norm. ↑
  5. Vgl. Martini, Blackbox Algorithmus – Grundfragen einer Regulierung Künstlicher Intelligenz, 2019, S. 167 ff. zur Einordnung öffentlicher Leistungsverwaltung in Risikokategorien. ↑
  6. Guckelberger, Öffentliche Verwaltung im Zeitalter der Digitalisierung, 2019, S. 342 ff. zu den Anforderungen an menschliche Überwachung bei automatisierten Verwaltungsentscheidungen; vgl. auch Art. 14 Abs. 4 Verordnung (EU) 2024/1689. ↑
  7. Plog/Wiedow, a.a.O., §45 BeamtStG Rn. 12; Stelkens/Bonk/Sachs, a.a.O., §35a Rn. 28 zur Vereinbarkeit von Automatisierung und sachgerechter Verfahrensgestaltung. ↑
  8. Art.-29-Datenschutzgruppe (jetzt EDSA), Leitlinien zu automatisierten Entscheidungen im Einzelfall und Profiling (WP 251 rev.01), S. 21 f.: „meaningful human involvement“ setzt voraus, dass der Entscheider Zugang zu allen relevanten Daten hat und die Befugnis sowie die tatsächliche Fähigkeit besitzt, die Entscheidung zu ändern. ↑
  9. Vgl. Martini, Blackbox Algorithmus, 2019, S. 211 ff. zur Staatshaftung bei algorithmischen Verwaltungsentscheidungen. ↑
  10. Guckelberger, Öffentliche Verwaltung im Zeitalter der Digitalisierung, 2019, S. 389 ff. zur Transparenz und Nachvollziehbarkeit automatisierter Entscheidungen; Art. 19 Abs. 4 GG (Gebot effektiven Rechtsschutzes). ↑
  11. EuGH, Urt. v. 07.12.2023, Rs. C-634/21 (SCHUFA Holding), Rn. 73 ff.: Art. 22 Abs. 1 DSGVO greift auch wenn ein Mensch formell entscheidet, sofern die automatisierte Verarbeitung das Ergebnis maßgeblich vorherbestimmt; die menschliche Einflussnahme muss „bedeutsam“ sein, nicht bloß pro forma. Erwägungsgrund 71 DSGVO verlangt „angemessene Garantien“ einschließlich des „Anspruch[s] auf direktes Eingreifen einer Person“. Martini, in: Paal/Pauly, DS-GVO BDSG, 3. Aufl. 2021, Art. 22 Rn. 15 ff.: Eine bloß formale menschliche Entscheidung ohne inhaltliche Auseinandersetzung genügt nicht. Martini/Nink, Wenn Maschinen entscheiden – vollautomatisierte Verwaltungsverfahren und der Persönlichkeitsschutz, NVwZ-Extra 10/2017, S. 1 (10 f.): frühe dt. Lit. zum Qualitätserfordernis menschlicher Beteiligung an automatisierten Verwaltungsentscheidungen. ↑
Haftungsausschluss: Diese Würdigung dient ausschließlich der internen Entscheidungsvorbereitung. Es ersetzt keine individuelle anwaltliche Beratung. Für die Richtigkeit und Vollständigkeit wird keine Haftung übernommen. Die rechtliche Beurteilung gibt den Stand vom 20. April 2026 wieder; spätere Rechtsänderungen, insbesondere im Zusammenhang mit dem EU AI Act, dem KI-MIG-Gesetzgebungsverfahren und dessen Durchführungsrechtsakten, sind nicht vollumfänglich berücksichtigt.

Projektteam Beihilfe- und Heilfürsorge-Assistent – Unverbindliche rechtliche Würdigung Gesetzeshierarchie und Normenkollisionen
Version 1.3 – Stand: 20. April 2026