Verwaltungsakte mit künstlicher Intelligenz verfasst: die Herkunft der Daten, die der Text zusammenfasst

Aktualisiert am 12. September 2026

Zwischen dem Sachverhalt und dem Dokument, das ihn amtlich beschreibt, hat sich ein neues Glied geschoben: das Sprachmodell, das den Text formuliert. KI in der öffentlichen Verwaltung bedeutet inzwischen mehr als einen Chatbot im Bürgerportal. In Texas entstehen Polizeiberichte mit Draft One aus der Tonspur der Bodycam, in Deutschland liest Spark Workflow Antragsunterlagen ein, und in Italien sieht der Umsetzungsentwurf zur KI-Verordnung (AI Act) die automatische Extraktion biometrischer Merkmale vor. Immer verarbeitet ein System Fotos, Aufzeichnungen, Messwerte oder Screenshots zu einem Text, den eine Person prüft und unterzeichnet.

Die Debatte konzentriert sich darauf, wie das Modell schreibt: auf KI-Halluzinationen, erfundene Dialoge und die Grenzen menschlicher Aufsicht. Diese Einwände sind berechtigt, setzen aber zu spät an. Die Frage, die über den Wert eines Verwaltungsakts entscheidet, liegt vor der Generierung: Woher stammen die Daten, die das Modell zusammenfasst? Die Qualität eines mit künstlicher Intelligenz verfassten Verwaltungsakts entscheidet sich an der Quelle. Ist die Dokumentationsbasis nicht zertifiziert, erbt der Text eine Lücke, die keine Prüfung des Wortlauts schließt, denn die Prüfung kontrolliert die Stimmigkeit der Erzählung und nicht die Echtheit der Quelle.

Ein mit künstlicher Intelligenz verfasster Verwaltungsakt ist ein amtlicher Text, den ein Sprachmodell (LLM) aus einer Dokumentationsbasis erzeugt, etwa aus Fotografien, Tonaufzeichnungen, Messwerten oder Screenshots, und den anschließend eine zuständige Person prüft, korrigiert und verantwortet. Der bekannteste Fall ist Draft One von Axon: Das System transkribiert die Tonspur der Bodycam und erstellt in etwa fünf Minuten einen Berichtsentwurf, den der Beamte bearbeitet und exportiert. Nach Angaben des COPS Office im US-Justizministerium verarbeitet Draft One die Aufzeichnung der am Körper getragenen Kamera mit einer Variante von ChatGPT, und die Beamten müssen eine Erklärung unterzeichnen, dass der Bericht mit Draft One erzeugt und von ihnen geprüft und korrigiert wurde. Das Johnson County Sheriff’s Office in Texas nutzte das Verfahren laut 404 Media für einen Bericht über eine Abfrage im Kameranetz von Flock, mit der eine Frau gesucht wurde, die eigenständig abgetrieben hatte. Der Text war in Minuten fertig; was die Kameras tatsächlich aufgezeichnet hatten, blieb davon unberührt.

KI in der öffentlichen Verwaltung: wo das Sprachmodell in den Verwaltungsakt eintritt

Das Sprachmodell tritt an drei Stellen in den Verwaltungsakt ein: bei der Aufbereitung der Unterlagen, bei der Formulierung des Textes und bei der rechtlichen Einordnung. Die Daten erzeugt es in keinem bekannten Fall selbst.

Drei Fälle auf drei Märkten: Polizeiberichte, Workflows in der deutschen Verwaltung, Umsetzung der KI-Verordnung in Italien

Spark Workflow, eine Software des Bundesministeriums für Digitales und Staatsmodernisierung, wandelt Word-, PDF- und PowerPoint-Dateien in Markdown um und prüft mit vordefinierten Prompts Vollständigkeit und Plausibilität von Anträgen, derzeit für Umweltgenehmigungen. Minister Wildberger will Infrastrukturverfahren so um 50 bis 80 Prozent beschleunigen, wie das BMDS und heise berichten.

Der italienische Fall betrifft die Daten vor dem Text: Der Umsetzungsentwurf zur KI-Verordnung (Regierungsakt Nr. 418) sieht vor, biometrische Daten automatisch aus den Gesichtern aller Personen zu extrahieren, die Stadien, Bahnhöfe oder Demonstrationen betreten, und sie sieben Tage vorzuhalten. Die italienische Datenschutzbehörde hält das laut Matteo Flora und Agenda Digitale für unvereinbar mit Art. 26 Abs. 10 der KI-Verordnung.

Was die menschliche Prüfung kontrollieren kann und was nicht

Die menschliche Prüfung eines generierten Textes kontrolliert die Stimmigkeit der Darstellung: ob Namen, Zeiten und Abläufe zu den Unterlagen passen, ob das Modell etwas erfunden hat. Ob die Unterlagen echt sind und zum angegebenen Zeitpunkt entstanden sind, kann sie nicht feststellen.

Anders als oft angenommen, prüft die menschliche Aufsicht über einen KI-generierten Verwaltungstext den Text und nicht die Wirklichkeit dahinter. Stefan Kaufmann hat auf netzpolitik.org am 12. August 2026 für Spark Workflow festgehalten, dass es weder eine wissenschaftliche Validierung noch eine definierte Fehlerschwelle gibt, dass derselbe Input zu unterschiedlichen Ergebnissen führt und dass der Mensch in der Kontrollschleife nicht zuverlässig beurteilen kann, ob der Output korrekt ist. Bei Draft One kommt ein zweites Problem hinzu: Der ursprüngliche Entwurf wird nicht gespeichert, „and that’s by design“, so der Produktverantwortliche von Axon laut der Electronic Frontier Foundation. Im Nachhinein lässt sich nicht mehr trennen, was das Modell und was der Beamte geschrieben hat. Kalifornien verlangt mit dem Gesetz SB 524 (2025) einen Hinweis am Ende des Berichts und die Aufbewahrung des ersten Entwurfs; Utah schreibt mit SB 180 (2025) eine Warnung und eine Bestätigung des Beamten vor, den Inhalt geprüft zu haben. Beide Regeln betreffen den Text; ob die Bodycam-Aufzeichnung unverändert ist, sagen sie nicht.

Die Frage, die über den Wert des Verwaltungsakts entscheidet: woher stammen die Daten

Ein Verwaltungsakt ist so belastbar wie die Tatsachen, auf die er sich stützt. Fasst ein Sprachmodell sie aus Dateien zusammen, verschwindet die Frage nach der Datenherkunft nicht, sie wird nur schwerer erkennbar.

Fotografien, Messwerte, Aufzeichnungen und Screenshots: die Dokumentationsbasis des Verwaltungsakts

Die Dokumentationsbasis eines Verwaltungsakts besteht heute überwiegend aus digitalen Erfassungen: Fotos vom Diensttelefon, Messwerte von Prüfgeräten, Ton- und Videoaufzeichnungen, Screenshots aus Fachverfahren. An jeder Quelle zählen zwei Eigenschaften: der Zeitpunkt ihrer Entstehung und ihre Unversehrtheit seither. Eine Fotografie belegt zunächst nur, dass irgendwann irgendwo ein Bild entstanden ist; ein Messwert in einer Tabelle sagt nichts darüber, welches Gerät ihn wann geliefert hat, weshalb die Herkunft von Messdaten in Prüfberichten ein eigenes Thema ist. Das Modell nimmt diese Dateien als gegeben hin und formuliert flüssig, was es sieht, und genau das erweckt den Eindruck geprüfter Tatsachen.

Die geerbte Lücke: fehlt die Zertifizierung der Quelle, schließt sie kein noch so sorgfältiger Text

Der Beweiswert eines generierten Verwaltungstextes übersteigt nie den Beweiswert seiner Quelle. Fehlt der Quelle der belegbare Zeitpunkt oder die belegbare Unversehrtheit, erbt der Text diese Lücke.

Der Beweiswert eines Verwaltungsakts, den ein Sprachmodell verfasst hat, ist durch den Beweiswert der Dokumentationsbasis nach oben begrenzt. Ein Bescheid, der auf einer Fotografie ohne belegbaren Aufnahmezeitpunkt beruht, wird nicht dadurch belastbarer, dass der Text sprachlich einwandfrei ist und dreimal gegengelesen wurde. Die KI-Verordnung (Verordnung (EU) 2024/1689) verlangt in Artikel 12 für Hochrisiko-Systeme eine automatische Aufzeichnung der Ereignisse, also eine Protokollierung über den Betrieb des Systems. Diese Protokolle dokumentieren, was das System getan hat: welche Eingabe es erhalten und welche Ausgabe es erzeugt hat. Sie dokumentieren nicht, ob die Eingabe echt war. Ein Protokoll, das festhält, dass um 14:32 Uhr eine Datei namens „Ortstermin_03.jpg“ verarbeitet wurde, sagt nichts darüber, wann und wo diese Datei entstanden ist und ob sie seither verändert wurde. Wer die Lücke schließen will, muss vor dem Modell ansetzen, nämlich bei der Erfassung des Materials.

Bestreitet der Adressat, dass die Fotografie den Zustand am angegebenen Tag zeigt, hilft die Prüfung des Textes nicht weiter. Gefragt ist der Nachweis, wie sich der Beweiswert digitaler Dokumente nachprüfen lässt; fehlt er, stützt sich der Akt allein auf die Erinnerung der Person, die fotografiert hat.

Was das Recht verlangt: menschliche Aufsicht, Transparenz und eine Begründung, die auf Tatsachen fußt

Das Recht verlangt für KI in der öffentlichen Verwaltung wirksame menschliche Aufsicht, Transparenz gegenüber den Betroffenen und eine Begründung, die auf festgestellten Tatsachen beruht. Alle drei setzen voraus, dass die Quelle der Daten überprüfbar bleibt.

KI-Verordnung: menschliche Aufsicht (Art. 14 und 26) und Transparenzpflichten (Art. 50) für den öffentlichen Einsatz

Die KI-Verordnung stuft zahlreiche Anwendungen von KI in Behörden als Hochrisiko ein; Anhang III nennt unter anderem wesentliche öffentliche Dienste, Strafverfolgung, Migration und Justiz.

Artikel 14 der KI-Verordnung (Verordnung (EU) 2024/1689) verlangt, dass Hochrisiko-KI-Systeme so gestaltet sind, dass natürliche Personen sie während der Nutzung wirksam beaufsichtigen können. Die mit der Aufsicht betrauten Personen müssen die Fähigkeiten und Grenzen des Systems verstehen, seinen Output richtig interpretieren, entscheiden können, ihn nicht zu verwenden oder zu übergehen, und in der Lage sein, einzugreifen oder das System anzuhalten. Artikel 26 überträgt den Betreibern, also auch Behörden, die Pflicht, diese Aufsicht kompetenten Personen zu übertragen, das System gemäß der Betriebsanleitung zu nutzen und die Protokolle aufzubewahren; Absatz 10 regelt die nachträgliche biometrische Identifizierung in Ermittlungen. Artikel 50 ergänzt Transparenzpflichten gegenüber den Betroffenen. Für einen Verwaltungsakt, der aus Fotos oder Aufzeichnungen entsteht, bedeutet das: Wer den Output richtig interpretieren soll, muss auf die Quelle zugreifen und ihre Echtheit einschätzen können. Eine Aufsicht, die nur den Text sieht, erfüllt die Anforderung dem Buchstaben nach, nicht dem Sinn nach.

Die Kennzeichnung nach Artikel 50 macht sichtbar, dass ein System beteiligt war, sagt aber nichts über die Echtheit der Unterlagen; warum Kennzeichnen allein keinen Echtheitsnachweis ersetzt, welche Pflichten die KI-Verordnung seit August 2026 auslöst und wo ihre Grenzen bei der Authentizität von Inhalten liegen, haben wir gesondert beschrieben. Die menschliche Aufsicht nach Artikel 14 setzt voraus, dass die prüfende Person zur Quelle zurückgehen kann: TrueScreen macht jede Erfassung unabhängig nachprüfbar.

Der elektronische Verwaltungsakt und seine Begründung: festgestellte Tatsachen, nicht bloß wiedergegebene (§ 35a und § 39 VwVfG)

Das deutsche Verwaltungsverfahrensrecht setzt zwei Grenzen. § 35a VwVfG erlaubt den vollständig automatisierten Erlass eines Verwaltungsakts nur, wenn eine Rechtsvorschrift ihn zulässt und weder Ermessen noch Beurteilungsspielraum besteht. § 39 VwVfG verlangt für den schriftlichen oder elektronischen Verwaltungsakt eine Begründung mit den wesentlichen tatsächlichen und rechtlichen Gründen.

Für Sprachmodelle folgt daraus zweierlei. Erstens: Sobald Ermessen im Spiel ist, und das ist bei Genehmigungen und Ordnungsverfügungen der Regelfall, darf das Modell nur zuarbeiten; die Legal Tribune Online hat 2025 herausgearbeitet, dass § 35a VwVfG den vollautomatisierten Verwaltungsakt auf gebundene Entscheidungen beschränkt. Zweitens: Die tatsächlichen Gründe des § 39 sind festgestellte Tatsachen, nicht Tatsachen, die ein Modell aus Dateien herausgelesen hat. Eine Fotografie mit zertifiziertem Aufnahmezeitpunkt ist eine festgestellte Tatsache; eine Bilddatei aus einem Ordner ist eine Behauptung.

Was muss eine Behörde tun, wenn sie KI in einem Verfahren einsetzt?

Eine Behörde, die KI in einem Verfahren einsetzt, muss fünf Dinge sicherstellen:

1. Die Dokumentationsbasis vor der Generierung zertifizieren. Fotos, Messwerte, Aufzeichnungen und Screenshots erhalten im Moment der Erfassung Zeitstempel, Siegel und geprüfte Metadaten.
2. Menschliche Aufsicht mit Zugang zur Quelle organisieren (Art. 14 und 26 KI-Verordnung). Die prüfende Person muss den Output verwerfen können und die Unterlagen einsehen.
3. Betroffene informieren (Art. 50 KI-Verordnung). Die Kennzeichnung ergänzt den Echtheitsnachweis, sie ersetzt ihn nicht.
4. Protokolle aufbewahren und Entwürfe sichern (Art. 12 und 26 KI-Verordnung). Eingaben, Ausgaben und der erste Entwurf müssen rekonstruierbar bleiben.
5. Die Begründung auf festgestellte Tatsachen stützen und die Automationsgrenze beachten (§ 39 und § 35a VwVfG). Bei Ermessen entscheidet ein Mensch.

Zwei Fälle aus der Praxis: die Feststellung vor Ort und der Prüfvermerk

In zwei Alltagssituationen der Kommunalverwaltung reißt die Lücke auf, und in beiden ist das Sprachmodell nicht das schwächste Glied.

Der Bericht aus Fotografien vom Diensttelefon, die nie zertifiziert wurden

Ein Außendienstmitarbeiter des Ordnungsamts stellt eine unerlaubte Sondernutzung öffentlicher Flächen fest und macht mit dem Diensttelefon acht Fotos. Im Büro erzeugt ein Sprachmodell daraus den Feststellungsbericht, der Sachbearbeiter prüft und zeichnet. Drei Wochen später bestreitet der Adressat, dass die Fotos am genannten Tag entstanden sind.

Eine Fotografie vom Diensttelefon ohne zertifizierte Erfassung belegt Zeitpunkt, Ort und Unversehrtheit nicht aus sich heraus. Das Aufnahmedatum in den Metadaten ist ein frei beschreibbares Feld, die Ortsangabe ebenso, und ob das Bild seit der Aufnahme verändert wurde, sieht man ihm nicht an. Ein kryptografischer Hashwert, etwa SHA-256 nach der Spezifikation des US-amerikanischen NIST (FIPS 180-4), macht jede spätere Änderung an der Datei erkennbar, aber nur ab dem Moment, in dem er berechnet wurde. Wird der Hashwert erst im Büro gebildet, drei Stunden nach dem Ortstermin, bleibt für diese drei Stunden eine Lücke, die kein Textentwurf und keine Prüfung des Berichts schließt. Die Norm ISO/IEC 27037 beschreibt deshalb Identifizierung, Sammlung, Erfassung und Aufbewahrung digitaler Beweismittel als zusammenhängenden Vorgang, der bei der Erfassung beginnt. Für den Feststellungsbericht heißt das: Entweder die Fotos wurden im Moment der Aufnahme mit Zeitstempel und Siegel erfasst, oder der Bericht stützt sich auf die Erinnerung des Mitarbeiters.

Der Prüfvermerk, der von Dritten hochgeladene Unterlagen zusammenfasst, ohne Beleg, wann und von wem

Der zweite Fall ist der Kern von Spark Workflow: Antragsteller laden Gutachten hoch, ein System prüft sie, der Sachbearbeiter erhält einen Vermerk. Er taugt nur so viel wie der Nachweis, welche Fassung wann und von wem eingereicht wurde.

Wird ein Gutachten nach der Einreichung ausgetauscht, bezieht sich der Vermerk auf ein Dokument, das es so nicht mehr gibt; bestreitet der Antragsteller eine Seite, steht Aussage gegen Serverprotokoll. Kaufmanns Einwand, dass derselbe Input zu unterschiedlichen Ergebnissen führt, verschärft das: Ist der Input nicht fixiert, lässt sich der Output nicht reproduzieren. Behörden nutzen TrueScreen, the Data Authenticity Platform, um eingereichten Unterlagen und Screenshots aus Fachverfahren einen belegbaren Zeitpunkt und eine nachweisbare Unversehrtheit zu geben, bevor ein Vermerk sie zusammenfasst.

Wie wird die Quelle eines mit KI verfassten Verwaltungsakts zertifiziert?

TrueScreen, the Data Authenticity Platform, zertifiziert das Material, das in den Verwaltungsakt einfließt, an der Quelle: Fotografie, Aufzeichnung, Messwert oder Screenshot erhalten im Moment der Erfassung ein digitales Siegel und einen Zeitstempel, mit geprüften Metadaten und einem technischen Prüfbericht, den jede Person nachvollziehen kann. Das Sprachmodell fasst dann Material zusammen, dessen Herkunft bereits belegt ist, und die menschliche Aufsicht kann sich auf den Text konzentrieren.

Die Quelle eines mit KI verfassten Verwaltungsakts zu zertifizieren heißt, Zeitpunkt, Herkunft und Unversehrtheit jeder Fotografie, Aufzeichnung, Messung oder jedes Screenshots in dem Moment festzuhalten, in dem die Datei entsteht, und diesen Nachweis so zu verpacken, dass Dritte ihn ohne Vertrauensvorschuss prüfen können. TrueScreen setzt dafür eine patentierte forensische Methodik ein, die sich an ISO/IEC 27037 orientiert: Die Erfassung läuft in einer kontrollierten Umgebung, in der weder eine Person noch eine Software den Inhalt im Moment seiner Entstehung verändern kann; anschließend werden Geräteintegrität, Metadaten wie Uhrzeit, Position, IP-Adresse und Kennungen sowie die Hashwerte des Pakets geprüft; ein technischer Bericht als PDF und JSON dokumentiert die vollständige Beweiskette; ein offizielles digitales Siegel und ein offizieller Zeitstempel, international anerkannt, schließen die Zertifizierung ab. Artikel 41 der eIDAS-Verordnung (EU) 910/2014 beschreibt, was ein solcher Zeitstempel rechtlich leistet: Für einen qualifizierten elektronischen Zeitstempel gilt die Vermutung der Richtigkeit von Datum und Uhrzeit und der Unversehrtheit der verknüpften Daten.

Zwei Wege führen dorthin. Bei der Erfassung in Echtzeit entsteht der Nachweis in dem Moment, in dem das Foto oder der Screenshot entsteht; das ist der Weg mit dem höchsten Beweiswert. Beim Import einer vorhandenen Datei bestätigt TrueScreen, dass sie seit dem Import unverändert blieb, nicht, wie sie entstanden ist. Fotos vom Ortstermin werden also in Echtzeit erfasst, eingereichte Unterlagen beim Eingang importiert.

Das zertifizierte Paket ist eigenständig: Widerspruchsstelle, Gericht oder Sachverständige prüfen Hashwerte, Siegel und Zeitstempel mit Standardwerkzeugen, ohne TrueScreen zu benötigen. Dahinter steht eine Unterscheidung: Integrität heißt, dass eine Datei nicht verändert wurde; Authentizität heißt, dass sie dem entspricht, was sie darzustellen vorgibt. Ein Siegel allein sichert die Integrität einer Datei, die von Anfang an falsch gewesen sein könnte; erst die forensische Erfassung sichert die Authentizität. Beides ergibt Dokumentation mit Beweiswert; zum Beweis wird sie, wenn ein Gericht sie zulässt.

Ebenso klar ist, was TrueScreen nicht leistet. Es bezeugt das Wie, nicht das Was: dass die Erfassung echt ist und der Inhalt unverändert blieb, nicht, dass das, was vor der Kamera stand, dem entspricht, was der Mitarbeiter darüber sagt; den Verwaltungsakt beurteilt es nicht in der Sache. So wird die Trennlinie sichtbar, die der Fall Draft One verwischt: hier das, was geschehen ist, dort das, was das Modell daraus gemacht hat, dazwischen die Person, die beides verantwortet. Im Widerspruchsverfahren legt das Ordnungsamt dann das Prüfpaket zu den acht Fotos vor und nicht die Erinnerung des Mitarbeiters.

FAQ: KI in der öffentlichen Verwaltung und Datenherkunft

Darf eine deutsche Behörde einen Verwaltungsakt vollständig automatisiert erlassen?
+

Nur in engen Grenzen. Nach § 35a VwVfG ist der vollständig automatisierte Erlass eines Verwaltungsakts nur zulässig, wenn eine Rechtsvorschrift ihn ausdrücklich erlaubt und weder Ermessen noch Beurteilungsspielraum besteht. Genehmigungen, Ordnungsverfügungen und Berichte über Feststellungen vor Ort enthalten in aller Regel Ermessen; dort darf ein KI-System Entwürfe vorbereiten, Unterlagen sortieren und Plausibilitäten prüfen, die Entscheidung trifft aber eine Person. Die Legal Tribune Online hat 2025 herausgearbeitet, dass der KI-gestützte Entwurf unter menschlicher Verantwortung vom vollautomatisierten Verwaltungsakt zu unterscheiden ist. Unabhängig davon muss die Behörde belegen können, auf welche Tatsachen sich der Akt stützt.

Was muss die Begründung eines mit KI verfassten Verwaltungsakts enthalten?
+

Die wesentlichen tatsächlichen und rechtlichen Gründe, die die Behörde zu ihrer Entscheidung bewogen haben. Das verlangt § 39 VwVfG für jeden schriftlichen oder elektronischen Verwaltungsakt, unabhängig davon, ob ein Sprachmodell am Entwurf beteiligt war. Tatsächliche Gründe sind festgestellte Tatsachen, also Umstände, die die Behörde belegen kann, und nicht Beschreibungen, die ein Modell aus Dateien herausgelesen hat. Praktisch bedeutet das: Zu jeder Fotografie, jedem Messwert und jedem Screenshot, auf die sich der Bescheid stützt, sollte belegbar sein, wann und womit sie entstanden sind und dass sie seither unverändert blieben. Fehlt dieser Beleg, bleibt die Begründung formal vollständig, aber in der Sache angreifbar.

Was kann die menschliche Prüfung eines KI-generierten Textes nicht kontrollieren?
+

Die Echtheit der Quelle. Wer einen von einem Sprachmodell verfassten Verwaltungstext prüft, kann erkennen, ob Namen, Zeiten und Abläufe zu den Unterlagen passen, ob das Modell Inhalte erfunden hat und ob die rechtliche Einordnung trägt. Ob eine Fotografie am angegebenen Tag entstanden ist, ob eine Aufzeichnung geschnitten wurde oder wer ein Dokument wann eingereicht hat, lässt sich durch Lektüre nicht feststellen. Stefan Kaufmann hat auf netzpolitik.org im August 2026 für Spark Workflow außerdem festgehalten, dass der Mensch in der Kontrollschleife nicht zuverlässig beurteilen kann, ob der Output korrekt ist, wenn Validierung und Fehlerschwelle fehlen. Die Prüfung sichert den Text, nicht die Wirklichkeit dahinter.

Was verlangt Artikel 14 der KI-Verordnung von Behörden, die KI einsetzen?
+

Eine wirksame menschliche Aufsicht über Hochrisiko-KI-Systeme. Nach Artikel 14 der KI-Verordnung (Verordnung (EU) 2024/1689) müssen die mit der Aufsicht betrauten Personen die Fähigkeiten und Grenzen des Systems verstehen, seinen Output richtig interpretieren, entscheiden können, ihn nicht zu verwenden, und in der Lage sein, einzugreifen oder das System anzuhalten. Artikel 26 verpflichtet Betreiber, also auch Behörden, diese Aufsicht kompetenten Personen zu übertragen und die Protokolle aufzubewahren. Anhang III stuft unter anderem Strafverfolgung, Migration, Justiz und den Zugang zu wesentlichen öffentlichen Diensten als Hochrisiko ein. Eine Aufsicht, die den Output richtig interpretieren soll, braucht Zugang zu den Quellen, aus denen er entstanden ist.

Wie lässt sich belegen, woher die Daten stammen, die ein Verwaltungsakt zusammenfasst?
+

Indem die Quelle im Moment ihrer Entstehung zertifiziert wird und nicht erst der fertige Text. Mit TrueScreen, the Data Authenticity Platform, erhalten Fotografien, Aufzeichnungen, Messwerte und Screenshots bei der Erfassung ein digitales Siegel und einen Zeitstempel, verbunden mit geprüften Metadaten zu Uhrzeit, Position und Gerät und einem technischen Prüfbericht, den Dritte mit Standardwerkzeugen nachvollziehen können. Ein mit KI verfasster Verwaltungsakt ist so angreifbar wie seine Quelle; die Zertifizierung an der Quelle schließt diese Lücke, bevor das Modell schreibt. Artikel 41 der eIDAS-Verordnung beschreibt, was ein Zeitstempel rechtlich leistet: die Vermutung der Richtigkeit von Datum und Uhrzeit und der Unversehrtheit der verknüpften Daten.

Was ist Draft One und warum steht es in der Kritik?
+

Draft One ist eine Software von Axon, die die Tonspur einer Bodycam transkribiert und daraus in etwa fünf Minuten den Entwurf eines Polizeiberichts erzeugt, den der Beamte bearbeitet und exportiert. Nach Angaben des COPS Office im US-Justizministerium arbeitet das System mit einer Variante von ChatGPT, und die Beamten müssen bestätigen, den Bericht geprüft und korrigiert zu haben. Die Kritik richtet sich vor allem darauf, dass der ursprüngliche Entwurf nicht gespeichert wird, wie die Electronic Frontier Foundation dokumentiert: Nachträglich lässt sich nicht mehr trennen, was das Modell und was der Beamte geschrieben hat. Kalifornien (SB 524) und Utah (SB 180) haben 2025 deshalb Kennzeichnungs- und Aufbewahrungspflichten eingeführt.

Was kann KI in der öffentlichen Verwaltung heute leisten?
+

Sie kann Unterlagen aufbereiten, auf Vollständigkeit und Plausibilität prüfen und Entwürfe für Texte und rechtliche Einordnungen erzeugen. Spark Workflow, die Software des Bundesministeriums für Digitales und Staatsmodernisierung, wandelt Word-, PDF- und PowerPoint-Dateien in Markdown um und wertet sie mit vordefinierten Prompts aus; nach der Pressemitteilung des BMDS soll das Infrastrukturverfahren um 50 bis 80 Prozent beschleunigen, derzeit im Bereich der Umweltgenehmigungen. Was KI nicht leisten kann, ist die Prüfung, ob die eingereichten Unterlagen echt sind und wann sie entstanden sind. Diese Frage muss vor dem Einsatz des Modells beantwortet werden, durch eine Erfassung der Quellen, die Zeitpunkt und Unversehrtheit belegt.