Digitale Verwaltung oder unsichtbare Kontrolle? Die Wahrheit über die KI-Zukunft Deutschlands

„Versorgung statt Verschwendung“ – das neue Reformbuch über einen Staat, der den Bürgern wieder dienen soll.

Von Alfred-Walter von Staufen

Die Architektur der Bequemlichkeit

Man erkennt die eigentliche Veränderung selten an dem, was laut verkündet wird, sondern an dem, was still eingeführt und dann als selbstverständlich akzeptiert wird und genauso verhält es sich mit der digitalen Neuordnung des Staates, der sich zunehmend von einer schwerfälligen, papiergetriebenen Verwaltungsmaschine zu einer schlanken, algorithmisch gestützten Plattform wandelt, die nicht mehr nur Anträge entgegennimmt, sondern beginnt, Verhalten zu interpretieren, Entscheidungen vorzubereiten und schließlich selbst zu treffen, während der Bürger – oft dankbar, gelegentlich irritiert – diesen Wandel begleitet, weil er ihm zunächst Zeit, Wege und Mühe erspart.

Was unter wohlklingenden Begriffen wie „Effizienz“, „Modernisierung“ oder „digitale Souveränität“ läuft, ist in seiner technischen Struktur erstaunlich klar: Daten werden gesammelt, verknüpft und ausgewertet, Prozesse werden automatisiert, und Schnittstellen werden vereinheitlicht, sodass aus vielen einzelnen Behörden, Formularen und Zuständigkeiten ein integriertes System entsteht, das nicht mehr fragmentiert arbeitet, sondern kohärent, schnell und – aus Sicht der Entwickler – rational (1).

Die geplante Bürger-App, umgesetzt durch Unternehmen wie SAP und Deutsche Telekom, ist dabei kein isoliertes Projekt, sondern ein logischer Knotenpunkt dieser Entwicklung, eine Art digitaler Zugangsschlüssel, über den sich sämtliche Interaktionen zwischen Staat und Bürger bündeln lassen – von der Steuererklärung über den Arzttermin bis zur Identitätsprüfung, alles in einer Oberfläche, die so freundlich gestaltet ist, dass man kaum merkt, wie viel Macht sie in sich trägt.

Dass Staaten diesen Weg gehen, ist weder überraschend noch per se problematisch, denn die bestehende Verwaltung ist teuer, langsam und oft ineffizient, und die Digitalisierung verspricht genau das, was politisch seit Jahren gefordert wird: weniger Bürokratie, schnellere Verfahren, geringere Kosten, bessere Planbarkeit (2). Doch die eigentliche Frage stellt sich nicht auf der Oberfläche der Anwendung, sondern in ihrer Architektur, denn dort entscheidet sich, ob ein System dient oder lenkt.

Man muss sich vor Augen führen, dass Daten in diesem Kontext nicht einfach Informationen sind, sondern strukturierte Abbilder menschlichen Lebens, die – einmal zusammengeführt – Muster sichtbar machen, die kein Sachbearbeiter je erkennen könnte, und genau hier beginnt die Verschiebung: Wenn Steuerdaten, Gesundheitsdaten, Mobilitätsdaten und Bildungsinformationen technisch verknüpft werden können, entsteht kein klassisches Register mehr, sondern ein dynamisches Profil, das sich permanent aktualisiert und bewertet wird, ohne dass der Betroffene zwingend versteht, wie diese Bewertung zustande kommt.

Die europäische Datenschutz-Grundverordnung, oft als Bollwerk gegen solche Entwicklungen dargestellt, setzt zwar klare Grenzen für die Verarbeitung personenbezogener Daten (3), doch sie stößt dort an ihre Grenzen, wo technische Komplexität und praktische Umsetzung auseinanderlaufen, denn ein System kann formal regelkonform sein und dennoch in seiner Wirkung eine Form von Kontrolle entfalten, die politisch nie ausdrücklich beschlossen wurde, sondern sich aus der Logik der Effizienz ergibt.

Die eigentliche Dynamik entsteht nicht durch einen großen politischen Entschluss, sondern durch eine Kette kleiner Entscheidungen: eine Schnittstelle hier, eine Datenverknüpfung dort, eine Automatisierung an einer Stelle, an der sie zunächst harmlos erscheint, bis sich das Gesamtbild verändert hat, ohne dass jemand einen klaren Moment benennen kann, an dem die Richtung gekippt ist.

Dabei spielt auch die Rolle von KI-Systemen eine entscheidende Funktion, denn sie sind nicht mehr nur Werkzeuge zur Verarbeitung von Daten, sondern zunehmend Systeme, die Entscheidungen vorbereiten oder sogar treffen, indem sie Wahrscheinlichkeiten berechnen, Prioritäten setzen und Risiken bewerten, und genau hier verschiebt sich die Verantwortung, denn was früher ein Beamter mit Namen und Zuständigkeit entschieden hat, wird nun von einem Modell getroffen, das weder haftbar noch greifbar ist.

Die große Erzählung lautet weiterhin: Der Mensch entscheidet, die KI unterstützt, und formal stimmt das auch, doch in der Praxis zeigt sich ein anderes Bild, denn wenn ein System eine Entscheidung mit hoher Wahrscheinlichkeit empfiehlt, wird sie selten hinterfragt, und so entsteht eine neue Form von Autorität, die nicht durch Amt oder Wahl legitimiert ist, sondern durch Effizienz und scheinbare Objektivität.

Man könnte sagen, dass sich hier eine neue Infrastruktur des Staates bildet, nicht aus Gebäuden oder Behörden, sondern aus Datenströmen, Algorithmen und Plattformen, die leise, aber nachhaltig die Art verändern, wie Macht ausgeübt wird, denn wer die Infrastruktur kontrolliert, kontrolliert nicht nur Prozesse, sondern auch Möglichkeiten, und genau darin liegt die eigentliche Tragweite dieser Entwicklung.

Es ist kein dramatischer Umbruch, kein sichtbarer Einschnitt, sondern eine langsame Verschiebung, die sich im Alltag kaum bemerkbar macht, weil sie von Komfort begleitet wird, und vielleicht ist das der entscheidende Punkt: Systeme, die sich als Erleichterung präsentieren, werden selten infrage gestellt, selbst dann nicht, wenn sie beginnen, mehr zu tun, als ursprünglich vorgesehen war.

Und so entsteht eine Architektur der Bequemlichkeit, die nicht durch Zwang funktioniert, sondern durch Akzeptanz, nicht durch Kontrolle im klassischen Sinne, sondern durch Struktur, und gerade deshalb so schwer zu erkennen ist, weil sie sich nicht gegen den Bürger richtet, sondern scheinbar für ihn arbeitet.

Die stille Logik der Priorität

Die eigentliche Verschiebung beginnt nicht dort, wo Gesetze geändert werden, sondern dort, wo Systeme anfangen, Unterschiede zu machen, die niemand beschlossen hat und die dennoch wirksam sind, weil sie aus der Logik der Effizienz entstehen, aus der Notwendigkeit, Prozesse zu beschleunigen, Anträge zu sortieren und Ressourcen zu verteilen, sodass sich langsam ein Prinzip einschleicht, das in keiner Verfassung steht und doch den Alltag bestimmt: Nicht jeder wird gleich behandelt, sondern jeder wird unterschiedlich priorisiert.

Man merkt es zunächst an Kleinigkeiten, an Verzögerungen, die sich nicht erklären lassen, an Entscheidungen, die formal korrekt erscheinen, aber im Ergebnis ungleich wirken, und genau hier beginnt die stille Macht der algorithmischen Systeme, die nicht mehr nur prüfen, ob ein Anspruch besteht, sondern wie wahrscheinlich es ist, dass ein Antrag „passt“, wie konsistent Daten erscheinen, wie zuverlässig ein Verhalten wirkt, ohne dass diese Kriterien offen benannt oder nachvollziehbar gemacht werden.

Was früher als Verwaltung galt, wird zu einer Form von Bewertung, nicht im Sinne eines offenen Punktesystems, sondern als implizite Gewichtung von Faktoren, die im Hintergrund wirken, während auf der Oberfläche weiterhin die Sprache des Rechts gesprochen wird, sodass der Bürger den Eindruck behält, er bewege sich in einem bekannten Rahmen, obwohl die eigentliche Entscheidung längst auf einer anderen Ebene gefallen ist, einer Ebene, die sich der direkten Einsicht entzieht.

Diese Entwicklung ist kein Zufall, sondern das Ergebnis technischer Möglichkeiten, denn moderne KI-Systeme sind darauf ausgelegt, Muster zu erkennen und Entscheidungen zu optimieren, indem sie Wahrscheinlichkeiten berechnen, und genau diese Fähigkeit macht sie für Verwaltungssysteme so attraktiv, weil sie verspricht, das zu leisten, woran klassische Bürokratien scheitern: schnelle, konsistente und skalierbare Entscheidungen, die sich an Daten orientieren und nicht an individuellen Einschätzungen (4).

Doch mit dieser Effizienz kommt eine neue Form von Intransparenz, denn während ein menschlicher Entscheider zumindest theoretisch erklären kann, warum er so und nicht anders gehandelt hat, liefern viele algorithmische Systeme Ergebnisse, die sich nicht ohne Weiteres nachvollziehen lassen, weil sie auf komplexen Modellen beruhen, deren interne Logik selbst für Experten nur begrenzt verständlich ist, was dazu führt, dass Entscheidungen zwar getroffen, aber nicht mehr wirklich begründet werden können.

TIMMY – Wenn das Meer um Hilfe ruft | Buchbanner

Die Folge ist eine Verschiebung von Recht zu Wahrscheinlichkeit, von Anspruch zu Priorität, von Gleichheit zu Differenzierung, und diese Verschiebung wird selten offen diskutiert, weil sie sich nicht als politisches Programm präsentiert, sondern als technische Verbesserung, als notwendiger Schritt in Richtung moderner Verwaltung, die sich den Herausforderungen einer digitalisierten Gesellschaft stellt.

Dabei spielt die Verknüpfung von Daten eine zentrale Rolle, denn erst durch sie wird es möglich, ein umfassendes Bild zu erzeugen, das über einzelne Sachverhalte hinausgeht und Zusammenhänge sichtbar macht, die zuvor verborgen waren, und genau diese Verknüpfung ist es, die aus isolierten Informationen ein System macht, das nicht nur reagiert, sondern antizipiert, das nicht nur prüft, sondern bewertet, und das nicht nur entscheidet, sondern strukturiert.

Man kann sich das wie ein unsichtbares Raster vorstellen, das sich über den Alltag legt und in dem jede Handlung, jede Anfrage, jede Interaktion ihren Platz findet, nicht als bewusste Kontrolle, sondern als Folge technischer Integration, die es erlaubt, Prozesse miteinander zu verbinden und so ein Gesamtbild zu erzeugen, das wiederum als Grundlage für weitere Entscheidungen dient.

Diese Entwicklung wird verstärkt durch die zunehmende Rolle großer Technologieunternehmen, die nicht nur die Infrastruktur bereitstellen, sondern auch die Systeme entwickeln, auf denen diese Prozesse laufen, und damit einen Einfluss gewinnen, der weit über das hinausgeht, was klassische Dienstleister je hatten, weil sie nicht nur liefern, sondern gestalten, nicht nur ausführen, sondern definieren, was technisch möglich ist und wie es umgesetzt wird.

Wenn Unternehmen wie SAP oder Deutsche Telekom zentrale Plattformen entwickeln, dann bringen sie nicht nur Technologie ein, sondern auch eine bestimmte Logik, eine bestimmte Art, Prozesse zu denken, die sich an Effizienz, Skalierbarkeit und Optimierung orientiert, und diese Logik wird Teil des Systems, ohne dass sie politisch verhandelt oder gesellschaftlich reflektiert wird.

Gleichzeitig bleibt die formale Kontrolle bestehen, zumindest auf dem Papier, denn Parlamente verabschieden Gesetze, Gerichte prüfen Entscheidungen, Datenschutzbehörden überwachen die Einhaltung von Regeln, doch diese Kontrolle stößt dort an ihre Grenzen, wo Systeme so komplex werden, dass ihre Wirkung nicht mehr vollständig erfasst werden kann, sodass sich eine Lücke auftut zwischen formaler Aufsicht und tatsächlicher Steuerung.

In dieser Lücke entsteht das, was man als strukturelle Macht bezeichnen könnte, eine Macht, die nicht durch einzelne Akteure ausgeübt wird, sondern durch das Zusammenspiel von Technik, Daten und Prozessen, die gemeinsam eine Realität formen, in der bestimmte Handlungen leichter, andere schwerer werden, ohne dass jemand bewusst eingreift oder Entscheidungen trifft, die man klar benennen könnte.

Der Bürger bewegt sich in diesem System zunächst unauffällig, er nutzt die Vorteile, spart Zeit, vermeidet Wege, genießt die Bequemlichkeit, die ihm geboten wird, und erst nach und nach stellt sich ein Gefühl ein, das schwer zu greifen ist, ein Gefühl, dass nicht alles gleich ist, dass manche Dinge einfacher gehen als andere, dass Entscheidungen getroffen werden, die sich nicht ganz erschließen, und dass der eigene Einfluss auf das System begrenzt ist, auch wenn formal alle Rechte bestehen bleiben.

Und genau hier liegt die eigentliche Veränderung, nicht in einem plötzlichen Verlust von Freiheit, sondern in einer schleichenden Verschiebung von Handlungsspielräumen, die sich nicht als Einschränkung anfühlt, sondern als Struktur, die vorgibt, was möglich ist und was nicht, ohne dass man sie direkt wahrnimmt, weil sie sich in den Alltag integriert hat.

Zwischen Demokratie und Technokratie

Die entscheidende Frage stellt sich nicht in der Technik, nicht in der App, nicht einmal in den Daten, sondern in der politischen Struktur, die sich langsam unter der Oberfläche verändert, während die äußere Form erstaunlich stabil bleibt, denn Wahlen finden weiterhin statt, Parlamente tagen, Gesetze werden verabschiedet, Gerichte urteilen, und doch entsteht parallel ein zweites System, das nicht gewählt wird, nicht im klassischen Sinne legitimiert ist und dennoch zunehmend darüber entscheidet, wie Entscheidungen praktisch umgesetzt werden.

Man kann diesen Zustand nicht mit den alten Begriffen vollständig erfassen, weil er weder klassische Demokratie noch offene Diktatur ist, sondern etwas Drittes, das sich am ehesten als technokratische Schicht beschreiben lässt, die sich über die demokratischen Strukturen legt, ohne sie formell zu ersetzen, und gerade deshalb so schwer zu erkennen ist, weil sie nicht als Alternative auftritt, sondern als Ergänzung, als notwendige Modernisierung, als logische Antwort auf die Komplexität einer digitalen Gesellschaft.

In dieser Schicht spielen Systeme die zentrale Rolle, nicht Menschen, und Entscheidungen werden zunehmend dort vorbereitet, wo sie nicht mehr politisch verhandelt, sondern technisch berechnet werden, sodass sich die Frage verschiebt: Nicht mehr „Was wollen wir als Gesellschaft?“, sondern „Was ergibt sich aus den Daten?“, und genau in dieser Verschiebung liegt der Übergang von einer politischen zu einer technokratischen Logik, die nicht auf Debatte, sondern auf Optimierung basiert.

Dabei bleibt die demokratische Oberfläche erhalten, sie wird sogar gestärkt, zumindest formal, denn Transparenzgesetze werden erweitert, Datenschutz wird betont, Bürgerrechte werden beschworen, und doch verschiebt sich die tatsächliche Macht in die Infrastruktur, in die Systeme, in die Algorithmen, die bestimmen, wie schnell ein Antrag bearbeitet wird, welche Priorität ein Anliegen erhält und welche Wahrscheinlichkeit eine Entscheidung hat.

Die Frage, ob eine solche KI-gestützte Verwaltung noch eine freie Demokratie ist oder bereits eine Technokratie, lässt sich deshalb nicht mit einem klaren Ja oder Nein beantworten, sondern nur mit einer differenzierten Betrachtung, die beide Elemente gleichzeitig erkennt: formal bleibt das System demokratisch, funktional entwickelt es technokratische Eigenschaften, und genau diese Überlagerung macht es so ambivalent.

Solange Entscheidungen nachvollziehbar sind, solange Einspruch möglich ist, solange Alternativen bestehen und solange die Kontrolle tatsächlich unabhängig funktioniert, bleibt die demokratische Substanz erhalten, auch wenn sich die Form verändert, doch sobald diese Elemente schwächer werden, sobald Entscheidungen in Black-Box-Systemen getroffen werden, Einspruch ins Leere läuft und Alternativen verschwinden, verschiebt sich das Gleichgewicht, und das System nähert sich einer Technokratie an, in der nicht mehr der politische Wille entscheidend ist, sondern die technische Logik.

Diese Entwicklung ist nicht das Ergebnis eines Plans, sondern die Folge eines Prozesses, der aus vielen kleinen Schritten besteht, aus Entscheidungen, die jeweils für sich genommen sinnvoll erscheinen, die aber in ihrer Summe eine Struktur erzeugen, die niemand so entworfen hat und die dennoch wirksam ist, weil sie sich aus der Kombination von Effizienz, Daten und Technologie ergibt.

Die Rolle von Unternehmen wie SAP und Deutsche Telekom verstärkt diesen Effekt, weil sie nicht nur Systeme liefern, sondern auch deren Logik prägen, und damit Einfluss auf Prozesse nehmen, die eigentlich politisch gesteuert werden sollten, sodass sich die Grenze zwischen staatlicher Entscheidung und technischer Umsetzung zunehmend verwischt.

Gleichzeitig wächst die Abhängigkeit von diesen Systemen, weil sie so tief in den Alltag integriert sind, dass ein Verzicht kaum noch möglich ist, und genau hier entsteht eine neue Form von Macht, die nicht durch Zwang ausgeübt wird, sondern durch Alternativlosigkeit, durch die Tatsache, dass bestimmte Prozesse nur noch über diese Systeme laufen, sodass der Bürger faktisch keine Wahl mehr hat, auch wenn ihm formal alle Optionen offenstehen.

Man könnte sagen, dass sich hier eine stille Transformation vollzieht, in der die Demokratie nicht abgeschafft, sondern umgebaut wird, von einem System, das auf politischer Willensbildung basiert, zu einem System, das zunehmend auf technischer Steuerung beruht, ohne dass dieser Wandel offen ausgesprochen oder bewusst entschieden wird.

Die eigentliche Gefahr liegt dabei nicht in der Technologie selbst, sondern in der Kombination aus Zentralisierung, Automatisierung und Intransparenz, die zusammen eine Struktur erzeugen, in der Macht schwerer greifbar und Kontrolle schwieriger wird, während gleichzeitig der Eindruck entsteht, alles funktioniere besser als zuvor, was die Bereitschaft zur Kritik reduziert und die Akzeptanz erhöht.

Und genau darin liegt die stille Stärke – und die stille Gefahr – dieses Systems: Es funktioniert, es liefert Ergebnisse, es erleichtert den Alltag, und gerade deshalb wird es selten infrage gestellt, selbst dann nicht, wenn es beginnt, mehr zu tun, als ursprünglich vorgesehen war.

Am Ende steht kein dramatischer Bruch, keine sichtbare Zäsur, sondern eine neue Normalität, in der Entscheidungen schneller, Prozesse effizienter und Systeme allgegenwärtiger sind, während der individuelle Handlungsspielraum sich langsam verändert, nicht durch Verbote, sondern durch Strukturen, die festlegen, was möglich ist und was nicht.

Die Zukunft entscheidet sich nicht in großen Reden oder spektakulären Beschlüssen, sondern in den stillen Details der Umsetzung, in der Frage, ob Systeme nachvollziehbar bleiben, ob Kontrolle tatsächlich ausgeübt wird und ob der Mensch am Ende noch entscheidet oder nur bestätigt, was ihm vorgelegt wird, und genau deshalb liegt die Verantwortung nicht nur bei Politik und Wirtschaft, sondern auch bei uns selbst, bei der Bereitschaft, Fragen zu stellen, Systeme zu verstehen und nicht jede Form von Komfort als Fortschritt zu akzeptieren, denn Fortschritt ohne Kontrolle ist keine Verbesserung, sondern eine Verschiebung, die sich erst dann zeigt, wenn sie kaum noch rückgängig zu machen ist, und vielleicht ist das die eigentliche Aufgabe unserer Zeit: nicht gegen Technologie zu kämpfen, sondern dafür zu sorgen, dass sie uns dient und nicht umgekehrt.

Wer sich intensiver mit diesen Entwicklungen auseinandersetzen möchte, findet in meinem Buch „Der grüne Kommunismus“ (von Alfred-Walter von Staufen) eine weiterführende, deutlich tiefere Analyse jener strukturellen Verschiebungen, die sich nicht nur im Bereich der Digitalisierung zeigen, sondern in nahezu allen gesellschaftlichen Bereichen, in denen staatliche Steuerung, wirtschaftliche Interessen und ideologische Leitbilder ineinandergreifen. Das Buch geht der Frage nach, wie sich Macht in modernen Systemen organisiert, wie scheinbar wohlmeinende Maßnahmen langfristig zu strukturellen Abhängigkeiten führen können und warum viele Entwicklungen nicht isoliert betrachtet werden dürfen, sondern Teil eines größeren Musters sind, das sich durch Politik, Wirtschaft und Gesellschaft zieht. Dabei wird bewusst auf einfache Antworten verzichtet, stattdessen wird der Leser eingeladen, Zusammenhänge zu erkennen, Widersprüche auszuhalten und eigene Schlüsse zu ziehen, denn nur wer versteht, wie Systeme funktionieren, kann beurteilen, wohin sie sich entwickeln.

Bitte werden oder bleiben Sie gesund, denn das ist das höchste Gut was wir haben.

Herzlichst
Ihr Alfred-Walter von Staufen

Abbildung:

• Alfred-Walter von Staufen

Quellen:

(1)     https://www.bmi.bund.de/SharedDocs/pressemitteilungen/DE/2022/08/onlinezugangsgesetz.html

(2)     https://www.handelsblatt.com/politik/deutschland/digitalisierung-deutschland-kommt-bei-der-verwaltung-digital-nur-langsam-voran/28845476.html

(3)     https://gdpr-info.eu/

(4)     https://www.oecd.org/digital/artificial-intelligence/     

TIMMY – Wenn das Meer um Hilfe ruft