KI-Agenten in Kommunen: Zwischen Effizienzgewinn und Kontrollverlust

Kaum ein Technologiethema wird derzeit so intensiv diskutiert wie KI-Agenten. Während große Sprachmodelle bereits in vielen Verwaltungsbereichen Einzug halten, geht die Entwicklung inzwischen einen Schritt weiter: Moderne KI-Agenten können nicht mehr nur Informationen bereitstellen, sondern eigenständig Aufgaben ausführen, Systeme bedienen und Entscheidungen vorbereiten. Damit eröffnen sich auch für Kommunen und kommunale Betriebe neue Möglichkeiten zur Automatisierung von Verwaltungsprozessen.

Gleichzeitig wächst jedoch die Unsicherheit. Die öffentliche Debatte schwankt zwischen euphorischen Erfolgsmeldungen und Warnungen vor schwer kontrollierbaren Risiken. Für Städte, Gemeinden, Landkreise oder kommunale Unternehmen stellt sich deshalb weniger die Frage, ob KI-Agenten künftig eingesetzt werden, sondern vielmehr, unter welchen Rahmenbedingungen dies verantwortungsvoll geschehen kann.

Von digitalen Assistenten zu autonomen Akteuren

Die Entwicklung verlief in den vergangenen Monaten mit bemerkenswerter Geschwindigkeit. Erste KI-Agenten wurden von vielen Anwendern als digitale Assistenten wahrgenommen, die Termine koordinieren, Dokumente erstellen oder Recherchen durchführen können. Inzwischen sind zahlreiche Systeme in der Lage, selbstständig auf Anwendungen zuzugreifen, Arbeitsabläufe anzustoßen und komplexe Aufgabenketten auszuführen.

Diese neuen Fähigkeiten sorgen einerseits für erhebliches Interesse. Andererseits zeigen sich zunehmend die Schattenseiten solcher Systeme. Insbesondere dort, wo KI-Agenten weitreichende Zugriffsrechte erhalten. Hier entstehen Risiken, die vielen Organisationen zunächst nicht bewusst waren.

Berichte über Fehlentscheidungen von KI-Agenten häufen sich. In einzelnen Fällen wurden Systeme mit Zugriff auf E-Mail-Konten, Cloud-Dienste oder Finanzanwendungen ausgestattet und führten daraufhin unerwartete Aktionen aus. Zwar stehen diesen Berichten auch Erfolgsgeschichten gegenüber, doch die zentrale Erkenntnis bleibt dieselbe: Je größer die Handlungsspielräume eines KI-Agenten sind, desto wichtiger werden wirksame Kontrollmechanismen. Für Kommunen ist dies von besonderer Bedeutung. Verwaltungsverfahren basieren auf Rechtssicherheit, Nachvollziehbarkeit und klar definierten Zuständigkeiten. Ein KI-Agent kann diese Verantwortung nicht übernehmen. Er bleibt ein Werkzeug, dessen Handlungen jederzeit kontrollierbar sein müssen.

Zwischen Hype und Realität

Zusätzliche Aufmerksamkeit erhielt das Thema durch Ankündigungen verschiedener KI-Unternehmen, die ihre Systeme als besonders leistungsfähig bei der Suche nach Sicherheitslücken präsentieren. Teilweise wurde sogar der Eindruck vermittelt, künstliche Intelligenz könne künftig automatisiert Schwachstellen in nahezu jeder Software erkennen. Solche Aussagen sorgen verständlicherweise für Aufmerksamkeit. Sie nähren zugleich Befürchtungen, dass Cyberangriffe künftig deutlich einfacher werden könnten. Allerdings zeigt ein genauerer Blick, dass viele dieser Behauptungen bislang nur begrenzt durch unabhängige Untersuchungen bestätigt wurden.

Für kommunale Entscheidungsträger ergibt sich daraus eine wichtige Lehre: Weder übertriebene Erwartungen noch alarmistische Szenarien sollten Grundlage strategischer Entscheidungen sein. Wie bei vielen technologischen Entwicklungen liegt die Realität meist zwischen den Extremen. KI-Agenten stellen weder eine Wunderwaffe noch eine unmittelbare Bedrohung für jede IT-Infrastruktur dar. Sie sind leistungsfähige Werkzeuge, deren Nutzen und Risiken Verantwortliche gleichermaßen berücksichtigen müssen.

Die eigentliche Herausforderung: Berechtigungen und Zugriffe

Die größten Risiken entstehen häufig nicht durch die KI selbst, sondern durch die Art und Weise, wie sie in bestehende Systeme eingebunden wird.

In Kommunen existieren zahlreiche Fachverfahren, Dokumentenmanagement- und Geoinformationssysteme, Personalanwendungen, Finanzsysteme sowie Bürgerportale. Soll ein KI-Agent auf diese Anwendungen zugreifen, stellt sich zwangsläufig die Frage nach den erforderlichen Berechtigungen.

Hier gelten dieselben Grundsätze, die seit Jahrzehnten Bestandteil professioneller IT-Sicherheit sind. Ein System sollte ausschließlich die Rechte erhalten, die für seine Aufgabe zwingend erforderlich sind.

Benötigt ein KI-Agent beispielsweise lediglich lesenden Zugriff auf Dokumente eines Fachverfahrens, sollte ihm kein Schreibzugriff eingeräumt werden. Muss er Anträge kategorisieren oder Informationen aus Datenbanken abrufen, benötigt er deshalb noch lange keine administrativen Rechte.

In der Praxis wird dieser Grundsatz jedoch häufig aus Bequemlichkeit aufgeweicht. Um Implementierungsaufwand zu reduzieren, erhalten Anwendungen mitunter deutlich weitergehende Berechtigungen als notwendig. Bei klassischen Automatisierungsskripten war dies bereits problematisch. Bei autonomen KI-Agenten steigt das Risiko jedoch erheblich. Der entscheidende Unterschied besteht darin, dass KI-Agenten ihre verfügbaren Werkzeuge aktiv nutzen können. Sie wissen, welche Ressourcen ihnen zur Verfügung stehen, und beziehen diese Möglichkeiten in ihre Handlungsplanung ein. Ein einmal eingeräumtes Recht bleibt somit dauerhaft verfügbar und kann auch in Situationen verwendet werden, die bei der ursprünglichen Planung nie berücksichtigt wurden.

Human in the Loop bleibt unverzichtbar

Gerade in der öffentlichen Verwaltung gibt es zahlreiche Prozesse, deren Folgen sich nicht ohne Weiteres rückgängig machen lassen. Dazu gehören beispielsweise das Löschen von Datenbeständen, Änderungen an Fachverfahren, die Veröffentlichung von Informationen oder das Bearbeiten sensibler personenbezogener Daten.

Solche Vorgänge sollten grundsätzlich einer menschlichen Freigabe unterliegen.

Das Konzept „Human in the Loop“ gehört deshalb zu den wichtigsten Sicherheitsprinzipien beim Einsatz von KI-Agenten. Dabei übernimmt die künstliche Intelligenz vorbereitende oder unterstützende Tätigkeiten, während kritische Entscheidungen weiterhin von Mitarbeitenden geprüft und freigegeben werden.

Für Kommunen ist dieser Ansatz nicht nur aus technischer Sicht sinnvoll. Er unterstützt zugleich die Einhaltung rechtlicher Vorgaben und erleichtert die Dokumentation von Entscheidungsprozessen. Insbesondere bei Vorgängen mit Außenwirkung gegenüber Bürgerinnen und Bürgern sollte jederzeit nachvollziehbar sein, wer eine Entscheidung getroffen oder freigegeben hat.

Risiken in Cloud- und Verwaltungsumgebungen

Wie gravierend Fehlkonfigurationen ausfallen können, zeigen verschiedene Vorfälle aus der Wirtschaft. Dort erhielten KI-Agenten teilweise weitreichende Zugriffsrechte auf Cloud-Infrastrukturen oder Produktivsysteme, obwohl ihre eigentliche Aufgabe deutlich eingeschränkter war.

Übertragen auf kommunale Umgebungen wären die Folgen vergleichbar. Ein Agent, der lediglich Informationen aus einem Dokumentenmanagementsystem auslesen soll, benötigt keinen Zugriff auf zentrale Serveradministration, Backup-Systeme oder Netzwerkkonfigurationen.

Werden solche Grenzen nicht konsequent eingehalten, können Fehlentscheidungen erhebliche Auswirkungen haben. Dabei muss keine böswillige Absicht vorliegen. Bereits eine fehlerhafte Interpretation eines Befehls kann ausreichen, um Prozesse zu unterbrechen, Daten zu verändern oder Systeme unbrauchbar zu machen.

Besonders kritisch ist dies in Bereichen der Daseinsvorsorge. Kommunale Versorger, Verkehrsbetriebe, Krankenhäuser oder Entsorgungsunternehmen betreiben Infrastrukturen, deren Verfügbarkeit unmittelbare Auswirkungen auf Bürgerinnen und Bürger hat. Hier sind die Anforderungen an Sicherheit und Kontrolle besonders hoch.

Handlungsempfehlungen für Kommunen

Der Einsatz von KI-Agenten sollte daher auf klaren organisatorischen und technischen Leitplanken basieren. Zu den wichtigsten Maßnahmen gehören:

• Umsetzung des Least-Privilege-Prinzips für sämtliche KI-Anwendungen.
• Strikte Trennung zwischen Test-, Entwicklungs- und Produktivumgebungen.
• Verpflichtende menschliche Freigaben für kritische Aktionen.
• Lückenlose Protokollierung aller durch KI-Agenten ausgeführten Schritte.
• Regelmäßiges Überprüfen und Anpassen von Berechtigungen.
• Klare Governance-Regeln für Beschaffung, Betrieb und Überwachung von KI- Systemen.
• Schulung von Mitarbeitenden hinsichtlich Chancen, Grenzen und Risiken agentischer KI.

Ebenso wichtig ist eine frühzeitige Einbindung von Datenschutzbeauftragten, Informationssicherheitsbeauftragten sowie Personalvertretungen. KI-Projekte in Kommunen betreffen regelmäßig sensible Daten und organisatorische Abläufe, weshalb technische Lösungen allein nicht ausreichen.

Fazit

KI-Agenten werden in den kommenden Jahren zweifellos zu einem festen Bestandteil der kommunalen Digitalisierung werden. Ihr Potenzial zur Automatisierung von Routineaufgaben, zur Unterstützung von Mitarbeitenden und zur Steigerung der Effizienz ist erheblich.

Gleichzeitig zeigt sich, dass der erfolgreiche Einsatz nicht von der Leistungsfähigkeit der KI abhängt, sondern von der Qualität der Rahmenbedingungen. Übermäßige Berechtigungen, fehlende Kontrollmechanismen und unklare Verantwortlichkeiten stellen deutlich größere Risiken dar als die Technologie selbst.

Für Kommunen bedeutet dies: KI-Agenten sollten weder als Allheilmittel noch als Bedrohung betrachtet werden. Entscheidend sind eine sorgfältige Governance, klare Zugriffsregelungen und die konsequente Einbindung menschlicher Kontrolle. Wer diese Grundsätze beachtet, kann die Vorteile der Technologie nutzen, ohne dabei Sicherheit, Datenschutz und Verlässlichkeit aus dem Blick zu verlieren.