SPD критикует планы правительства по созданию «Германия-приложения» с ИИ-чатботом

So hat sich die SPD das Bürgerkonto nicht vorgestellt: eine Deutschland-App, in der Bürger:innen ihr Anliegen einem KI-Chatbot anvertrauen. In einem internen Positionspapier, das wir veröffentlichen, kritisiert die SPD die Pläne zur Deutschland-App von Digitalminister Karsten Wildberger (CDU): „Eine Deutschland-App greift zu kurz, wenn sie Bürgerinnen und Bürger lediglich mithilfe eines KI-Bots durch bestehende Verwaltungsleistungen führt.“ Dabei bezieht sich die SPD auf eine Vereinbarung aus dem Koalitionsvertrag. Demnach soll die Verwaltung „voll digitalisiert“ werden und ein „digitales Bürgerkonto soll den Zugang zu Behördendienstleistungen erleichtern“. Um das zu erreichen, sollen Bund, Länder und Kommunen zusammenarbeiten. Das eigentliche langfristige Ziel lautet: Bürger:innen sollen „Unterlagen und Willenserklärungen grundsätzlich ohne persönliches Erscheinen“ im Amt abgeben können. Komplexität lösen oder kaschieren? SPD und CDU sind sich darin einig, dass Bürger:innen einen zentralen Zugang zur Verwaltung bekommen sollen. Doch gehen die Meinungen darüber auseinander, wie der genau aussehen soll. Während Wildbergers Deutschland-App die Beziehung zwischen Bürger:in und Verwaltung mithilfe eines KI-Layers vereinfachen will, denkt die SPD umfassender. Nicht nur der Zugang von Bürger:innen sei wichtig, sondern auch das gesamte digitale Ökosystem dahinter. Der Staat müsse „digital als Einheit“ funktionieren. Bund und Länder sollen also nicht mehr unabhängig voneinander IT-Lösungen für die Verwaltung umsetzen, die wie Inseln für sich stehen. Vielmehr sollen „Behörden und Fachverfahren besser miteinander vernetzt arbeiten“, heißt es im Positionspapier. Der Bund soll die Kompetenz bekommen, „einheitliche IT-Standards und eine übergreifende Infrastruktur für alle Verwaltungsebenen festzulegen“. Dafür will die SPD sogar den Artikel 91c Grundgesetz ändern, der eine Mischverwaltung ausschließt. Demnach arbeiten die Verwaltungen von Bund und Ländern grundsätzlich eigenständig und die Verwaltungszuständigkeiten sind voneinander getrennt. Chatbot der Verwaltung vorgeschaltet Woran Verwaltungsdigitalisierung bisher scheitert, will Wildberger in der Deutschland-App mit einem KI-Layer überbrücken. Gegen die Komplexität von Mischverwaltung und das Gerangel um Zuständigkeiten setzt die App auf generative KI in Form eines Chatbots. Die App ignoriere – zunächst zumindest – die wilde Bestandslandschaft der Verwaltungs-IT, räumt Staatssekretär Markus Richter im Interview mit heise (€) ein. Wenn der Chatbot funktioniert, würden Bürger:innen davon auch nichts sehen. Sie würden Termine vereinbaren und Anträge stellen, ohne umständlich nach den zuständigen Verwaltungsmitarbeiter:innen suchen zu müssen. Sie würden nicht mehr über die Websites von Bund, Land oder Kommune nach den Informationen zu ihrer Anfrage suchen. Denn das soll die KI für sie übernehmen, so Richter. Dabei können sie für den Chatbot sogar einen Avatar wählen, etwa eine Frau, die aussieht wie eine Sachbearbeiterin. Ein Assistenzsystem soll Bürger:innen dabei unterstützen, direkt in der App ein Formular auszufüllen und einen Antrag zu stellen. Im Hintergrund der App würden Crawler und KI-Sprachmodelle dafür sorgen, dass sie die Formulare ausfüllen, die zu ihrer Anfrage passen, erklärt Richter. Bürger:innen könnten anschließend ihre Daten über die App an die Behörde übermitteln. Damit die Daten „unmittelbar und fehlerfrei“ dort ankommen, wo sie hin sollen, verwende man eine entsprechende Schnittstelle. Menschen im Fokus Der gesamte Verwaltungsprozess könnte theoretisch ohne einen einzigen direkten Kontakt zu Verwaltungsmitarbeiter:innen verlaufen. Mit einem KI-Bot setze die App laut SPD jedoch einen falschen Fokus. Der Staat müsse mehr auf die Perspektive der Bürger:innen eingehen, fordert die SPD. Das digitale Konto solle sich „am Alltag der Menschen“ orientieren und sich „nicht nach Behörden“ ausrichten. Leistungen sollten „nach den Lebenssituationen der Menschen“ gebündelt organisiert sein: Umzug, die Geburt des Kindes oder Anmelden eines Fahrzeugs. Zu einem solchen menschenzentrierten Ansatz gehöre auch, dass die Verwaltung Bürger:innen darauf hinweist, wenn sie Ansprüche auf Verwaltungsleistungen wie Elterngeld haben. Das könne auch automatisch erfolgen, wie das Beispiel Kindergeld zeigt. Praktisch soll das Online-Angebot außerdem nicht nur über eine App, sondern auch als Webanwendung verfügbar sein. Daneben sollen Bürger:innen über ein Dashboard jederzeit einen Überblick haben – über digitale Nachweise, Nachrichten im Behördenpostfach, offene Anträge, Termine und Fristen, die sie einhalten müssen. Haftungsfrage an die Bürger:innen abgeschoben? Auch abseits vom Frontend solle der Staat Bürger:innen in allen Schritten „serviceorientiert“ unterstützen, so die SPD. Bürger:innen sind demnach nicht allein dafür verantwortlich, dass ihre Anträge erfolgreich sind. Wer bei Fehlern haftet, muss im Einzelfall geklärt werden. Mit der Deutschland-App jedoch schieben die Koalitionspartner die Verantwortung für Fehler ganz den Antragstellenden zu. So lässt sich die Antwort des Staatssekretärs Richter verstehen. Der erklärt, die Daten des Antrags würden in der App komprimiert dargestellt werden. Bevor Bürger:innen den Antrag abschicken, hätten sie die Möglichkeit zu überprüfen, ob die Daten korrekt seien. Bei Fehlern im Antrag würden also die haften, die ihn gestellt haben. Was passiert jedoch, wenn die KI die Daten falsch verarbeitet oder wenn Bürger:innen nicht erkennen, dass die KI ihnen ein falsches Formular anzeigt oder nicht die erforderlichen Daten abfragt? Diese Fragen lässt Richter offen. Die Deutschland-App sollen SAP und die Deutsche Telekom umsetzen. Die Software dafür soll in einer KI-Cloud laufen. Sie gehört zum Großprojekt IT-Infrastruktur für die öffentliche Verwaltung, für das das BMDS gut 250 Millionen Euro veranschlagt hat.