1.    Der Bericht der Verwaltung zur Entlastung der Stadtverwaltung durch Künstliche Intelligenz wird zur Kenntnis genommen.

2.    Der Antrag der FDP 057/2023 vom 27.04.2023 ist hiermit bearbeitet.

.

Das Amt für Digitalisierung und Informationstechnik sorgt durch die Bereitstellung und Weiterentwicklung von IT-Systemen und Kommunikationstechnologien für zeitgemäße und effiziente Arbeitsbedingungen in der Stadtverwaltung. Dadurch sollen Verwaltungsarbeit und Kommunikation intern verbessert und perspektivisch auch die Partizipation von Bürger*innen an der Arbeit der Verwaltung auf einer modernen Grundlage ermöglicht werden. Eine besondere Herausforderung stellt dabei die angemessene Reaktion auf neue technische Entwicklungen und die Prüfung der sich daraus ergebenden Möglichkeiten sowie ggf. deren Umsetzung unter Kosten-/Nutzen-Überlegungen dar. Aspekte wie Arbeitsverdichtungen in vielen Bereichen, Personalreduzierungen und die demografische Entwicklung spielen dabei eine wichtige Rolle. Langfristig wird die Strategie verfolgt, möglichst viele Geschäftsprozesse mit Technikeinsatz zu unterstützen und weiter zu optimieren, um sowohl interne als auch externe Nutzenpotentiale zu generieren.

Amt 17 beschäftigt sich derzeit u.a. auch mit der Fragestellung, wie Künstliche Intelligenz in die Arbeit der Stadtverwaltung sinnvoll integriert werden kann. Dazu werden externe Fortbildungen besucht und Fachvorträge ausgewertet, intern wurde in einem ThinkTank das Thema ChatGPT analysiert und Anwendungsmöglichkeiten für die Verwaltung diskutiert. Darüber hinaus wird der interkommunale Austausch mit anderen Städten zu dem Thema genutzt.

KI, einfach erklärt, ist der Versuch, menschliches Lernen und Denken auf den Computer zu übertragen und ihm damit Intelligenz zu verleihen. Statt für jeden Zweck programmiert zu werden, kann eine KI eigenständig Antworten finden und selbstständig Probleme lösen. Dabei sind vor allem auch Themen wir Datenschutz, Datensicherheit und Verlässlichkeit der Antworten von großer Bedeutung. Die Qualität der Antworten aus der KI hat sich dabei in den letzten Jahren erheblich verbessert.

Bei aller aktuellen Euphorie vor allem für das Thema Chat GPT gibt es auch kritische Stimmen:

Eine Abfrage bei ChatGPT zu möglichen Bedenken beim Einsatz von KI in der öffentlichen Verwaltung ergab folgende originale Rückmeldung (Genderformen wurden dabei nicht korrigiert):

„Beim Einsatz von KI in der öffentlichen Verwaltung bestehen bestimmte Bedenken und Herausforderungen, die berücksichtigt werden müssen. Hier sind einige der häufigsten Bedenken:

1. Datenschutz und Privatsphäre: Der Einsatz von KI erfordert den Zugriff auf und die Verarbeitung von großen Datenmengen. Es ist wichtig, sicherzustellen, dass personenbezogene Daten angemessen geschützt und vertraulich behandelt werden. Es müssen geeignete Sicherheitsmaßnahmen ergriffen werden, um Datenschutzverletzungen zu verhindern und die Privatsphäre der Bürger zu gewährleisten.
2. Bias und Diskriminierung: KI-Systeme sind nur so gut wie die Daten, mit denen sie trainiert werden. Wenn diese Daten Vorurteile oder Diskriminierung enthalten, können sie in den KI-Modellen verstärkt werden und zu unfairen oder diskriminierenden Ergebnissen führen. Es ist wichtig, sicherzustellen, dass die Datenqualität überprüft wird und dass KI-Systeme fair und transparent arbeiten.
3. Haftung und Verantwortung: Bei KI-Systemen kann es schwierig sein, die Verantwortung für Entscheidungen oder Handlungen zu klären. Wenn ein KI-System einen Fehler macht oder eine falsche Entscheidung trifft, wer ist dann dafür verantwortlich? Es müssen klare Mechanismen für die Haftung und Verantwortung festgelegt werden, um mögliche rechtliche und ethische Probleme anzugehen.
4. Mangel an Transparenz und Erklärbarkeit: KI-Algorithmen können oft als sogenannte "Black Box" fungieren, bei denen es schwer ist, die genauen Entscheidungsgrundlagen nachzuvollziehen. Dies kann zu Misstrauen und Unsicherheit führen. Es ist wichtig, dass KI-Systeme transparent und erklärbar sind, insbesondere bei Entscheidungen, die Auswirkungen auf Bürger und ihre Rechte haben.
5. Akzeptanz und Vertrauen: Die Einführung von KI in der öffentlichen Verwaltung erfordert das Vertrauen der Bürger und der Mitarbeiter. Es ist wichtig, die Vorteile und den Mehrwert von KI zu kommunizieren, Ängste und Bedenken anzusprechen und transparent über die eingesetzten Technologien und deren Funktionsweise zu informieren.

Diese Bedenken und Herausforderungen sollten bei der Implementierung von KI in der öffentlichen Verwaltung berücksichtigt werden. Durch die angemessene Berücksichtigung dieser Aspekte kann eine verantwortungsvolle und ethisch fundierte Nutzung von KI-Technologien gewährleistet werden.“

Diese Einschätzung von Chat GPT wird grundsätzlich von Amt 17 geteilt. Amt 17 beschäftigt sich trotzdem mit der neuen Technologie und entwickelt Lösungen unter Berücksichtigung der beschriebenen Bedenken.

Im Focus sind dabei vor allem die Nutzung von Assistenzfunktionen und die Entlastung von Routinearbeiten, um zeitliche Freiräume damit zu gewinnen, die für anspruchsvollere Aufgaben genutzt werden können.

An folgenden Beispielen sollen praktische Einsatzszenarien im Rahmen aktueller Projekte und Aufgaben deutlich gemacht werden:

• Automatisierte Übersetzungen (Echteinsatz)
  Amt 17 hat auf der Homepage der Stadt Erlangen eine KI-gesteuerte datenschutzkonforme Übersetzungssoftware eingebaut, um die Inhalte automatisiert in 9 verschiedene Sprachen zu übersetzen. Es bestehen derzeit Planungen, diese automatisierten Übersetzungen auch für leichte Sprache und Gebärdensprache einzusetzen.

• Unterstützung bei der Erstellung von Texten (Echteinsatz)
  Durch zielgerichtete Abfragen an Chat GPT können Formulierungsvorschläge für Texte aller Art (siehe obenstehende Abfrage, Erklärtexte bei konkreten Fragestellungen, Infotexte z.B. für das Intranet…) erstellt werden. Wichtig dabei ist aber die inhaltliche Überprüfung der Informationen auf deren Richtigkeit. 

• Erstellung und Analyse von Codepassagen (Echteinsatz)
  Durch die Formulierung von Programmieraufgaben ist es möglich, automatisiert Codeschnipsel für spezielle Teile von Programmen erstellen zu lassen. Wichtig ist dabei aber vor dem Echteinsatz auch die inhaltliche Überprüfung durch menschlichen technischen Sachverstand.

• Chatbot (geplant)
  Derzeit gibt es Planungen, auf der Homepage einen Chatbot für Bürger*innen zu integrieren, bei dem frei formulierte Fragestellungen mit KI-Unterstützung beantwortet werden.

• Auswertung von Sensordaten (geplant)
  In einem Pilotprojekt mit der FAU, EB77 und den Erlanger Stadtwerken wurden Sensoren verbaut, die Feuchtigkeitsdaten messen und an eine zentrale Stelle melden. Mit Hilfe von KI können perspektivisch optimierte Fahrpläne für Gießfahrzeige erstellt werden.

Amt 17 wird das Thema künstliche Intelligenz in allen Fachbereichen weiter kritisch beobachten und dabei immer Nutzenpotentiale für die Verwaltung evaluieren, um die Ämter mit technischen Möglichkeiten weiter zu unterstützen.

4.   Klimaschutz:

Entscheidungsrelevante Auswirkungen auf den Klimaschutz:

             ja, positiv*

             ja, negativ*

             nein

5.   Ressourcen
(Welche Ressourcen sind zur Realisierung des Leistungsangebotes erforderlich?)

Haushaltsmittel

              werden nicht benötigt

              sind vorhanden auf IvP-Nr.      

                        bzw. im Budget auf Kst/KTr/Sk        

                    sind nicht vorhanden

Anlagen:        Antrag der FDP-Fraktion