In diesem Beitrag werden folgende Fragen für Mitarbeitende von Gemeinden, Behörden und Verwaltungen beantwortet:
- Was ist ChatGPT?
- Wie funktioniert ChatGPT?
- Was sind die Haupt-Funktionen von ChatGPT?
- Tipps zur Nutzung von ChatGPT und anderen KI-Tools – Richtiges Prompting
- Was sind die Herausforderungen und Risiken bei der Nutzung von ChatGPT?
- Wie können die Gefahren von ChatGPT reduziert werden?
- Anwendungen von KI-Tools bei Gemeinden
- Fazit: KI-Tools bei Gemeinden und Behörden
Was ist ChatGPT?
ChatGPT wurde vom kalifornischen Unternehmen OpenAI entwickelt. OpenAI ist auf die Entwicklung künstlicher Intelligenz (KI) spezialisiert. ChatGPT ist ein Chatbot, der auf der Grundlage des Generative Pre-trained Transformer-3 (GPT-3) Computermodells entwickelt wurde und Texte in menschlicher Sprache analysieren und generieren kann.
Was bedeutet GPT-3 Generative Pre-trained Transformer (GPT-3)?
GPT-3 ist eine Form der KI die darauf spezialisiert ist, Texte zu verstehen und zu generieren. Folgende 3 Eigenschaften zeichnen diese Art der KI aus:
- Generative: GPT-3 kann eigenständig Texte erstellen. Das heisst, es kann neue Sätze schreiben, die es so vorher nie gegeben hat.
- Pre-trained: GPT-3 wurde von Menschen mit einer riesigen Menge an Texten trainiert. So soll es natürlich Sprache zu verschiedene Themen besser zu verstehen bzw. verarbeiten können.
- Transformer: Das ist der Name der Technik, die GPT-3 benutzt, um Texte zu verarbeiten und zu generieren. Sie hilft GPT-3 dabei, den Kontext und die Bedeutung von Wörtern in Sätzen zu verstehen.
ChatGPT generiert in Sekundenschnelle Antworten auf unterschiedlichste Fragen oder Eingaben: Witze, Textzusammenfassungen oder E-Mails, Aufsätze und Gedichte. ChatGPT liefert auch Programmcodes und weist auf Codierfehler hin. Und selbst wenn die Qualität der erhaltenen Ergebnisse schwankt, gilt es anzumerken, dass die Antworten zunächst immer plausibel klingen und nahezu immer korrekt formuliert und strukturiert sind. Manchmal sogar so gut, dass sie nur schwer von Texten zu unterscheiden sind, die von Menschen verfasst wurden.
Obwohl ChatGPT nicht mehr aus den Schlagzeilen kommt, ist diese Anwendung genau gesehen nicht die erste KI-Anwendung, die ganze Texte produziert. Vielmehr ist sie das Ergebnis der kontinuierlichen Fortschritte in der Forschung zur künstlichen Intelligenz. Das Besondere an ChatGPT ist jedoch, dass zum ersten Mal ein solches KI-System, einem breiten Publikum zur Verfügung gestellt wird. Nach der Veröffentlichung von ChatGPT sind weitere ähnliche Systeme hinzugekommen. So bietet mittlerweile beispielsweise der Internet-Konzern Google ebenfalls eine solche KI-Lösung, namens Google Bard an. Auch die Plattform «X» (früher Twitter) bietet ein ähnliches KI-System unter dem Namen «Grok» an. Im Gegensatz zu früheren KI-Systemen haben diese KI-Systeme alle die Gemeinsamkeit, dass sie nicht für einen Anwendungsbereich oder eine Zielgruppe beschränkt sind, sondern ein KI-System deckt unendlich viele Anwendungsmöglichkeiten für diverse Zielgruppen ab.
Wie funktioniert ChatGPT?
Alle Internetuser und Userinnen können ein kostenloses Konto auf der ChatGPT-Website eröffnen und den Chatbot auch ohne die angebotene Plus-Version nutzen. Jeder kann in das Eingabefeld des Chatbots eine Frage oder eine Aufforderung (Prompt) eingeben und dabei auch angeben, wie die angeforderte Antwort in Bezug auf Länge, Struktur und Tonfall ausfallen soll.
Um die Anfragen beantworten zu können, wurde ChatGPT vorgängig anhand von Milliarden im Internet verfügbarer Texte «trainiert». Die KI hat all diese Texte mathematisch analysiert, um sprachliche Regelmässigkeiten zu erfassen. ChatGPT arbeitet auf Grundlage der Wortfolgestatistik, berechnet also die Wahrscheinlichkeit, mit der innerhalb eines Textkorpus ein Wort auf das andere folgt. In seinen Antworten gibt das Programm somit wiederkehrende Wortmuster aus den Texten wieder, mit denen es gefüttert wurde. Diese Antworten enthalten daher immer eine grosse Zufallskomponente. Das erklärt auch, warum ChatGPT auf eine ihm mehrmals gestellte gleiche Frage jedes Mal eine andere Antwort herausgibt. OpenAI hat bis heute nicht offengelegt, welche genauen Quellen dem System zur Verfügung gestellt worden sind. Die Auswirkungen dieser so genannten «Blackbox» (intransparentes Vorgehen) wird in dem Teil zu den Herausforderungen erneut adressiert.
OpenAI nutzt zusätzlich zur oben erklärten Wahrscheinlichkeitsberechnung das sogenannte Reinforcement Lerning aus menschlichem Feedback. Das bedeutet, dass das Unternehmen Personal damit beauftragt, eine grosse Menge von Antworten des Systems zu beurteilen, plausible Ergebnisse zu bestätigen und unbefriedigende Ergebnisse als solche zu kennzeichnen, um den Algorithmus von ChatGPT zu verbessern. Das Unternehmen bemüht sich zudem um eine ethische Kalibrierung, insbesondere um gewalt- verherrlichende, offen sexistische oder rassistische Äusserungen, aber auch Werturteile und Anleitungen zu illegalen oder gefährlichen Handlungen zu unterbinden (mehr zu den damit einhergehenden normativen Fragen weiter unten). Seit dem Start von ChatGPT werden die Nutzeranfragen laufend analysiert, um das Training weiter zu justieren.(OpenAI-Blog, «Introducing ChatGPT and Whisper APIs» Februar 2023, https://openai.com/blog/introducing- chatgpt-and-whisper-apis, OpenAI-Blog, «GPT-4», März 2023).
Noch mehr Infos zur technischen Funktionsweise
Im weiteren Sinne gehört ChatGPT zur sogenannten «generativen» künstlichen Intelligenz, die seit einigen Jahren einen grossen Ausschwung erlebt. Dabei handelt es sich um Modelle, die auf der Grundlage einiger weniger Schlüsselwörter Bilder, Text oder Videos generieren. Auch diese «synthetischen» Inhalte sind das Ergebnis einer rein statistischen Analyse der Datenfülle auf Basis von Deep Learning. Was die Textgenerierung betrifft, leiten sich all diese Innovationen aus der Entwicklung von «Sprachmodellen» ab. Diese IT-Modelle katalogisieren die Muster der Wortfolgen in den Texten, mit denen sie vortrainiert wurden, und reproduzieren sie, wenn sie neue Texte generieren. Um die Kohärenz zwischen den Sätzen zu gewährleisten, werden sie je nach Kontext unterschiedlichen Abhängigkeiten zwischen den Wörtern eines ganzen Textes erfasst (J. Goldstein, G. Sastry, M. Musser et al., «Generative Language Models and Automated Influence Operations: Emerging Threats and Potential Mitigations», arXiv 2023).
Was sind die Haupt-Funktionen von ChatGPT?
ChatGPT beantwortet nicht nur einfache Fragen, sondern kann auch Texte und andere mediale Inhalte generieren. Im Folgenden die wichtigsten Funktionen, über die der Chatbot ChatGPT heute schon verfügt.
- Textgenerierung: ChatGPT kann Text in menschenähnlicher Art und Weise generieren. Dies ermöglicht es dem Modell, auf Benutzereingaben in natürlicher Sprache zu antworten.
- Frage-Antwort-System: Wenn man dem Modell eine Frage stellt, versucht es, basierend auf seinem Training, die am besten geeignete Antwort zu geben.
- Kontextverständnis: ChatGPT kann den Kontext eines Dialogs verstehen und darauf aufbauend Antworten generieren. Das Modell berücksichtigt dabei die vorherigen Nachrichten in einem Gespräch, um kontextualisierte Antworten zu liefern.
- Textübersetzung: ChatGPT kann Texte zwischen verschiedenen Sprachen übersetzen.
- Textzusammenfassung: ChatGPT kann lange Textpassagen in kürzere, zusammengefasste Formen umwandeln.
- Ideengenerierung: Das Modell kann Vorschläge oder Ideen zu einem gegebenen Thema liefern.
- Codegenerierung und Hilfe: Es kann auch einfache Programmierfragen beantworten und Codebeispiele generieren.
- Unterhaltung: Das Modell kann Geschichten erzählen, Witze machen und in allgemeinen Gesprächen interagieren.
- Mehrsprachige Interaktion: ChatGPT kann in verschiedenen Sprachen kommunizieren, obwohl Englisch die primäre und am besten trainierte Sprache ist.
- Bilder: ChatGPT kann Bilder erstellen.
Tipps zur Nutzung von ChatGPT und anderen KI-Tools – Richtiges Prompting
Im Zusammenhang mit ChatGPT bezieht sich der Begriff „Prompts“ auf die Befehle oder Fragen, die verwendet werden, um ChatGPT zu nutzen. Der Prompt kann eine einfache Frage, eine Aussage oder ein Satz sein, der den Kontext oder das gewünschte Thema der Unterhaltung angibt. Dabei hängt die Qualität der Antwort von der Art und Klarheit des Prompts ab. Ein guter Prompt für ChatGPT hat einige wichtige Merkmale, die helfen, qualitativ, hochwertige und relevante Antworten von dem Modell zu erhalten.
Persona: Definieren Sie, in welcher Rolle und aus welcher Perspektive heraus ChatGPT antworten soll. «Du bist Gemeindeschreiber.».
Aufgabe: Formulieren Sie eine klare Aufgabenstellung. «Schreibe eine Bürgerinformation zu unseren Abwesenheiten über die Feiertage …».
Kriterien: Nennen Sie weitere Kriterien, wie Aspekte und Bezüge, die berücksichtigt werden sollten. «Der Bericht soll nicht länger als eine Seite sein.»
Ziel: Machen Sie klar, welches übergreifende Ziel erreicht werden soll. «Du möchtest, dass möglichst viele Bürger an den nächsten Wahlen teilnehmen.».
Format: Spezifizieren Sie das Format, den Tonfalls und Duktus des Endproduktes. «Die Einladung soll nicht zu demütig klingen und nicht länger als 1 Minute zum Lesen erfordern»
Finetuning: Melden Sie Ihr Feedback zur Antwort zurück, üben Kritik und benennen, in welcher Hinsicht die Antwort verändert werden soll. «Schreib nicht zu blumig»
Es ist wichtig zu beachten, dass ChatGPT immer noch ein maschinelles Modell ist und möglicherweise nicht immer den gewünschten Ergebnissen entspricht. Durch Experimentieren mit verschiedenen Formulierungen und Anpassen des Prompts kann jedoch die Wahrscheinlichkeit erhöht werden, nützliche und zufriedenstellende Antworten zu erhalten. Es bleibt jedoch ein Restrisiko, dass die Antworten fehlerhaft sind – dazu mehr unter «Herausforderungen».
In dem Beitrag Prompt Tipps aus 2024 stehen weitere nützliche Tipps zum Umgang mit KI-Systemen, wie ChatGPT.
Was sind die Herausforderungen und Risiken bei der Nutzung von ChatGPT?
Datenschutz und Sicherheitsaspekte bei der Verwendung von KI-Technologien
Bei der Nutzung von ChatGPT muss unbedingt berücksichtigt werden, dass eingegebene Texte und Antworten jeweils von dem amerikanischen Konzern OpenAI gespeichert werden, um die Leistung zu verbessern und die Modelle weiterzuentwickeln. Dies kann zur Verletzung von Datenschutzbestimmungen führen, falls besonders schützenswerte Daten in das Eingabefeld von ChatGPT eingegeben werden.
Daraus folgt, dass Nutzer und Nutzerinnen von ChatGPT das Eingeben von schützenswerten bzw. vertraulichen Daten in das Eingabefeld von ChatGPT vermeiden sollten. User und Userinnen können ChatGPT beispielsweise bitten, einen Brief an eine Bürgerin zu schreiben und dem System dazu die passenden Stichpunkte nennen, jedoch nur mit einer anonymisierten Version der Bürgerdaten.
Fehlerhafte Antworten von ChatGPT
Das Modell verfügt nicht über echtes Verständnis, sondern stützt sich ausschliesslich auf statistische Muster in den Daten. Sind die Trainingsdaten, auf denen das Modell basiert, fehlerhaft, ungenau oder unvollständig, kann dies zu Fehlinformationen führen, auch wenn die Antworten auf den ersten Blick plausibel erscheinen.
Es ist also wichtig, alle Ergebnisse von ChatGPT jeweils kritisch zu hinterfragen.
Wie können die Gefahren von ChatGPT reduziert werden?
Mitarbeitende für Datenschutz sensibilisieren und Guidelines erstellen
Mitarbeitende müssen geschult werden, ChatGPT richtig zu nutzen. Hierzu zählen sowohl Tipps zur sinnvollen Nutzung von Prompts, aber auch Hinweise zum Datenschutz.
Guidelines, die definieren, welche Infos in das Eingabefeld eingegeben werden dürfen, und welche Inhalte vermieden werden müssen, sollten zusätzlich zu den Schulungen zur Verfügung gestellt werden.
Ein Beispiel, wie so eine Schulung aussehen kann, zeige ich in meinem ChatGPT Starter Coaching, welches ich auch für Teams anbiete.
Mitarbeitende in die Verantwortung nehmen
Mitarbeitende sind für die Inhalte, welche von ChatGPT und die weitere Verwendung dieser Inhalte selbst verantwortlich. Mitarbeitende müssen dazu angehalten werden, die Antworten bzw. Ausgaben von ChatGPT kritisch zu hinterfragen, potenzielle Fehler zu erkennen und die Informationen mit vertrauenswürdigen Quellen abzugleichen.
Sichere Alternativen von ChatGPT nutzen
Es gibt diverse Alternativen zu ChatGPT, die zum Teil einen höheren Datenschutz als ChatGPT bieten.
Die Lösung SwissGPT von AlpineAI bietet beispielsweise eine datenschutzkonforme Nutzung von ChatGPT an. SwissGPT anonymisiert dabei alle sensitiven Daten, bevor sie an das Modell von ChatGPT gestellt werden. So wird sicher gestellt, dass Mitarbeitende, die die Guidelines nicht einhalten, keine Schäden anrichten können. Weiter offeriert SwissGPT zusätzlich Individualisierungen des Systems, die es möglich machen, das System mit eigenen Daten anzutrainieren.
Das folgende Video zeigt die Anwendung von SwissGPT bei einer Schweizer Gemeinde.
Anwendungen von KI-Tools bei Gemeinden
Bisherige Workshops und Gespräche mit Schweizer Gemeinden haben gezeigt, dass die Anwendungsmöglichkeiten von KI-Tools in einer Gemeinde bzw. Behörde sehr breit sind.
Die folgende Übersicht zeigt nur einen Ausschnitt, der möglichen Anwendungen von KI-Tools bei Gemeinden. Die Liste ist unterteilt in Use Cases, ohne Datenschutz-Risiko und Anwendungen mit kritischen bzw. schützenswerten Daten. Sobald die Hindernisse hinsichtlich des Datenschutzes ausreichend geklärt sind, Mitarbeitende aufgeklärt sind und nach Möglichkeit auch sichere Lösungen, wie beispielsweise SwissGPT eingeführt sind, können KI-Tools auch für anspruchsvolle Tätigkeiten genutzt werden und das potenzial der KI-Technologie vollumfänglich ausgeschöpft werden.
Einfache Anwendungen ohne Datenschutz-Risiken
- Erstellen von einfachen Texten, wie beispielsweise Einladungen oder allgemeine Bürgerinformationen
- Erstellen von Bildern
- Automatische Beantwortung von allgemeinen Bürgeranfragen
- Offene Internetrecherche ohne vertrauliche interne Daten
- Unterstützung bei allgemeinen Marketing- und Kommunikationsaktivitäten
- Sprachübersetzungen (auch in einfacher Sprache)
Komplexe Anwendungen mit sensiblen Daten
- Erstellen von individuellen Texten mit Bürgerdaten oder anderen vertraulichen Informationen
- Erstellung von (internen) Präsentationen
- Analyse und Verarbeitung von internen Dokumenten
- Mitarbeiter-Weiterbildungen
- Erstellung von Protokollen
- Auswertung oder Erstellung von Anträgen
- Beantwortung individueller Bürgeranfragen
- Entscheidungsunterstützungen
Fazit: KI-Tools bei Gemeinden und Behörden
Der Beitrag zeigt, dass Generative AI, ChatGPT und Alternativen wie SwissGPT definitiv auch Gemeinden und Behörden grosse Mehrwerte bringt.
Gleichzeitig bringt der Einsatz von KI-Tools, wie ChatGPT auch Risiken und neue Herausforderungen mit sich. Auf der einen Seite ist ein generelles Umdenken zur Nutzung und zum Einsatz von KI Tools nötig und zum anderen darf durch die Nutzung von KI-Tools nicht der Datenschutz oder andere persönliche (Bürger-) daten gefährdet werden. Lösungen, wie SwissGPT von AlpineAI können diese Risiken minimieren.
Beratung gewünscht?
Natürlich unterstütze ich gern beim Einsatz dieser KI-Tools. Ich schule Ihre Mitarbeitenden und Führungskräfte und ich berate Sie auch hinsichtlich der besten technischen Möglichkeiten. Schreiben Sie mir unverbindlich eine E-Mail oder WhatsApp Nachricht und wir tauschen uns über die Nutzung von KI-Tools und ChatGPT in Ihrer Organisation aus.
