In den vergangenen Monaten hatte ich die Gelegenheit, verschiedene Chatbot-Projekte zu begleiten, die Generative AI im Allgemeinen oder speziell die ChatGPT-API nutzen. Dabei konnte ich zahlreiche Erkenntnisse gewinnen, die ich gerne in diesem Beitrag mit euch teilen möchte. Diese Erkenntnisse basieren auf praktischer Erfahrung, dem Austausch mit anderen Experten sowie wissenschaftlicher Recherche. Es ist jedoch anzumerken, dass ich nahezu täglich neue Erfahrungen sammle und diese kontinuierlich mit euch teilen werde. Wenn ihr auch zukünftig keine Neuigkeiten verpassen möchten, möchte ich bereits jetzt auf meine WhatsApp-Gruppe hinweisen. Klickt einfach auf den Link und tretet bei.
Was ist Generative AI?
Generative AI ist eine Art von künstlicher Intelligenz (Ki), die darauf abzielt, etwas Neues zu schaffen, wie zum Beispiel Texte, Bilder, Musik oder Videos. Im Gegensatz zu anderen Arten von KI, die darauf ausgelegt sind, vorhandene Informationen zu analysieren oder spezifische Aufgaben zu erledigen, versucht generative AI, etwas Neues zu erschaffen, basierend auf dem, was sie aus einer großen Menge von Daten gelernt hat. Sie verwendet Muster und Strukturen in den Daten, um neue Inhalte zu generieren, die denen ähneln, die sie zuvor gesehen hat. Es ist sozusagen eine kreative Maschine, die in der Lage ist, auf eine Art und Weise zu denken und zu erschaffen, wie es zuvor nur Menschen vorbehalten war. Generative AI wird in vielen Bereichen eingesetzt, von der Kunst und Unterhaltung bis hin zu Forschung und Entwicklung.
Was sind Large Language Models?
Large Language Model (LLM) ist ein Teil von generativer KI. Ein Large Language Model (LLM) wird als ein computergestütztes System bezeichnet, das entwickelt wurde, um menschenähnliche Texte zu generieren und auf Fragen zu antworten. Somit ist ein LLM ist ein spezieller Typ von generativem KI-Modell, das darauf trainiert wurde, Texte in natürlicher Sprache zu generieren. Es nutzt eine grosse Menge an Trainingsdaten, um Sprachmuster zu verstehen und neue Texte zu erzeugen, die menschenähnlich wirken. LLMs werden häufig für verschiedene Aufgaben eingesetzt, wie das Verfassen von Artikeln, das Beantworten von Fragen, das Erstellen von Dialogen und vieles mehr. Generative KI umfasst jedoch auch andere Modelle und Ansätze, die zur Erzeugung von Inhalten in verschiedenen Medien wie Bilder, Musik oder Videos verwendet werden.
Was ist ein Generative AI Chatbot?
Generative AI Chatbots oder vielmals auch einfach ChatGPT Chatbot genannt, sind Chatbots die LLMs nutzen, um die Nutzeranfrage zu verstehen, zu verarbeiten und eine passende Antwort zu generieren. Für die Erstellung der Antwort nutzt der Chatbot zum einen das Sprachmodell, auf dem er aufgebaut ist und zum anderen individuelle Wissensdatenbanken. Die Wissensdatenbanken können Unternehmen, die den Chatbot einsetzen, manuell im Bot-System integrieren. Fortschrittliche Generative AI Bots enthalten zusätzlich relevante Prompts, die dem Chatbot weitere „Regeln“ zur Beantwortung der User-Anfragen mitgeben. Mehr zum Prompts für Chatbots könnt ihr in einem meiner letzten Beiträge lesen. Übrigens, ich habe letztens einen ganzen Artikel rund um Generative AI Chatbots veröffentlicht.
Best Practices und Erfahrungen zu Generative AI Chatbots
- Mit einfachem Usecase starten: Die Wahl des passenden Usecases ist wichtiger den je. Ihr wollt erste Erfahrungen sammeln, aber ihr wollt euch und eure Kollegen auch nicht überfordern. Meine Erfahrungen haben gezeigt, dass Usecases rund um FAQs – also Chatbots, die häufige, wiederholende Fragen beantworten – sehr gute Start-Cases für einen ersten Generative AI Chatbot sind.
- Nicht alles alleine machen: Mittlerweile gibt es einige gute Chatbot Anbieter, die die Nutzung von Generative AI in ihrem Tool integriert haben. Ihr müsst also die Anbindung an ein LLM nicht mehr selbst machen, sondern könnt von den Erfahrungen anderer profitieren. Ich habe dazu sogar eine Anbieter Übersicht erstellt.
- Prompt Engineering nicht vergessen: Wenn ihr mehr als nur natürliche Gespräche mit eurem Bot führen wollt, dann vergesst auf keinen Fall das Prompt Engineering. Mit den richtigen Prompts bzw. Befehlen könnt ihr die Qualität eures Bots nochmal deutlich steigern.
- Es muss nicht alles Generative AI sein: Natürlich ist es verlockend nun jeden Dialog mit Hilfe eines LLMs erstellen zu lassen. Doch jede Anfrage an die ChatGPT API kostet Geld. Überlegt euch also, bei welchen Anfragen der Mehrwert durch ein LLM gegeben ist und welche Anfragen auch ohne auskommen.
- Datenschutz und schützenswerte Daten: Grundsätzlich ist es möglich auch schützenswerte Daten mit Hilfe von Generative AI zu verarbeiten. Dies erfordert aber höhere Anforderungen an den Datenschutz und an die IT Architektur. Es empfiehlt sich den ersten MVP nach Möglichkeit ohne schützenswerte Daten zu lancieren.
- Qualität statt Quantität bei Trainingsdaten: Bei den Trainingsdaten und angebundenen Wissensdatenbanken gilt das bekannte Prinzip „Shit in – shit out“. Es macht also keinen Sinn, dem LLM einfach möglichst viel Content zur Verfügung zu stellen, ohne die Qualität der Inhalte geprüft zu haben. Oft ist es beispielsweise gar nicht sinnvoll die gesamte Webseite als Wissensquelle anzugeben, sondern besser nur die Seiten, die wirklich relevant sind.
- Nobodies Chatbot is perfect: Auch wenn Generative AI und LLMs die Qualität der Chatbots nochmal auf ein ganz neues Level gebracht haben, bleibt die Tatsache, dass kein Chatbot perfekt sein wird. Es empfiehlt sich weiterhin den Chatbot vor der Lancierung zu testen und grobe Fehler zu eliminieren. Dann solltet ihr euch aber trauen das „Chatbot Experiment“ zu veröffentlichen und ihn im Laufe der Nutzungszeit stetig verbessen.
Fazit: Das wichtigste Learning
Die Lernkurve geht stetig weiter nach oben und der Lern-Prozess wird nie fertig sein. Wir müssen uns alle – manche mehr, mache weniger – mit den Themen ChatGPT, Generative AI, KI, Chatbots, Voicebots und Co. beschäftigen und werden stetig neue Erkenntnisse sammeln.
Ich freue mich drauf!
Noch mehr Insights?
Habt ihr nach diesen ersten Beispielen Lust auf mehr bekommen? Kein Problem, schickt mir einfach eure Nachricht bzw. eure Fragen per WhatsApp Nachricht oder per E-Mail und ich antworte zeitnah.
Oder kommt direkt in meine WhatsApp Gruppe – da poste ich regelmässig Usecases, News, Best Practices, Events und vieles mehr rund um Chatbots, ChatGPT und Co..
