Natürlich rede und schreibe ich nicht nur von ChatGPT, sondern ich experimentiere auch selbst damit.
Meine ersten Experimente
Angefangen habe ich mit einfachen Chats mit dem bekannten Chatbot ChatGPT von OpenAI. Zunächst habe ich allgemeine Anfragen, an ChatGPT geschickt, wie beispielsweise „Erklär mir die Funktionsweise von Large Language Models!“. Anschliessend habe ich komplexer Texte mit Hilfe von ChatGPT generieren lassen. So konnte ich selbst viel über das richtige Prompten lernen. Einige Ergebnisse dazu, habe ich hier festgehalten.
Das ChatGPT Experiment bei Helvetia
Ungefähr im Februar 2023 startete das ChatGPT Experiment der Helvetia Versicherung und ich durfte das Projekt seitens der Hochschule Luzern begleiten. Wir haben gezeigt, dass es möglich ist, das Sprachmodell von ChatGPT mit dem eigenen Content der eigenen Unternehmensseite zu kombinieren, um eine komplett neue Chatbot-Experience anbieten zu können. Während dieser Phase haben wir zeigen können, dass diese Art von Chatbots wohl wesentlich schneller umzusetzen ist, als die klassischen Intent-basierten Chats. Insgesamt konnten alle Projektbeteiligten in dieser Phase viel über GPT3.5 und Chatbots lernen. Beispielsweise lernten wir, wie der Content auf der Webseite dargestellt werden muss und welcher Content sich für Webseiten-Chatbots am besten eignet.
Mein eigenes ChatGPT Chatbot Experiment
Nun ist es endlich so weit, ich kann sagen, dass ich eine „eigenen“ ChatGPT Chatbot habe. Ich nutze dazu das neuste Angebot von Enterprisebot. Dabei nutzt die Plattform von Enterprisebot meinen Webseiten Content als Knowledge Base für „meinen eigenen ChatGPT Bot“ nutzt. Der Chatbot kombiniert dabei das Sprachmodell ChatGPT3.5 mit dem gesamten Wissen meiner Webseite.
Mein eigenes ChatGPT Chatbot Experiment: Vorgehen
Während ich bei meinem anderen Bots jeweils alle Intents, Trainingssätze und Antworten im Voraus definieren musste, habe ich dieses Mal einfach meine Webseite an das Team von Enterprisebot übergeben und sie haben meinen Content in ihre Plattform übernommen. Die Plattform nutzt seit wenigen Monaten die Sprachmodelle von OpenAI. Es folgten einige Tests und Design-Anpassungen und dann konnte der Chatbot online gehen. Bei den Tests stellte sich bereits heraus, dass der Bot noch nicht alle Fragen beantworten kann, folglich haben wir eine Default-Nachricht hinzugefügt.
Mein eigenes ChatGPT Chatbot Experiment: Learnings
Magic – der Bot ist zwar immer noch in der Experimentier-Phase, aber wir konnten zeigen, dass mit sehr geringem Aufwand ein einfacher FAQ-Bot erstellt werden kann.
Weiter habe ich gemerkt, dass die Informationen auf meiner Webseite zum Teil lückenhaft sind. In diesem Fall, kann der Chatbot keine passende Antwort finden. Der Erfolg des Chatbots liegt also nicht ausschliesslich am Sprachmodell, sondern auch an den passenden Inhalten.
Ich werde in den nächsten Monaten sicher meine eigenen Hausaufgaben machen müssen und den Content meiner Webseite ergänzen.
Mein eigenes ChatGPT Chatbot Experiment: Datenschutz
Mein neuer Chatbot nutzt sowohl die Chatbot Plattform von Enterprisebot, sowie ChatGPT von OpenAI. Dabei sammelt die Enterprisebot Plattform nur Daten, die für die Bereitstellung des Chatbot-Dienstes erforderlich sind. ChatGPT kann personenbezogene Daten wie Name, Adresse, Telefonnummer oder E-Mail-Adresse erfassen und verarbeiten, wenn diese im Chat eingegeben werden. Dabei kann es vorkommen, dass diese persönlichen Daten, die User identifizieren könnten, wie z.B. Namen, Adresse oder Telefonnummer, teilweise gespeichert werden, jedoch nicht systematisch. Gebt also in Ihrer Unterhaltung am besten gar keine persönlichen Informationen ein, um komplett sicher zu sein. Die Daten werden nie an Dritte weitergegeben, es sei denn, dies ist gesetzlich vorgeschrieben oder zur Erfüllung unserer vertraglichen Verpflichtungen erforderlich.
Enterprisebot nutzt den ChatGPT Service von Azure. Dabei werden die Daten in einer Cloud innerhalb der EU gespeichert.
Durch die Nutzung meines neuen Chatbot Experiments nimmst du zur Kenntnis und erkennst an, dass die Interaktion mit Technologie aus und in den Vereinigten Staaten bearbeitet wird. Es gelten die Bestimmungen von OpenAI unter www.openai.com/policies.
Mein eigenes ChatGPT Chatbot Experiment: Mitmachen
Natürlich könnt ihr den Chatbot auch direkt selbst testen. Klickt dazu einfach unten rechts auf die Chat-Bubble auf dieser Seite.
Weitere Experimente
Seit Mitte April bietet „mein bisheriger Chatbot Anbieter¨ aus Deutschland ebenfalls die Integration von ChatGPT in einem Chatbot an. Bislang ist dieser Bot ein klassischer intent-basierter Chatbot, den ich mit Intents, Trainingssätzen und Antworten „füttern“ musste. Mit Hilfe der neuen ChatGPT-Anbindung kann der Chatbot auf das gesamte ChatGPT Wissen zugreifen, nicht auf einzelne Webseiten. „Mein“ Chatbot kann neu als eine Art digitaler Assistent genutzt werden, der Fragen, wie der bekannte ChatGPT bearbeitet. Ich habe meinen Chatbot neu so eingestellt, dass er bei nicht-verstandenen User-Anfragen, anbietet den Chat an ChatGPT weiter zu geben. Sofern der User zustimmt, leitet der Bot die Anfrage an ChatGPT weiter und gibt die Antwort von ChatGPT anschliessend wieder zurück an den User. Dieser Bot ist auf der Startseite meiner Webseite eingebunden. Einfach hier klicken.
Hierbei ist zu beachten, dass ChatGPT lediglich allgemeine Anfragen beantworten kann. Wenn ein User eine sehr spezifische Frage zu mir hat, die der auf Basis meiner „trainierten“ Intents nicht beantworten kann, könnte es auch für ChatGPT schwieriger werden.
Fazit
ChatGPT und die APIs von OpenAI sind heute schon sehr mächtig. Frühere Bots mussten mit viel manuellem Aufwand trainiert werden. Heute kann aus der Kombination einer guten Unternehmens-Webseite und dem Sprachmodell GPT in kurzer Zeit ein funktionierender FAQ Bot erstellt werden.
Wichtig dabei ist, dass die Content-Quelle, also die Webseite umfangreich ist und über genug Content als Wissens-Basis verfügt. Weiter sollte auch die unternehmenseigene Tonalität und die zielgruppenpassende Kommunikation nicht komplett ausser Acht gelassen werden. Mit Hilfe des Fine-Tunings, können diese Informationen ergänzt werden.
ChatGPT und andere LLMs, werden die Welt der Chatbots sicher prägen, neue Massstäbe setzen und neue Anwendungen von Chatbots in der Kommunikation möglich machen. Am besten fangt ihr frühzeitig an, eure eigenen Erfahrungen zu sammeln. Dabei kann mein ChatGPT und LLM Canvas ein hilfreiches Tool sein.
