Chatbots sind aufgrund der schlechten Qualität von regelbasierten Bots immer noch etwas negativ belastet. Diese negativen Einstellung verringern sich jedoch mehr und mehr. Zahlreiche Best Practices, wie das der Helvetia Schweiz zeigen Kunden und Unternehmen, dass LLM-Chatbots eine deutlich höhere Qualität und Antwortgenauigkeit aufweisen. Erste Zahlen zeigen, dass Kunden bzw. Nutzer von Chatbots dies mehr und mehr verstehen und die Abneigung gegenüber LLM-Chatbots sinkt. Kunden werden immer motivierter einen Chat mit einem LLM-Chatbots zu starten und sammeln so laufend neue und positive Erfahrungen.

Die Hauptaufgabe von LLM-Chatbots besteht in der automatisierten Beantwortung von Fragen oder das Triggern von vordefinierten Prozessen. Folglich eignen sich LLM-Chatbots für alle Unternehmen bei denen Mitarbeitenden, die während ihren Arbeitsabläufe immer wieder ähnliche Fragen beantworten müssen. Dabei gilt anzumerken, LLM-Chatbots können intern für Mitarbeitende oder extern für Kunden eingesetzt werden. Also auch ein IT-Helpdesk oder eine HR-Abteilung, die regelmässig Anfragen von internen Mitarbeitenden erhalten, können durch einen LLM-Chatbot entlastet werden. LLM-Chatbots für Kunden werden meist im Customer Service eingesetzt oder vereinzelt auch im Marketing.

Aufgrund der vereinfachten Implementierung von LLM-Chatbots und ihrer stark verbesserten Qualität im Vergleich zu regel- oder intentbasierten Systemen, rechnet sich die Investition in LLM-Chatbots heute früher als noch vor einigen Jahren. Generell ist der Einsatz von LLM-Chatbots überall dort angebracht, wo die Inhalte für die Beantwortung von Anfragen bereits in vorhandenen Wissensquellen existieren. Unternehmen, bei denen dies zutrifft und die täglich eine hohe Anzahl von Anfragen verzeichnen, sollten den Einsatz eines LLM-Chatbots in Betracht ziehen.

Chatbots ohne die Einbindung eines LLMs werden heute kaum noch umgesetzt. Jedoch existieren immer mehr Mischformen. In vielen Fällen handelt es sich dabei um Chatbots, die zunächst ohne LLM und ohne RAG entwickelt worden sind und nun nachträglich ergänzt werden.

Ich persönlich finde diese Mischformen heikel. Der Chatbot gibt dann eine Mischung aus fixen bzw. vordefinierten unpersönlichen Antworten und gleichzeitig auch LLM-generierte Antworten, die deutlich spezifischer und persönlicher sind. Diese Mischung stellt oftmals einen Unterbruch in der Customer Experience dar.

LLM-Chatbots, oder Large Language Model Chatbots, sind fortschrittliche KI-Systeme, die Generative KI einsetzen, um menschliche Sprache zu verstehen und zu generieren. Diese intelligenten Chatbots basieren auf Large Language Modellen wie GPT-4 oder anderen Open Source Modellen, die mit enormen Mengen an Textdaten trainiert wurden, um ein tiefgehendes Verständnis von Kontext, Syntax und Semantik zu entwickeln. Durch diese fortschrittliche Sprachverarbeitung können LLM-Chatbots eine Vielzahl von Aufgaben übernehmen, von der Beantwortung von Fragen und der Erstellung von Inhalten bis hin zur Automatisierung des Kundensupports.

Im Zusammenhang mit LLM-Chatbots spielen Methoden wie Retriever-Augmented Generation (RAG) eine wichtige Rolle. RAG kombiniert die Fähigkeiten eines Retrieval-Systems, das relevante Dokumente oder Informationen aus einer Datenbank abruft, mit der Generierungsfähigkeit eines Large Language Models. Dies ermöglicht es LLM-Chatbots, nicht nur auf der Grundlage des trainierten Modells zu antworten, sondern auch spezifische, kontextbezogene Informationen aus unternehmenseigenen Quellen zu integrieren, um präzisere und informiertere Antworten zu generieren. Der Einsatz von RAG erweitert also die Funktionalität von LLM-Chatbots erheblich, indem es Unternehmen möglich macht, das Wissen des Chatbots individuell zu ergänzen. Unternehmen können sogar definieren, dass der LLM-Chatbots ausschliesslich auf die vom Unternehmen zur Verfügung gestellten Inhalte zurück greifen soll. So wird sichergestellt, dass der Bot nicht auf ungewollte bzw. falsche Informationen zurück greift.

LLM-Chatbots bestehen aus mehreren Hauptkomponenten. Mir gefällt die veranschaulichte Darstellung von TrueBlue, die LLM-Chatbots in sehr vereinfachte fünf Hauptkomponenten aufteilen:

Mehr dazu in meinem Beitrag: LLM-Chatbots – Eine Einführung in die neue Welt der Bots

Chatbots sind digitale Chat-Roboter, die Dialoge automatisieren. Anstatt mit einem Menschen zu chatten, chatten Kunden dann mit einer Künstlichen Intelligenz.

Chatbots bieten Kunden und Mitarbeitern eine 24/7 Erreichbarkeit. Sie können rund um die Uhr die häufigsten Fragen beantworten und sind unendlich skalierbar.

Chatbots steigern die Effizienz der Mitarbeiter. Die Mitarbeiter können sich wieder um anspruchsvolle Kundenanfragen kümmern, während der Chat- oder Voicebot die einfachen Fragen automatisiert beantwortet. Das steigert die Zufriedenheit der Kunden und Mitarbeiter.

Grundsätzlich ist mein Angebot hier sehr breit. Ich unterstütze in allen oben genannten Punkten, kann aber auch nur individuell einzelne Punkte daraus übernehmen. Je nach Kunde übernehme ich die Projektleitung und unterstütze aktiv in der Umsetzung oder ich begleite das Projekt einfach als Externe Beraterin.

Natürlich berücksichtige ich in meiner Beratung immer die neusten Technischen Entwicklungen. Chatbots, die LLMs, Generative KI und RAG nutzen sind meiner Meinung nach die Zukunft. Folglich sind sie auch ein fixer Bestandteil meiner Dienstleistungen.

Ja, ich habe bereits einige Voicebot Projekte betreut und begleite auch gern euer Voicebot Projekt.