Mein neuer Chatbot ist online! Ich habe mich bei der Umsetzung für die Software-as-a-Service Lösung von Botsonic entschieden. Alle Details zur Umsetzung und warum ich mich für Botsonic entschieden habe, könnt ihr in diesem Beitrag nachlesen.
Zur Wiederholung
Was sind LLM-Chatbots?
LLM-Chatbots sind Computerprogramme, die mithilfe von maschinellem Lernen und natürlicher Sprachverarbeitung menschliche Interaktionen simulieren, um Sprache zu verstehen, natürliche Antworten zu generieren und menschenähnliche Konversationen zu führen. LLM-Chatbots nutzen die linguistische Datenverarbeitung, um ein grosses Sprachmodell (Large Language Model, LLM) zu erstellen, das auf der Grundlage der Prompts von Usern alles von Text über Bilder bis hin zu Musik generieren kann. Mehr zu LLM-Chatbots könnt ihr in meinem Beitrag LLM-Chatbots – Eine Einführung in die neue Welt der Bots nachlesen.
Was sind die Vorteile von LLM-Chatbots?
LLM-Chatbots bieten Unternehmen und Endnutzern eine Vielzahl an Vorteilen. Im folgenden zunächst einige allgemeine Vorteile von Chatbots und anschliessend konkrete Vorteile von LLM Chatbots im Vergleich zu Chatbots ohne LLMs:
- Verfügbarkeit
- Skalierbarkeit
- Kosteneffizienz
- Konsistenz
- Datensammlung
Vorteile von LLM-Chatbots gegenüber traditionellen Chatbots:
- Verbessertes Verständnis
- Anpassungsfähigkeit
- Personalisierung
- Fähigkeit zur Langtextgenerierung
- Integration von externem Wissen
Mehr Erläuterungen zu den Vorteilen von LLM-Chatbots findet ihr in meinem Beitrag LLM-Chatbots – Eine Einführung in die neue Welt der Bots.
Warum brauche ich einen neuen LLM-Chatbot?
Als Beraterin für Generative KI sowie Chat- und Voicebots habe ich eine Vielzahl von Kundenprojekten im Bereich der LLM-Chatbots betreut und dabei umfangreiche Erfahrungen gesammelt. Diese Erfahrungen waren sowohl technischer als auch konzeptioneller Natur und betrafen in erster Linie die Umsetzungsphase. Zudem habe ich wiederholt beobachtet, wie Unternehmen von den neuen LLM-Chatbots profitieren konnten. Kunden begannen, die LLM-Chatbots mit Begeisterung zu nutzen und erzielten häufig beeindruckende Ergebnisse. Besonders bemerkenswert war es, wenn die LLM-Chatbots nicht nur einfache Kundenanfragen beantworteten, sondern auch komplexe Fragestellungen zur Zufriedenheit klärten oder sogar Up-Selling-Aufgaben übernahmen.
Diese Erkenntnisse sowie die zunehmende Generierung von Kundenanfragen über meine eigene Webseite haben mich dazu veranlasst, einen eigenen LLM-Chatbot zu entwickeln.
Mit meinem eigenen LLM-Chatbot verfolge ich folgende Hauptziele:
- Automatisierte Beantwortung von Fragen rund um Chatbots, Künstliche Intelligenz und meine Dienstleistungen, rund um die Uhr.
- Sicherstellung, dass keine vielversprechenden Kundenanfragen übersehen werden, indem der Bot wichtige Anfragen direkt an mich weiterleitet.
- Erweiterung meiner Erfahrungen im Bereich der LLM-Chatbots und das Kennenlernen neuer Anwendungsmöglichkeiten.
Wie finde ich die passende Technologie für meinen LLM-Chatbot?
Bei der Suche nach der passenden LLM-Chatbot Software für meine eigene Webseite bin ich wie in meinem Beitrag LLM-Chatbot Software finden vorgegangen.
Ich habe zuerst meine Ziele, Bedürfnisse und Erwartungen definiert und mich dann auf die Suche nach einem passenden Anbieter gemacht. Dabei standen für mich die folgenden Kriterien im Vordergrund:
- Einfachheit der Lösung im Hinblick auf Anpassungen der System-Prompts, Design und Datenquellen
- Kosten
- Vertragskonditionen und Kündigungsmodalitäten
- Erreichbarkeit des Customer-Supports
- Integrationsmöglichkeiten in andere Kommunikationskanäle, wie Instagram und WhatsApp
Warum habe ich meinen LLM-Chatbot mit Botsonic umgesetzt?
Dank meiner diversen LLM-Chatbot Projekte mit Kunden, kenne ich bereits eine Vielzahl von LLM-Chatbot Software Anbietern. Mir war schnell klar, dass für mich und meine Webseite die SaaS-Lösung von Botsonic derzeitig am passendsten erscheint.
1. Sehr einfache Bedienung
Die Lösung von Botsonic ist äusserst einfach zu bedienen. Folgende Schritte sind notwendig, um die erste Version des neuen LLM-Chatbots umzusetzen:
- Eingabe einer Webseiten-URL als Datenquelle oder Hochladen von anderen Wissensunterlagen
- Ergänzung der System-Prompts in vorgefertigte Prompt-Templates
- Anpassung der Chatbot-Begrüssung und weiteren Hilfe-Texten
- Definition des Chatbot-Designs bzw. Avatar
- Auswahl der verfügbaren Sprachen
- Testing
- Einfügen des HTML-Codes auf der eigenen Webseite oder Verknüpfung zu anderen Kommunaiktaionskanälen
2. Gutes Preis-Leistungsverhältnis
Botsonic bietet zum Testen zunächst eine komplette Gratis-Version für die ersten zwei Wochen an. Danach gibt es folgende Preispakete.
Ich nutze aktuell das günstigste Preispaket und bin sehr zufrieden mit dem Funktionsumfang und dem Preis-Leistungs-Verhältnis.
3. Toller Kundenservice
Im Rahmen meiner Anbindung an Instagram und GoogleMyBusiness hatte ich zunächst ein paar Fragen und Herausforderungen. Ich habe also den Kundenservice von Botsonic kontaktiert und hatte innerhalb von sechs Stunden eine Antwort inkl. Videoanleitung. Der Kundenservice-Berater ist dabei sehr individuell auf meine Fragen eingegangen und konnte alle Herausforderungen in kurzer Zeit meistern.
4. Viele Integrationsmöglichkeiten zu anderen Kommunikationskanälen
Wer mich kennt weiss, dass ich ein grosser Fan von WhatsApp bin und neuerdings sogar immer öfter auch Instagram nutze. Daher ist es mir auch ein grosses Anliegen, in Zukunft auch an diesen Kommunikationskanälen Automatisierungen einbauen zu können. Botsonic bietet eine Vielzahl an Integrationsmöglichkeiten in andere Channels an und verfügt auch sonst über sehr viele Schnittstellen. Für mich war dieses Kriterium am Ende sehr ausschlaggebend, als ich mich für Botsonic, anstelle anderer kostengünstigen SaaS-Lösungen entschieden habe.
Was waren die Herausforderungen bei der Umsetzung meines LLM-Chatbots?
Die Implementierung mit Botsonic gestaltete sich äusserst unkompliziert und stellte mich vor kaum unbekannte Herausforderungen. Von weit grösserer Bedeutung war jedoch die Entwicklung meines eigenen LLM-Chatbot-Konzepts und die präzise Formulierung der System-Prompts.
Zunächst musste ich sorgfältig abwägen, wie viel Verantwortung ich meinem neuen LLM-Chatbot übertragen möchte und welche Dialoge und Kundenanfragen ich künftig weiterhin selbst beantworten werde. Diese Überlegungen galt es anschliessend in geeigneten Prompts zu formulieren. Darüber hinaus erstellte ich zusätzliche Prompts, um das Verhalten meines LLM-Chatbots in verschiedenen Situationen zu definieren.
Fazit: Mein LLM-Chatbot mit Botsonic
Nach etwa drei Tagen (einschliesslich Pausen) war die erste Version meines LLM-Chatbots fertiggestellt. Das Hinzufügen der Wissensdatenbank durch die Hinterlegung der URL meiner Webseite verlief nahezu automatisch. Auch die Designanpassungen und Einstellungen für Begrüßungs- und Hinweistexte nahmen vergleichsweise wenig Zeit in Anspruch. Zeitintensiver war hingegen die Erstellung der eigenen Prompts, einschliesslich eines durchdachten Konzepts.
Es folgte eine kurze Testphase, durchgeführt von mir selbst sowie von Freunden und Familienmitgliedern. Auf Basis der Testergebnisse nahm ich einige wenige Anpassungen an den Prompts vor und reduzierte den Umfang der Wissensdatenbank. Der LLM-Chatbot nutzt nun nicht mehr den gesamten Inhalt meiner Webseite, sondern lediglich ausgewählte Seiten.
Der LLM-Chatbot kann ab sofort über das Chat-Fenster auf meiner Webseite getestet werden.
Und wann gehts bei euch los?
Habt ihr Lust bekommen euer eigenens LLM-Chatbot Projekt zu starten? Oder habt ihr zunächst noch weitere Fragen?
In beiden Fällen könnt ihr mich sehr gern kontaktieren. Ich habe schon viele LLM-Chatbot Projekte begleitet und geleitet und bin sehr gern auch in eurem Projekt dabei.
Schickt mir einfach eine Nachricht – am liebsten per WhatsApp Nachricht oder als E-Mail.
Diesen Beitrag gibt es übrigens auch als Podcast-Folge
Achtung! Der Podcast wurde komplett von meinem AI-Assistant auf Basis meines Beitrags erstellt – keine Garantie für Fehl-Inhalte.
*Zur sprachlichen Optimierung dieses Beitrags habe ich die KI-Technologie von SwissGPT verwendet.