Was sind Generative AI Chatbots?
Generative AI-Chatbots sind fortschrittliche Dialogsysteme, die mithilfe künstlicher Intelligenz und maschinellem Lernen eigenständig Antworten und Texte erzeugen können. Sie nutzen grosse Datenmengen und lernen aus Interaktionen, um menschenähnliche Konversationen zu simulieren. Diese Chatbots sind nicht auf vorprogrammierte Antworten beschränkt, sondern können neue und einzigartige Antworten generieren, die auf den Kontext und die Absichten der Benutzer eingehen. Sie werden in einer Vielzahl von Anwendungen eingesetzt, von Kundenservice bis hin zur Unterstützung bei komplexen Aufgaben wie der Programmierung oder dem Verfassen von Texten.
Als Grundlage für die Antworten nutzen Generative AI Chatbots Wissensquellen, die wir Menschen ihnen vorgeben. Dies können Webseiten, PDF-Dokumente oder andere Datenquellen sein.
Wie werden Generative AI Chatbots entwickelt?
Generative AI Chatbots basieren auf einer Kombination aus KI-Sprachmodell, Wissensquellen und dem so genannten Fine-Tuning.
Als Sprachmodell wird häufig das bekannte ChatGPT 3.5 oder ChatGPT 4.0 verwendet. Es ist aber auch möglich, dass Open Source Modelle, wie zum Beispiel Falcon verwendet werden. Das Fine-Tuning passiert in der Regel mit Hilfe von Prompts. Als Wissensquellen eignen sich Webseiten, PDFs, Datenbanken oder andere Quellen, aus denen der Chatbot sein Wissen holen soll.
Wissensquellen für Generative AI Chatbots erstellen
Damit euer Generative AI Chatbot die Anfragen der User möglichst korrekt und genau beantworten kann, ist es wichtig, dass er nutzbare und verständliche Wissensquellen hat. Eine Wissensquelle, die für uns Menschen möglicherweise sinnvoll erscheint, ist nicht zwingend auch für einen Chatbot verständlich. Bei der Erstellung von Wissensdatenbanken für euren Generative AI Chatbot gibt es einige Best Practices zu beachten.
Dokumenten-Typ
Im Idealfall könnt ihr eurem Generative AI Chatbot die Wissensquellen als PDF Dokument zur Verfügung stellen. Es ist aber auch möglich andere Datei-Formate zu verwenden.
Alternativ gehen auch Webseiten-URLs. Wenn ihr Webseiten als Wissens-Grundlage nutzt, solltet ihr jedoch beachten, dass die Webseite den folgenden Text-Vorgaben entspricht. Diese Text-Vorgaben unterscheiden sich zum Teil von den klassischen Vorgaben aus der User Experience Forschung. Eine gut-performende Webseite bei Google oder bei euren menschlichen Usern ist also nicht automatisch auch für einen Generative AI Chatbot nützlich 😉
Textformat
Erste Erfahrungen zeigen, dass sich Texte in Form von Fliesstext am besten eignen. Dabei sind PDFs meist am besten zu verstehen. Wichtig es müssen echte PDFs sein und keine eingescannten Dokumente, als PDF abgespeichert.
Weiter sollten alle Inhalte in dem Fliesstext enthalten sein und nicht zusätzlich in Bildern, Tabellen oder anderen Grafiken enthalten sein. Es sollte wirklich ein Fliesstext mit ganzen Sätzen sein und keine einfachen Aufzählungen.
Im Idealfall enthält euer Fliesstext verschiedene Abschnitte, wobei jeder Abschnitt die gleichen wichtigen Schlüsselwörter enthält. Es ist in diesem Fall nicht schlimm, wenn es zu Wiederholungen kommt, die inhaltlich logisch sind. Die meisten Generative AI Bots scannen die einzelnen Textabschnitte inklusive Titel separat. Daher ist es wichtig, dass die Schlüsselwörter in jedem effektiven Paragraphen wieder vorkommen.
Sofern ihr mit Links arbeitet, müssen diese als Teil vom Fliesstext ausgeschrieben sein und nicht als Hyperlink im Text verlinkt sein.
Best Practices
Folgende Best Practices haben sich in den letzten Monaten als sehr erfolgreich erwiesen:
- PDF als Dateiformat (keine Scans)
- Fliesstext
- Keine Tabellen
- Keine Listen (keine Bullet Points)
- Keine Bilder oder Grafiken
- Keine Alt-Texte auf Bildern
- Ganze Sätze
- Links ausgeschrieben als Teil des Fliesstexts (keine Hyperlinks)
- Abschnitte müssen Schlüsselwörter enthalten
- Titel und ihre dazugehörigen Paragraphen werden als separate Teile gescrapet. Es ist also wichtig, dass die Schlüsselwörter in jedem effektiven Paragraphen wieder vorkommen, damit der Bot nicht nur die Titel findet. In jedem Paragraphen muss zudem in ganzen Sätzen geschrieben werden mit Bezug zum Titel.
Noch mehr Tipps
In dem Beitrag zu meinen Learnings über Generative AI Chatbot Projekte gibt es noch viele weitere Tipps für eure Generative AI Chatbot Projekte.
Und natürlich könnt ihr mich bei Fragen auch jederzeit direkt kontaktieren. Schreibt mir einfach eine Nachricht per WhatsApp Nachricht oder per E-Mail.
Oder kommt direkt in meine WhatsApp Gruppe – da poste ich regelmässig Usecases, News, Best Practices, Events und vieles mehr rund um Chatbots, ChatGPT und Co..
