Ein Beitrag von Sophie Hundertmark.

Sophie Hundertmark ist Expertin für den praktischen Einsatz von Künstlicher Intelligenz mit Schwerpunkt auf Chatbots, AI-Strategien und verantwortungsvoller Technologieintegration. Sie ist Forscherin und Dozentin an der Hochschule Luzern und schreibt derzeit ihre Dissertation im Bereich Conversational AI an der Universität Fribourg. Als Beraterin begleitet sie Unternehmen, Verwaltungen und Bildungsinstitutionen bei der Einführung wirksamer KI-Lösungen. Mehr zu Sophie Hundertmark auf auf Linkedin.

Kennt ihr das Gefühl, wenn euch eine Nachricht irgendwie komisch vorkommt? Genau so ging es mir wieder einmal – auf der Plattform Tutti.ch, die vielen von euch vielleicht ähnlich wie eBay Kleinanzeigen bekannt vorkommt. Und genau hier habe ich mithilfe von KI ein praktisches Tool gebaut, das mich (und ab jetzt auch euch) vor solchen Betrügereien schützt.

Der Auslöser: Verdächtige Nachrichten in Sekunden

Ich hatte ein Inserat auf Tutti.ch erstellt und war gerade erst fertig – da trudelten innerhalb weniger Sekunden vier Nachrichten ein. Alle klangen ähnlich. Zu ähnlich. Teilweise unformatierte Texte, auffällig höfliche Sprache, sofortiger Kontaktwunsch via WhatsApp. Da war für mich schnell klar: Das sind keine normalen Interessenten – das ist Betrug.

Ich habe mich gefragt: Könnte ChatGPT dieselben Warnzeichen sehen wie ich – vielleicht sogar noch schneller und systematischer?

Schritt für Schritt: So habe ich die KI zur Betrugserkennung trainiert

1. Rohdaten einspeisen: Die Originalnachrichten

Ich habe zunächst die vier verdächtigen Nachrichten komplett unformatiert in ChatGPT eingefügt. Wichtig war dabei, keine Vorannahmen zu machen – also einfach nur: „Hier sind vier Nachrichten. Finde Gemeinsamkeiten und mögliche Warnzeichen für Betrug.“

2. ChatGPT analysieren lassen

ChatGPT hat die Nachrichten in Sekundenschnelle auf Muster analysiert und mir eine Liste mit typischen Merkmalen erstellt, z. B.:

• Nachricht kommt wenige Sekunden nach Veröffentlichung
• Kein direkter Bezug zum konkreten Inserat (oft wird nur „der Artikel“ oder „das Produkt“ erwähnt)
• Kontaktaufnahme über WhatsApp gewünscht
• Ungewöhnliche Formatierung von Telefonnummern
• Übertrieben höflicher oder formeller Ton
• Wiederholte Textbausteine über mehrere Nachrichten hinweg

Zusätzlicher Mehrwert: ChatGPT hat zu jedem Merkmal ein Beispiel aus den Nachrichten mitgeliefert. Ich habe das Ergebnis überprüft und festgestellt: Genau das hätte ich selbst so aufgeschrieben – aber es ging deutlich schneller und war einheitlich und strukturiert formuliert, sodass es im weiteren Verlauf von einer KI genutzt werden kann.

3. Prompt zur Wiederverwendung entwickeln

Der nächste Schritt war, ChatGPT zu bitten:
„Erstelle mir einen Prompt, den ich in Zukunft verwenden kann, um solche Betrugsnachrichten automatisch zu analysieren.“

ChatGPT hat mir daraufhin einen Vorschlag geliefert, wie ich den Input strukturieren kann – also welche Anweisung und welche Merkmale in Zukunft berücksichtigt werden sollen.

Ich habe diesen Prompt dann manuell angepasst und ergänzt, z. B. um den Hinweis, dass viele Nachrichten unmittelbar nach Veröffentlichung erscheinen – das war ein Merkmal, das ChatGPT aus den vorhandenen Daten allein nicht erkennen konnte.

4. Custom GPT bauen

Dann kam der entscheidende Schritt: Ich habe den angepassten Prompt in einen Custom GPT überführt. Das bedeutet, dass ich auf der Plattform chat.openai.com einen eigenen GPT-Assistenten erstellt habe – mit genau den Regeln und Instruktionen, die ich vorher gemeinsam mit ChatGPT definiert hatte.

Folgendes habe ich dabei gemacht:

• Name und Rolle festlegen: Der GPT sollte ein Sicherheitsassistent für Verkäufer:innen auf Tutti.ch sein
• Guidelines einfügen: Alle erkannten Merkmale von Betrugsnachrichten habe ich als Liste eingefügt
• Verhaltensregeln definieren: Der GPT sollte bei jedem einzelnen Merkmal den Nutzer warnen und die Stelle im Text zitieren
• Haftungsausschluss einbauen: Klarer Hinweis, dass dieser GPT nicht offiziell von Tutti stammt
• Datenschutzhinweis ergänzen: Keine persönlichen Daten eingeben, da alles bei OpenAI verarbeitet wird

Mehr Details zur Erstellung von CustomGPTs findet ihr auch in einem meiner letzten Beiträge.

5. Testphase mit echten Beispielen

Wie bei allen KI-Projekten ist ein ausreichendes Testen unabdingbar. So kam auch bei mir die Testphase bevor ich den CustomGPT mit anderen teilen konnte.

Ich habe dazu den GPT dann mit echten Nachrichten getestet – auch mit nicht-verdächtigen Anfragen. Eine italienisch formulierte Nachricht z. B. wurde korrekt als unproblematisch erkannt. Die Hinweise waren nachvollziehbar und die Einschätzung stimmte mit meinem eigenen Gefühl überein.

6. Freigabe für alle

Zuletzt habe ich den GPT im Custom GPT Store öffentlich zugänglich gemacht, sodass auch ihr ihn nutzen könnt. Den KI-Bot zur Betrugserkennung findet ihr öffentlich im GPT Store.

Was ihr daraus lernen könnt – und warum das Beispiel weit über Tutti hinausgeht

Die Betrugserkennung war in meinem Fall nur ein konkreter Anlass. Aber wenn ihr euch anschaut, was dahinter steckt, wird deutlich: Es geht nicht um diese eine Lösung – sondern um ein ganzes Prinzip, das ihr auf viele andere Situationen übertragen könnt.

Denn das eigentliche Potenzial liegt darin, dass eine KI wie ChatGPT blitzschnell Muster, Wiederholungen oder Auffälligkeiten erkennt, die uns Menschen oft entweder gar nicht auffallen – oder erst nach vielen Wiederholungen. Genau darin liegt der Mehrwert.

Hier ein paar konkrete Lektionen und Anwendungsideen, die ihr für euch mitnehmen könnt:

1. KI kann euch in der Mustererkennung unterstützen – schneller und objektiver als euer Bauchgefühl

Viele Entscheidungen im Alltag oder Beruf beruhen auf Intuition. Aber was, wenn euer Bauchgefühl falsch liegt? Oder wenn ihr vor lauter Arbeitsstress gar nicht mehr genau hinschaut?

Mit einer guten KI-Unterstützung könnt ihr:

• Serienbriefe, Bewerbungen oder Anfragen auf wiederkehrende Formulierungen oder Copy-Paste-Texte prüfen
• Kommentare, E-Mails oder Supporttickets auf Stimmung, Dringlichkeit oder Ernsthaftigkeit analysieren lassen
• In Verträgen automatisch Wiederholungen, riskante Klauseln oder fehlende Formulierungen erkennen
• Rechnungen prüfen lassen: Stimmen Format, Beträge, Bezüge, Fristen? – ohne jede Zeile händisch durchzugehen

Keine Frage, manchmal ist das menschliche Bauchgefühl dennoch besser als KI oder es ist zumindest genau das, was in der jeweiligen Situation den Menschen von einer KI unterscheidet.

2. Ihr könnt eure eigenen Regeln definieren – und die KI auf genau diese trainieren

Der grösste Vorteil: Ihr müsst nicht auf vorgefertigte Tools warten. Ihr könnt ChatGPT mit euren Beispielen und eurer Logik füttern – und damit etwas erschaffen, das genau zu eurem Fall passt.

Ein paar Ideen:

• Ein Custom GPT, der neue Kundenanfragen automatisch in Kategorien wie „Standardfrage“, „dringend“, „Sonderfall“ einordnet
• Ein Assistent, der Social-Media-Kommentare scannt und z. B. alle kritischen Stimmen herausfiltert, damit ihr schneller reagieren könnt
• Ein Helfer für HR, der Bewerbungen auf Mindestkriterien, Tonalität und Verständlichkeit prüft
• Ein Reminder-Tool, das euch bei Texten oder Präsentationen warnt, wenn wichtige Infos fehlen oder Formulierungen zu unscharf sind

3. Ihr könnt Routineaufgaben automatisieren – und dadurch Zeit für das Wesentliche gewinnen

Wirklich spannend wird es, wenn ihr euch bewusst macht, wie viel Zeit täglich für kleine, immer gleiche Aufgaben verschwendet wird:

• Ihr vergleicht immer wieder dieselben Excel-Tabellen?
• Ihr prüft jeden Tag, ob E-Mails eine Rechnung oder ein Bewerbungsschreiben enthalten?
• Ihr lest Rückmeldungen durch, um „zwischen den Zeilen“ zu erkennen, ob jemand zufrieden ist?

Das alles kann ein gut konfigurierter GPT vorfiltern oder voranalysieren – sodass ihr nur noch prüfen und entscheiden müsst.

4. Ihr könnt Sicherheit erhöhen – ohne externe Tools oder IT-Projekte

Was ich euch mit dem Tutti-Beispiel zeige, ist auch eine Art Cybersecurity für Nicht-Techniker:innen. Ihr müsst keine großen Sicherheitslösungen einkaufen – ihr könnt:

• E-Mails prüfen lassen, ob sie nach Phishing oder Fake-Rechnung klingen
• Anfragen im Webshop oder über Kontaktformulare checken, ob sie Spam-Muster oder Fake-Namen enthalten
• Interne Nachrichten auf potenziell unsichere Inhalte oder Datenschutzverletzungen scannen lassen

Gerade für kleine Unternehmen, Selbstständige oder Vereine sind diese einfachen Anwendungen von grossem Mehrwert – weil oft kein Budget für professionelle Lösungen vorhanden ist.

5. Ihr könnt euch selbst weiterbilden – und die KI als Sparringspartner nutzen

Was ich beim Aufbau meines GPT erlebt habe: Man lernt unglaublich viel dabei! Denn während ihr Regeln aufstellt, Beispiele gebt und Prompts verfeinert, werdet ihr selbst sensibler für Sprache, Muster und Logik.

Ihr könnt ChatGPT nicht nur als Tool, sondern als Mitdenker, Trainer und Feedbackgeber einsetzen:

• Formuliert ein Regelwerk und bittet GPT, es auf eure eigenen Texte anzuwenden
• Lasst euch Feedback geben zu E-Mails, Posts oder Angeboten – inhaltlich, sprachlich, stilistisch
• Übt mit GPT den Perspektivwechsel: „Wie wirkt dieser Text auf eine Kundin, die wenig Vorwissen hat?“

Fazit: Der wahre Mehrwert liegt nicht im Tool, sondern im Prinzip dahinter

Der Trick ist nicht, dass ihr einfach ein „Betrugs-GPT“ bzw. eine KI zum Erkennen von Betrügen habt.

Der eigentliche Fortschritt ist, dass ihr ein konkretes Problem mit KI löst – und dadurch versteht, wie mächtig, flexibel und lernfähig diese Technologie ist.

Ob im privaten Bereich, im Kundenservice, im Personalwesen oder im Marketing – überall da, wo Sprache, Daten und Entscheidungen eine Rolle spielen, könnt ihr euch mit ChatGPT-Systemen massiv unterstützen lassen.

Und ihr braucht dafür kein Coding, keine Programmiererfahrung und kein grosses Budget. Nur eine gute Idee, ein paar Beispiele – und die Lust, ein bisschen auszuprobieren.

Weitere Fragen?

Ihr habt Fragen dazu? Gerne unterstütze ich euch, stehe als Sparring-Partner zur Verfügung und beantworte eure Fragen. Ich freue ich mich immer über eure Nachrichten, am liebsten per WhatsApp Nachricht oder als E-Mail.

Diesen Beitrag gibt es übrigens auch als Podcast-Folge

Achtung! Der Podcast wurde komplett von meinem AI-Assistant auf Basis meines Beitrags erstellt – keine Garantie für Fehl-Inhalte.