Quando si pianifica e si introduce un chatbot o un voicebot, è consigliabile scegliere un partner tecnologico che abbia conoscenza ed esperienza nell’area dei Large Language Models (LLM) e dell’API ChatGPT.

Esiste un numero limitato di fornitori nei paesi di lingua tedesca che utilizzano l’API ChatGPT. Di seguito è riportato un confronto di possibili soluzioni e fornitori per progetti di chatbot o voicebot che già utilizzano l’API ChatGPT (a partire da giugno 2023).

L’elenco non è esaustivo e non sono rappresentati tutti i possibili fornitori. I fornitori elencati sono stati contattati individualmente e gli è stato chiesto di indicare le loro possibilità con l’API ChatGPT. Sono stati contattati anche altri fornitori, ma non sono stati in grado di fornire risposte esaurienti e quindi non sono stati inclusi in questo confronto.

Quali fornitori di chatbot sono stati messi a confronto?

I seguenti fornitori sono stati confrontati in questo articolo e nel rapporto supplementare da scaricare:

• Bit di dialogo
• Enterprisebot
• Paretabacco
• BubbleChat
• Kore.ai
• PlaynVoice

L’API di ChatGPT: a cosa serve?

Osservando i fornitori, si nota che l’API ChatGPT viene utilizzata in modi diversi. Tutti i fornitori utilizzano direttamente ChatGPT per elaborare le fonti di conoscenza e rispondere alle varie domande degli utenti.

Con DialogBits, Bubble Chat e Kore.ai, l’integrazione di ChatGPT ha diverse funzioni. Supporta la generazione di risposte alle domande degli utenti sulla base di ampi database di conoscenze, come siti web o altre fonti di dati. Allo stesso tempo, supporta l’utente nel processo generale di creazione del chatbot, come ad esempio la generazione di record di formazione aggiuntivi per gli intenti precedentemente definiti. Con DialogBits, una richiesta dell’utente può anche essere inoltrata direttamente a ChatGPT per generare una risposta basata sulla vasta conoscenza del chatbot OpenAI.

Bubble Chat utilizza anche le funzionalità di ChatGPT per il test automatico del bot.

Come viene addestrato il chatbot con l’API ChatGPT?

L’uso puro di ChatGPT può portare a errori o a risposte indesiderate. Per questo è importante che i fornitori di tecnologia offrano opzioni per la messa a punto e l’ingegnerizzazione tempestiva.

Dopo aver consultato i fornitori, DialogBits, Enterprisebot, paretolabs, Bubble Chat e Kore.ai sembrano offrire la maggiore flessibilità in termini di messa a punto e di ingegneria immediata. Con Dialogbits e Bubble Chat, le risposte della chat possono essere personalizzate in base all’utente grazie all’ingegneria dei prompt.

Paretolabs offre una varietà di opzioni per la regolazione fine sotto forma di strato intermedio. Con il mid-layer, Paretolabs si concentra principalmente sui settori con dati sensibili. Per saperne di più sui chatbot con ChatGPT API nel settore bancario, leggi questo articolo.

Da dove proviene il contenuto del chatbot con ChatGPT API?

La maggior parte dei fornitori offre la possibilità di utilizzare siti web, PDF e altri documenti come base per la conoscenza del bot. Le conoscenze sono solitamente fornite sotto forma di database vettoriale. I clienti possono anche consegnare le loro conoscenze direttamente al fornitore sotto forma di database vettoriale.

Con Dialogbits, Enterprisebot e Bubble Chat, il contenuto dei siti web può essere aggiornato regolarmente. Questo assicura che il chatbot riceva sempre le informazioni più recenti dal sito web. Funzioni simili possono essere impostate anche su Paretolabs. Per saperne di più sull’utilizzo dell’API ChatGPT in combinazione con i contenuti del tuo sito web, puoi leggere l’articolo sul mio esperimento di chatbot ChatGPT.

PlaynVoice recupera le conoscenze solo da PDF e altri documenti caricati in precedenza (a partire da giugno 2023).

Come si fa a garantire che il chatbot non invii dati sensibili a OpenAI?

I fornitori implementano ulteriori livelli di processo o richieste per garantire che non tutte le richieste vengano inoltrate a OpenAI.

Enterprisebot e Bubble Chat sottolineano esplicitamente che le loro soluzioni sono in grado di anonimizzare le informazioni sensibili delle richieste degli utenti, in modo che solo la parte anonima della richiesta venga inviata a OpenAI.

Paretolabs offre anche una serie di opzioni per l’anonimizzazione dei dati sotto forma di mid-layer.

Cosa succede ai chatbot con dialoghi basati su regole?

Tutti i fornitori di tecnologia sottolineano che continuano a offrire ai loro clienti approcci basati su regole o intenzioni oltre alla soluzione ChatGPT. Questo è particolarmente importante quando si tratta di processi fissi, dove un modello linguistico come ChatGPT potrebbe essere un ostacolo.

Quali sono i costi di un chatbot con ChatGPT API?

I costi variano notevolmente e non tutti i fornitori sono stati in grado di fornire prezzi trasparenti. In genere, il prezzo del POC è fisso e i costi di licenza dipendono dall’utilizzo. I costi della licenza dipendono in parte dal numero di token o di richieste a OpenAI e non sono comunicati in modo trasparente da tutti.

Enterprisebot dichiara di poter fornire un POC iniziale per le aziende a partire da 20.000 CHF. Presso Paretolabs, i prezzi per un POC partono da CHF 40.000.

Cosa viene fatto per la minimizzazione dei dati?

L’utilizzo di modelli linguistici di grandi dimensioni (LLM) richiede un’ampia elaborazione dei dati, che è associata a costi elevati dei server e a un elevato consumo energetico. Il concetto di minimizzazione dei dati mira a contrastare questo fenomeno. Tutti i provider presentati hanno implementato meccanismi per garantire che non tutte le richieste vengano inviate a OpenAI. Solo le richieste a cui non è possibile rispondere con altri metodi vengono inoltrate a OpenAI. I metodi utilizzati dai fornitori per ridurre al minimo i dati variano. Anche l’ingegneria tempestiva sembra giocare un ruolo importante nella maggior parte dei casi. Per saperne di più, consulta il rapporto che puoi scaricare gratuitamente alla fine di questo articolo.

Dove è ospitato il chatbot con ChatGPT API?

Le maggiori differenze tra i fornitori si riscontrano nell’area dell’hosting. Non tutti i provider offrono l’opzione dell’hosting on-premise. La maggior parte dei provider utilizza Microsoft Azure come piattaforma di hosting, anche se la posizione del Cloud Azure può variare. Altri fornitori di cloud menzionati sono AWS o Hetzner. Maggiori dettagli sono disponibili nel report scaricabile in fondo a questa pagina.

Dove può essere utilizzato il chatbot con ChatGPT API?

Se il bot è destinato esclusivamente all’uso telefonico, è possibile scegliere la soluzione vocale di PlaynVoice. Per tutte le altre aziende, ti consigliamo di scegliere uno degli altri provider. Questi offrono chat su siti web, WhatsApp, telefono, Instagram, e-mail e altri canali di comunicazione. Bubble Chat ha anche nominato il provider svizzero Bekeeper come opzione di integrazione.

Quali funzioni aggiuntive sono disponibili e quali sono previste?

Le roadmap dei fornitori sono tutte molto promettenti. I dettagli delle funzionalità previste sono riportati nel rapporto dettagliato alla fine di questo articolo.

Quali sono i riferimenti per i chatbot con ChatGPT API già esistenti?

Ad eccezione di paretolabs, tutti i fornitori hanno una vasta esperienza nel settore delle chat e dei voicebot e quindi anche un gran numero di progetti di riferimento.

In termini di progetti di riferimento nel settore ChatGPT, Enterprisebot sembra avere la maggiore esperienza a partire da giugno 2023. Sono stati in grado di nominare tre chatbot produttivi con l’API ChatGPT. Puoi trovare i riferimenti esatti nel rapporto, che è disponibile per il download gratuito qui sotto.

Tutte le informazioni, i fatti e i dati

Questo è solo un piccolo estratto di una ricerca abbastanza approfondita per confrontare i fornitori di chat e voicebot che già utilizzano l’API ChatGPT.

Si noti che l’elenco non è assolutamente esaustivo. L’attenzione si è invece concentrata su analisi precise e sulla comunicazione diretta con i singoli fornitori.

L’intero rapporto è disponibile tramite il seguente pulsante.