Come usare Chat GPT

Come indica il suo acronimo, Generative Pre-training Transformer, Chat GPT è un modello di linguaggio generativo basato sull’architettura “transformer” . Questi modelli sono in grado di elaborare grandi quantità di testo e di imparare a eseguire attività di elaborazione del linguaggio naturale in modo molto efficace. Il modello GPT-3, in particolare, ha una dimensione di 175 miliardi di parametri , il che lo rende il più grande modello linguistico mai addestrato. Per funzionare, GPT deve essere “addestrato” su una grande quantità di testo. Ad esempio, il modello GPT-3 è stato addestrato su un set di testo che comprendeva oltre 8 milioni di documenti e oltre 10 miliardi di parole.

Da questo testo, il modello impara a eseguire attività di elaborazione del linguaggio naturale e a generare un testo coerente e ben scritto. Una volta che il modello è ben addestrato, GPT può essere utilizzato per eseguire un’ampia gamma di attività, come abbiamo visto nella sezione precedente. L’apprendimento per rinforzo, basato sul feedback umano , è stato utilizzato per la formazione. In definitiva, grazie alla messa a punto supervisionata.

I formatori di intelligenza artificiale umana hanno fornito conversazioni in cui rappresentavano sia l’utente che l’assistente di intelligenza artificiale. Inoltre, ai coach sono stati forniti suggerimenti scritti per aiutarli a scrivere le loro proposte. Quindi, hanno mescolato questo nuovo set di dati con il set di dati InstructGPT che è stato trasformato in un formato di dialogo.

Ma come hanno creato il modello di ricompensa per l’apprendimento per rinforzo?
La prima cosa che serviva era raccogliere dati di confronto. Questo consisteva in due o più risposte del modello, classificate in base alla qualità. Quindi, per raccogliere i dati, hanno preso alcune conversazioni che i formatori avevano avuto con Chat GPT e le hanno selezionate a caso. In questo modo hanno testato vari finali per classificare gli allenatori.

Per questo motivo, questi modelli di ricompensa potrebbero essere adattati utilizzando l’ottimizzazione della politica prossimale. Inoltre, i corsi di formazione sono stati svolti su una piattaforma Microsoft Azure su un supercomputer. In conclusione, per utilizzare GPT in una chat, al modello viene fornito un input sotto forma di testo. Questo input può essere sotto forma di una domanda o di una frase contestuale.

E, da questo input, GPT genera una risposta appropriata e coerente. Infatti, questa risposta può essere utilizzata in un chatbot o in qualsiasi altra applicazione in cui è necessario generare un testo da un dato input.