Per rendere il sistema più affidabile e coerente, i modelli linguistici di grandi dimensioni, detti LLM, che alimentano strumenti come ChatGPT, sfruttano diversi meccanismi. Uno di questi è il confronto fra il risultato di una domanda generativa che è aperta e produce una risposta e una domanda discriminativa che necessita una scelta fra diverse opzioni.
Se ad un interlocutore chiedessimo "Qual è la capitale della Cina?", otterremmo una risposta, ma se chiedessimo "Pechino è la capitale della Cina?" ne potremmo ottenere un’altra. Se quindi la domanda è formulata in modo diverso si potrebbero ottenere risposte contrastanti e disconnesse.
A questo dilemma viene in aiuto la teoria dei giochi ed in particolare un gioco, denominato gioco del consenso e ideato al MIT, in cui le due modalità del modello sono guidate verso la ricerca di una risposta su cui possono concordare.
L'idea centrale è nata dall'immaginare una conversazione tra due persone come un gioco cooperativo, in cui il successo avviene quando un ascoltatore capisce ciò che chi parla sta cercando di trasmettere. In particolare, il gioco del consenso è progettato per allineare i due sistemi del modello linguistico: il generatore, che gestisce le domande generative, e il discriminatore, che gestisce quelle discriminative.
Nel gioco il generatore riceve una domanda che può provenire da un essere umano o da un elenco preesistente. Ad esempio, “Dove è nato Cristiano Ronaldo?” Il generatore riceve quindi alcune risposte candidate e queste opzioni possono provenire da un essere umano, da un elenco o da una ricerca effettuata dal modello linguistico stesso.
Prima di rispondere, al generatore viene anche detto se deve rispondere correttamente o meno alla domanda, a seconda del risultato di un lancio corretto della moneta.
Se esce testa, la macchina tenta di rispondere correttamente. Il generatore invia la domanda originale, insieme alla risposta scelta, al discriminatore. Se il discriminatore determina che il generatore ha inviato intenzionalmente la risposta corretta, ciascuno ottiene un punto, come una sorta di incentivo.
Se la moneta esce croce, il generatore invia quella che ritiene sia la risposta sbagliata. Se il discriminatore decide che è stata data deliberatamente la risposta sbagliata, entrambi ottengono nuovamente un punto. Anche il generatore e il discriminatore iniziano ciascuno con alcune “credenze” iniziali. Queste prendono la forma di una distribuzione di probabilità relativa alle diverse scelte. Il generatore, sulla base delle informazioni raccolte da Internet, imposta le probabilità sulle diverse città di nascita. Il discriminatore può iniziare con una distribuzione percentuale diversa sulle diverse possibilità di risposta. Se i due giocatori trovano un accordo, anche su una risposta errata, conquistano punti nel gioco.
Grazie alle intuizioni della teoria dei giochi, i modelli linguistici saranno in grado di gestire interazioni ancora più sofisticate, invece di limitarsi a problemi di tipo domanda-risposta.
