I connettori ChatGPT sono dispositivi di collegamento software che permettono all’ intelligenza artificiale di accedere alle applicazioni esterne come Gmail, Google Drive e GitHub per collezionare e recuperare informazioni che sono archiviate tramite il proprio account in modo da utilizzarle per il completamento rapido delle proprie attività.
E’ facile immagine quante opportunità si potrebbero materializzare sfruttando questa capacità di navigazione rapida nei dati del proprio account. Ad esempio, diventa utile consentire a ChatGpt di accedere a tutte le mail scambiate con un proprio corrispondente per ottenere una sintesi delle attività svolte o riconoscere grande rapidità tutte le modifiche applicate ad una versione di codice python rispetto ad una versione precedente con la navigazione in GitHub.
Come sempre, le nuove opportunità possono essere sfruttate in maniera impropria e alcuni ricercatori hanno dimostrato come un documento astutamente strutturato possa diventare una spia pericolosa all’interno delle nostre aree dati.
Alla recente conferenza Black Hat Hacker di Las Vegas è stata dimostrata una debolezza nel Connector di OpenAI che sembrerebbe permettere l’estrazione di informazioni sensibili da un account Google Drive all’insaputa del proprietario. Come è avvenuto questo attacco?
L'attacco inizia con la condivisione di un documento infetto su Google Drive di una potenziale vittima. Il documento sembra assolutamente normale e ufficiale rispetto a consuete policy aziendali relative alle riunioni. Ma all'interno del documento è nascosto un prompt tipico per chatbot di qualche centinaio di parole assolutamente dannoso. Il prompt è scritto in bianco quindi non visibile da occhio umano ma leggibile dal sistema.
Il prompt diventa un’inconscia presenza che può condizionare o addirittura negare le naturali ricerche che l’inconsapevole utente opera con ChatGpT, ad esempio estraendo dall’archivio di Google Drive chiavi riservate o altre informazioni sensibili.
L'attacco così realizzato mostra come iniezioni di prompt indirette e inconsapevoli possano avere un impatto sui sistemi di intelligenza artificiale generativa. Le iniezioni di prompt indirette prevedono che gli aggressori forniscano a un LLM dati contaminati che possono indicare al sistema di completare azioni dannose. Le iniezioni indirette esistono da quando esiste ChatGpt ma l’aumento delle connessioni degli LLM comportano rischi maggiori di violazioni di dati sensibili.
