Chiedendo a ChatGPT "E' vero che l'intelligenza artificiale può mentire all'uomo?" si ottiene questa risposta: l'intelligenza artificiale, come me, non mente nel senso umano del termine, perché non ha intenzioni, emozioni o motivazioni personali. Tuttavia, può fornire informazioni errate o fuorvianti a causa di dati incompleti utilizzati nella fase di addestramento. Esiste anche il caso che i modelli di intelligenza artificiale generino risposte che sembrano plausibili ma che in realtà sono inventate o imprecise. In questo caso si parla di Allucinazioni dell'IA.
Quindi, un'IA può dare informazioni false, ma non per una volontà di mentire. Se hai un dubbio su una risposta, è sempre una buona idea verificare da fonti affidabili.
Le allucinazioni dell'IA si verificano perché i modelli di IA, probabilmente a causa di assenza di dati o di dati parziali, generano risultati basandosi su schemi statistici piuttosto che su una comprensione reale del mondo. Più precisamente si verificano quando :
- l'IA non ha informazioni precise su un argomento, potrebbe "riempire i vuoti" con dati inventati.
- l'IA si basa su probabilità e può creare risposte che sembrano logiche ma che non hanno basi reali.
- una domanda è vaga o mal formulata, in questo caso l'IA potrebbe generare una risposta imprecisa nel tentativo di rispondere comunque.
- quando i dati utilizzati per addestrare il modello contengono errori o informazioni fuorvianti, costringendo l'IA a ripeterli
Si verificano casi in cui si fornisce una citazione attribuita a un autore che in realtà non l'ha mai detta oppure che si sostiene che un evento storico è avvenuto in una data sbagliata o che una persona famosa ha compiuto un'azione che non ha mai fatto.
Per ridurre i rischi derivanti dall'allucinazione è necessario consultare fonti affidabili, chiedere più risposte, possibilmente più precise, per individuare differenze e discrepanze.
