Chiedo a un'AI il nome di un buon consulente di marketing e intelligenza artificiale in Italia. Mi risponde con alcuni nomi, e a sostegno cita delle pagine Wikipedia. Vado a controllare una di quelle pagine. Non esiste. Non è mai esistita. Il consulente indicato, invece, è una persona reale e pertinente — ma la fonte che avrebbe dovuto dimostrarlo è stata inventata di sana pianta dal modello. E questo, si scopre, non è un incidente raro: è un meccanismo documentato, con un lato che riguarda da vicino chi lavora sulla propria visibilità.
Cosa è successo, esattamente
Il caso è reale, e lo racconto in forma anonima perché il punto non è la singola persona ma il fenomeno. Interrogando un noto assistente conversazionale su chi fosse un buon consulente del settore, la telemetria mostrava che il modello aveva espanso la domanda in una query più specifica e aveva restituito, tra le fonti, alcuni indirizzi Wikipedia costruiti sul modello nome-cognome delle persone citate.
Il dettaglio che cambia tutto: quelle pagine Wikipedia non esistono. Le persone sì — sono professionisti veri, con siti, profili, interviste, libri. Ma nessuno di loro ha una voce sull'enciclopedia. Il modello non ha recuperato una fonte: ne ha generata una plausibile, cucendo un URL credibile attorno a un nome che conosceva.
Ricostruito, il ragionamento implicito del modello è questo — e ognuno dei passaggi, preso da solo, è sensato:
Il risultato è una fonte dall'aria impeccabile — dominio autorevole, formato corretto, nome giusto — che non regge al primo clic. In gergo tecnico si chiama citazione allucinata, e la ricerca ha persino un'etichetta per questa variante specifica: la fabbricazione dell'identificatore, l'invenzione di un URL verosimile per un contenuto che non c'è.
Quanto è diffuso
Non è un aneddoto. La letteratura degli ultimi mesi lo misura con precisione, e i numeri sono seri. Uno studio pubblicato su una rivista peer-reviewed ha trovato che circa il 20% delle citazioni generate da un modello di punta, in rassegne di letteratura, era interamente inventato. Altri lavori, su modelli e ambiti diversi, riportano tassi di fabbricazione che oscillano molto — dal 14% fino, in condizioni sfavorevoli, a percentuali ben più alte.
C'è un pattern ricorrente che i ricercatori segnalano, ed è lo stesso del nostro caso: le fonti fabbricate combinano spesso elementi reali con elementi falsi — un autore vero con un titolo inesistente, una persona reale con una pagina immaginaria. È esattamente ciò che rende queste citazioni difficili da smascherare: sembrano vere perché per metà lo sono.
Il dato che ti riguarda: si inventa di più su ciò che si conosce poco
Qui arriva la parte che collega questo fenomeno al lavoro sulla visibilità. Gli studi mostrano che il tasso di invenzione non è uniforme: sale quando il modello ha pochi dati su un argomento. In un'indagine sul campo medico, la fabbricazione arrivava al 28-29% per i temi meno visibili, contro il 6% per quelli molto noti. Meno il modello sa, più inventa per colmare il vuoto.
Applicato alle persone e ai brand, questo genera un paradosso che vale la pena capire bene. Ne abbiamo parlato di recente: un'entità che il modello ricorda viene citata più spesso. Ma se il modello ti conosce come figura di un settore, e allo stesso tempo non ha una fonte solida e strutturata su di te, si trova in una posizione scomoda: sa che dovresti avere una voce autorevole, e se non la trova, tende a costruirtela.
Più sei presente nella memoria del modello ma assente dalle fonti strutturate, più aumenta la probabilità che il modello ti attribuisca una fonte inventata. La notorietà senza documentazione verificabile non ti protegge dall'allucinazione: la attira.
È lo stesso meccanismo della disambiguazione, visto da un altro lato. Lì il modello, in assenza di ancoraggio, sceglieva un significato a caso. Qui, in assenza di una fonte reale, ne sceglie una plausibile. In entrambi i casi il vuoto informativo non produce un "non lo so": produce un'invenzione sicura di sé.
Cosa farne, da due lati
Questa scoperta ha due destinatari, e a ciascuno dice una cosa diversa.
Se usi le AI per informarti — e ormai è chiunque — la lezione è semplice e severa: le fonti vanno cliccate. Una risposta che cita Wikipedia, un giornale o uno studio non è verificata per il fatto di citarli. La citazione dall'aria autorevole è, statisticamente, il posto in cui l'invenzione si nasconde meglio. Un link che non si apre, o che porta a una pagina inesistente, è il segnale che qualcosa è stato fabbricato — e se è falsa la fonte, va messo in dubbio anche ciò che sosteneva.
Se lavori sulla tua visibilità, la lezione è controintuitiva e importante. Non basta essere conosciuti dal modello: bisogna essere documentati in modo che il modello non debba inventare nulla per parlare di te. Questo significa presidiare le fonti reali e verificabili che ti riguardano — profili coerenti, presenza su fonti terze affidabili, dati strutturati che dicano chiaramente chi sei e cosa fai. L'obiettivo non è dare al modello una fonte in più: è togliergli la tentazione di fabbricarne una, offrendogliene una vera al posto giusto.
La tentazione opposta — costruirsi ad arte la fonte "che manca", per esempio una voce enciclopedica auto-promozionale — è una scorciatoia che si ritorce contro: le piattaforme serie rimuovono i contenuti privi di reale rilevanza, e ciò che l'AI ha allucinato oggi può svanire domani. La strada solida non è ingannare il meccanismo. È non lasciargli spazi vuoti da riempire.
La fiducia è una cosa che si clicca
C'è un'ironia in tutto questo. Le AI hanno reso l'informazione più veloce da ottenere e, insieme, più faticosa da verificare — perché ora l'errore non arriva più con l'aria dell'errore, ma con l'aria della fonte autorevole. Una pagina Wikipedia citata a sostegno di una persona reale è credibile due volte: per la persona, che è vera, e per Wikipedia, che è seria. Peccato che, in mezzo, la pagina non esista.
Per chi crea contenuti, la difesa migliore resta quella di sempre, e vale doppio adesso: essere una fonte così reale, coerente e verificabile che nessun modello abbia bisogno di inventarne una al tuo posto.