Gli utenti comprendono male le GenAI, in due direzioni opposte.
Sovrastima. Molti trattano ChatGPT come fonte onnisciente, dimenticando che un LLM genera testo plausibile, non verità certificate, e che può affermare il falso con la stessa sicurezza del vero. Il meccanismo è documentato: la qualità formale del testo viene scambiata per qualità dei fatti, al punto che le persone seguono il consiglio di un’AI più di quello di un esperto umano, anche contro l’evidenza disponibile (Computers in Human Behavior, 2024). Vale una relazione paradossale: quanto meno si comprende il funzionamento dell’AI, tanto più si è propensi a usarla e fidarsene — una percezione “magica” della tecnologia. Rischio massimo negli ambiti sanitario, giuridico e finanziario, e per i giovani.
C’è un caso specifico che vale la pena isolare, perché tocca da vicino il nostro lavoro: la fiducia costruita sui fatti viene trasferita alle raccomandazioni, che però funzionano in modo del tutto diverso. Sull’accuratezza fattuale i modelli mostrano performance elevate; ma quando restituiscono una lista di prodotti, servizi o fornitori, la selezione e l’ordine sono l’esito di un’estrazione probabilistica, e cambiano a ogni esecuzione — al punto che la stessa domanda posta cento volte non produce due volte la stessa classifica (SparkToro/Gumshoe, gennaio 2026; si veda La ricerca diventa conversazione). Chi legge quella lista la interpreta invece come un giudizio motivato. È una asimmetria di modello mentale che nessuna interfaccia oggi dichiara.
Diffidenza ingiustificata. All’estremo opposto, la natura black box genera una sfiducia che blocca anche le deleghe ragionevoli. Il caso del 2026 è il checkout agentivo: il 58% degli acquirenti usa l’AI per informarsi, il 37% avvia con essa un percorso d’acquisto, ma solo il 17% è a proprio agio nel completarlo (ChannelEngine, gennaio 2026, 4.500 acquirenti su marketplace in cinque Paesi). OpenAI ne ha preso atto ritirando Instant Checkout il 24 marzo 2026, cinque mesi dopo il lancio; Walmart ha misurato acquisti in-chat con un terzo del tasso di conversione dei click-out, pur generando il doppio dei nuovi clienti. Il pattern è netto: si scopre nell’AI, si compra sul sito.
Ne risulta una polarizzazione; pochi hanno una fiducia calibrata, consapevole dei limiti. La calibrazione si costruisce per gradi — azioni reversibili, poi a basso rischio, poi ad alto impatto — e più l’agente è autonomo, più l’utente deve capire cosa fa e perché. L’AI literacy è una variabile progettuale, non un dettaglio del contesto utente — e, come mostra il gradiente Istat di 9 a 1 per istruzione, non è distribuita in modo neutro.
Effetto per le professionalità
UX Researcher — AI literacy nelle personas come variabile esplicita: come l’utente usa l’AI, come la comprende, come calibra la fiducia, come reagisce agli errori. Aggiungere indicatori di trust calibration, e misurarli anche a livello comportamentale: la fiducia dichiarata e l’affidamento reale divergono sistematicamente (si veda Empatia e presenza sociale). Strumenti standard non esistono ancora: è una disciplina ancora in fase di evoluzione.
Social Listening / Brand Intelligence — Il ruolo si sposta a monte, ed è qui che si distingue dall’AI Visibility Analyst: quello misura che cosa il modello dice del brand, questo presidia le fonti da cui lo impara e la conversazione che lo circonda. Tre cambiamenti concreti. Primo, cambia l’oggetto dell’ascolto: le fonti che alimentano le risposte generative — recensioni, forum di settore, UGC, comparazioni — diventano più rilevanti dei canali social tradizionali, e vanno presidiate come tali (è la stessa leva earned di La ricerca diventa conversazione). Secondo, cala la qualità del segnale social, diluito dal contenuto sintetico: il volume di menzioni perde valore come indicatore. Terzo, e più delicato: la conversazione più influente sul brand avviene in chat private, non osservabili — l’utente confronta alternative, si lamenta, sceglie, e nessuno lo ascolta. È una perdita strutturale di visibilità, non colmabile con strumenti migliori. Rischio nuovo da gestire: l’allucinazione sul brand è un danno reputazionale senza canale di rettifica — non esiste un “diritto di replica” dentro una risposta generativa, e l’unica leva è correggere le fonti a monte. → Risorsa utile: AI social listening — YouScan
Trust Designer — È il ruolo meno definito dell’elenco, e vale la pena essere espliciti: nella maggior parte dei team non esiste come figura autonoma. È un insieme di responsabilità oggi disperse tra UX designer, content designer, PM e legale — e proprio per questo, se nessuno le tiene insieme, non vengono esercitate. Il perimetro concreto è fatto di cinque artefatti. (1) Una scala di delega esplicita. Per ogni azione che il sistema può compiere, definire il livello: suggerita (il sistema propone, l’utente esegue), eseguibile con conferma, automatica. E i criteri per salire di livello: reversibilità dell’azione, impatto economico, presenza di dati personali o di terzi. Senza questa scala, il livello lo decide di fatto lo sviluppo, caso per caso. (2) Punti di conferma dove l’azione è irreversibile. Regola pratica: conferma esplicita se l’azione non è annullabile entro un tempo utile all’utente. Pagamenti, invii a terzi, cancellazioni, condivisioni di dati, azioni con effetti legali. La conferma deve dire che cosa sta per succedere in termini concreti, non chiedere un generico “confermi?”. (3) Segnali di incertezza situati. Il disclaimer generico (“l’AI può commettere errori”) non calibra nulla: è rumore di fondo che l’utente impara a ignorare. Serve l’incertezza nel punto in cui esiste: la fonte è datata, il dato non è stato trovato, la risposta vale solo per un certo caso. Meglio poche segnalazioni precise che una avvertenza permanente. (4) Tracciabilità di azioni e fonti. Che cosa ha fatto il sistema, con quali strumenti, su quali dati, con quale grado di confidenza. Lo studio IBM (si veda L’AI agentiva) elenca esattamente ciò che gli utenti chiedono di sapere: è un buon punto di partenza per un requisito, non una funzione avanzata. (5) Percorsi di recupero. Annullamento, correzione, escalation a un umano. Un sistema senza undo non è delegabile, e progettare la delega senza progettare il ritorno indietro è la scorciatoia più comune. Come si misura. Non con domande di fiducia in un questionario, perché la fiducia dichiarata e quella agita divergono sistematicamente (si veda Empatia e presenza sociale). Indicatori comportamentali: tasso di annullamento dopo un’azione automatica, frequenza di verifica esterna dell’output, abbandono in corrispondenza dei punti di conferma, quota di utenti che disattiva l’automazione dopo averla provata. Dal 2 agosto 2026 una parte di questo lavoro non è più discrezionale (si veda Il perimetro normativo). → Risorse utili: Trust and Reliance on AI — Overreliance (Computers in Human Behavior); People Devalue Generative AI’s Competence but Not Its Advice; How AI and Human Behaviors Shape Psychosocial Effects of Chatbot Use (MIT Media Lab + OpenAI)
Product Manager — Quanto dire all’utente dei limiti del sistema è una decisione di prodotto, e oggi quasi nessuno la prende consapevolmente. Il problema, in concreto: dichiarare che una risposta è generata da un’AI, che un preventivo è una stima non vincolante, che un consiglio non sostituisce un professionista, che il sistema non ha trovato conferma di un dato — sono tutte scelte che riducono l’uso della funzione e, a valle, la conversione nel breve periodo. Le metriche di prodotto premiano quindi il silenzio, e in assenza di una decisione esplicita prevale il default: non dire nulla. La domanda da mettere sul tavolo è chi ha l’autorità di stabilire la soglia — se il PM, il legale, il design, o il committente — e su quale criterio, dato che nessuno dei due estremi funziona: l’avvertenza permanente viene ignorata, l’assenza di avvertenza produce affidamento non calibrato e, in caso di errore, un problema di responsabilità. Dal 2026 il margine di discrezionalità si restringe comunque: alcune di queste dichiarazioni diventano obbligatorie.
Content Strategist — Progettare la comunicazione dell’affidabilità: dove il sistema è affidabile, dove no, come interpretare e verificare gli output. È content design e posizionamento editoriale, non solo UX writing.