Fiducia, AI literacy e calibrazione

Gli utenti possono sovrastimare o sottostimare le capacità delle GenAI.

Sovrastima. Molti trattano ChatGPT come una fonte onnisciente. Un LLM genera testo plausibile, non verità certificate, e può affermare il falso con la stessa sicurezza del vero. La qualità formale del testo può essere scambiata per qualità dei fatti. Uno studio rileva che le persone seguono il consiglio di un’AI più di quello di un esperto umano, anche quando contrasta con l’evidenza disponibile (Trust and Reliance on AI — Overreliance, Computers in Human Behavior, 2024).

La ricerca rileva anche una relazione inversa: quanto meno si comprende il funzionamento dell’AI, tanto più si è propensi a usarla e a fidarsene. Questo rapporto è associato a una percezione “magica” della tecnologia. Il rischio è particolarmente alto negli ambiti sanitario, giuridico e finanziario, e per i giovani.

La letteratura HCI usa il paradigma CASA — Computers Are Social Actors per descrivere le risposte sociali ai sistemi (Nass, Steuer e Tauber, CHI 1994; Reeves e Nass, The Media Equation, 1996). Gli esperimenti mostrano che le persone applicano ai sistemi alcune regole sociali usate con altre persone, anche in modo automatico e quando negano che abbia senso farlo. Per esempio, ricambiano la cortesia, attribuiscono competenza da segnali linguistici superficiali e si fidano di più di un interlocutore che si esprime bene. Nei sistemi conversazionali, il linguaggio naturale fluente può favorire queste risposte rispetto a un’interfaccia non conversazionale.

Sul versante opposto, le linee guida Stanford sulla credibilità del web restano un riferimento per valutare la credibilità di un contenuto, indipendentemente da chi lo produce (B.J. Fogg, Stanford Persuasive Technology Lab, dal 1998). Suggeriscono di:

• rendere verificabile l’accuratezza;
• mostrare chi produce il contenuto;
• esplicitare competenza e fonti;
• evitare errori, che riducono la credibilità più di quanto un contenuto accurato riesca ad accrescerla.

Sono dieci criteri empirici precedenti all’AI. Restano il punto di partenza più citato per progettare i segnali di affidabilità che un’interfaccia conversazionale deve costruire da zero.

Un possibile caso è il trasferimento della fiducia dai fatti alle raccomandazioni. Le raccomandazioni seguono logiche diverse. Sull’accuratezza fattuale i modelli mostrano performance elevate. Quando restituiscono una lista di prodotti, servizi o fornitori, però, la selezione e l’ordine derivano da un’estrazione probabilistica e cambiano a ogni esecuzione. La stessa domanda posta cento volte non produce due volte la stessa classifica (SparkToro/Gumshoe, gennaio 2026; si veda La ricerca diventa conversazione). Chi legge la lista può interpretarla come un giudizio motivato. Oggi nessuna interfaccia dichiara questa asimmetria tra il funzionamento del sistema e il modello mentale dell’utente.

Competenza di base. Usare efficacemente la chat richiede competenze che non si acquisiscono spontaneamente: scrivere buoni prompt, verificare gli output e gestire il contesto. Jakob Nielsen definisce articulation barrier la difficoltà di tradurre un bisogno in una richiesta efficace. L’indagine OCSE PIAAC 2023, pubblicata a dicembre 2024, mostra che circa il 26% degli adulti nei paesi OCSE si colloca al livello più basso di alfabetizzazione (Level 1 o inferiore). Il 18% è sotto il livello base in tutti i domini misurati, con forti differenze tra paesi. La sensazione di non dover imparare nulla non corrisponde a un’interazione più semplice. Lo indica anche il dato sul 19,1% di utenti che usa strategie di prompting (si veda Interazione basata sull’intento).

Diffidenza ingiustificata. All’estremo opposto, la natura black box può generare sfiducia e bloccare deleghe ragionevoli. Nel checkout agentivo, il 58% degli acquirenti usa l’AI per informarsi. Il 37% avvia con essa un percorso d’acquisto, ma solo il 17% è a proprio agio nel completarlo (ChannelEngine, gennaio 2026, 4.500 acquirenti su marketplace in cinque Paesi). OpenAI ha ritirato Instant Checkout il 24 marzo 2026, cinque mesi dopo il lancio. Walmart ha misurato acquisti in-chat con un terzo del tasso di conversione dei click-out, pur generando il doppio dei nuovi clienti. I dati indicano una distanza tra l’uso dell’AI per informarsi o avviare un acquisto e la propensione a completarlo in chat.

Ne risulta una polarizzazione, con pochi utenti dotati di una fiducia calibrata e consapevole dei limiti. La calibrazione può procedere per gradi: prima azioni reversibili, poi azioni a basso rischio e infine azioni ad alto impatto. Più l’agente è autonomo, più l’utente deve capire che cosa fa e perché. L’AI literacy è una variabile progettuale, non un dettaglio del contesto utente. Il gradiente Istat di 9 a 1 per istruzione mostra che non è distribuita in modo neutro.

La decisione che questa osservazione informa

La decisione è quanto si è disposti a perdere in conversione per una fiducia calibrata, in relazione a mantenere o abbandonare l’engagement come KPI. Se manca una scelta esplicita, prevale il silenzio. Il fenomeno chiarisce il meccanismo: «Quanto dire all’utente dei limiti del sistema è una decisione di prodotto, e oggi quasi nessuno la prende consapevolmente… le metriche di prodotto premiano quindi il silenzio». Sulla delega, in assenza di una scala, «il livello lo decide di fatto lo sviluppo, caso per caso» (La scala di delega).

Dichiarare i limiti può aggiungere attrito a ogni passaggio. Mostrare una fonte, segnalare incertezza o chiedere conferma può creare un punto di uscita in più. Tacere compromette la calibrazione, ma il costo emerge più tardi nei comportamenti. Lo misurano gli annullamenti dopo un’azione automatica, le verifiche esterne dell’output, gli abbandoni ai punti di conferma e la disattivazione dell’automazione dopo la prova. Entrambi gli estremi comportano un costo. Gli indicatori del beneficio esistono, ma non è disponibile una misura del costo per singola leva.

La scelta spetta al Product Manager insieme a Prodotto & Design. Sono i due ruoli che possono intestarsi i cinque artefatti descritti sotto. Il primo definisce la soglia di ciò che si dichiara; il secondo progetta gli artefatti di servizio che la rendono operativa. Finché nessuno se ne assume la responsabilità, prevale il silenzio. Le conseguenze operative riguardano La scala di delega, per il perimetro delle azioni, e L’engagement resta un KPI?, per la metrica contro cui difendere ogni segnale di incertezza.

Effetti e responsabilità per i ruoli

• Service Designer — La calibrazione della fiducia non è un mestiere a sé. Le responsabilità sono distribuite tra UX design, content design, prodotto e legale. Se nessuno le coordina, rischiano di non essere esercitate. La progettazione del servizio è il presidio più adatto, perché gli artefatti necessari sono scelte di servizio. La soglia di ciò che si dichiara va concordata con il Product Manager e con marketing, che ne sostengono il costo in conversione. Il perimetro comprende cinque artefatti:

  1. Una scala di delega esplicita. Per ogni azione che il sistema può compiere, definire il livello: suggerita (il sistema propone, l’utente esegue), eseguibile con conferma o automatica. Stabilire anche i criteri per salire di livello: reversibilità dell’azione, impatto economico e presenza di dati personali o di terzi. Senza questa scala, lo sviluppo decide il livello caso per caso.
  2. Punti di conferma per le azioni irreversibili. Chiedere una conferma esplicita se l’utente non può annullare l’azione entro un tempo utile. Rientrano in questa categoria pagamenti, invii a terzi, cancellazioni, condivisioni di dati e azioni con effetti legali. La conferma deve descrivere che cosa sta per succedere, non limitarsi a chiedere un generico “confermi?”.
  3. Segnali di incertezza situati. Un disclaimer generico (“l’AI può commettere errori”) non calibra la fiducia: diventa rumore di fondo che l’utente impara a ignorare. Segnalare invece l’incertezza nel punto in cui emerge: la fonte è datata, il dato non è stato trovato o la risposta vale solo per un certo caso. Meglio poche segnalazioni precise che un’avvertenza permanente.
  4. Tracciabilità di azioni e fonti. Indicare che cosa ha fatto il sistema, con quali strumenti, su quali dati e con quale grado di confidenza. Lo studio IBM (si veda L’AI agentiva) elenca ciò che gli utenti chiedono di sapere. È un punto di partenza per un requisito, non una funzione avanzata.
  5. Percorsi di recupero. Prevedere annullamento, correzione ed escalation a una persona. Un sistema senza undo non è delegabile. Progettare la delega senza il percorso per tornare indietro è una scorciatoia comune.

  Come si misura. Le domande di fiducia in un questionario non bastano: fiducia dichiarata e agita divergono sistematicamente (si veda Empatia e presenza sociale). Gli indicatori comportamentali sono:

  • tasso di annullamento dopo un’azione automatica;
  • frequenza di verifica esterna dell’output;
  • abbandono in corrispondenza dei punti di conferma;
  • quota di utenti che disattiva l’automazione dopo averla provata.

  Il vocabolario di questa calibrazione include trust calibration, misuse e disuse. Viene dalla letteratura sui fattori umani in contesti ad alta automazione (Lee e See, 2004) e si applica qui ai sistemi conversazionali e agentivi (si veda La scala di delega). Dal 2 agosto 2026 una parte di questo lavoro non è più discrezionale (si veda Il perimetro normativo).

  → Risorse utili: Trust and Reliance on AI — Overreliance (Computers in Human Behavior); People Devalue Generative AI’s Competence but Not Its Advice; How AI and Human Behaviors Shape Psychosocial Effects of Chatbot Use (MIT Media Lab + OpenAI)

• Content Strategist — Progettare la comunicazione dell’affidabilità: dove il sistema è affidabile e dove no. Spiegare come interpretare e verificare gli output. È content design e posizionamento editoriale, non solo UX writing.

• UX Researcher — Includere l’AI literacy nelle personas come variabile esplicita: come l’utente usa l’AI, la comprende, calibra la fiducia e reagisce agli errori. Aggiungere indicatori di trust calibration e misurarli anche con il comportamento. La fiducia dichiarata e l’affidamento reale divergono sistematicamente (si veda Empatia e presenza sociale). Non esistono ancora strumenti standard: la disciplina è in evoluzione.

• Social Listening / Brand Intelligence — Il ruolo si sposta a monte e si distingue dall’AI Visibility Analyst. L’AI Visibility Analyst misura che cosa il modello dice del brand. Il Social Listening / Brand Intelligence presidia le fonti da cui il modello apprende e la conversazione che circonda il brand.

  Cambia l’oggetto dell’ascolto: recensioni, forum di settore, UGC e comparazioni alimentano le risposte generative. Queste fonti diventano più rilevanti dei canali social tradizionali e vanno presidiate come tali (è la stessa leva earned di La ricerca diventa conversazione). Il contenuto sintetico diluisce il segnale social, riducendo il valore del volume di menzioni come indicatore.

  La conversazione più influente sul brand avviene in chat private e non è osservabile. L’utente confronta alternative, si lamenta e sceglie senza essere ascoltato. Questa perdita di visibilità è strutturale e non si colma con strumenti migliori. Un’allucinazione sul brand può causare un danno reputazionale senza un canale di rettifica. Non esiste un “diritto di replica” dentro una risposta generativa; l’unica leva è correggere le fonti a monte. → Risorsa utile: AI social listening — YouScan

• Product Manager — Quanto dire all’utente dei limiti del sistema è una decisione di prodotto, che oggi raramente viene presa consapevolmente. Le dichiarazioni possono riguardare una risposta generata da un’AI, un preventivo non vincolante o un consiglio che non sostituisce un professionista. Possono anche specificare che il sistema non ha trovato conferma di un dato. Queste scelte possono ridurre l’uso della funzione e la conversione nel breve periodo. Le metriche di prodotto premiano quindi il silenzio. Senza una decisione esplicita, il default è non dire nulla.

  Occorre chiarire chi ha l’autorità di stabilire la soglia: il PM, il legale, il design o il committente. Va definito anche il criterio. Entrambe le opzioni hanno limiti: l’avvertenza permanente viene ignorata, mentre la sua assenza produce affidamento non calibrato e, in caso di errore, un problema di responsabilità. Dal 2026 il margine di discrezionalità si restringe: alcune dichiarazioni diventano obbligatorie.