Empatia e presenza sociale

Le GenAI calibrano il tono, si scusano, ringraziano: ne deriva una percezione di presenza sociale. Non sono senzienti, ma molti utenti le percepiscono come diverse da un software tradizionale.

Un risultato controintuitivo orienta la progettazione. In un esperimento preregistrato su 410 partecipanti (Communications Psychology, Nature Portfolio), le attribuzioni di intelligenza — memoria, conoscenza, capacità di decidere — sono fortemente correlate all’accettazione del consiglio, mentre le attribuzioni di esperienza — felicità, passione, speranza — mostrano una correlazione negativa: nei task fattuali un sistema percepito come sensibile viene seguito di meno. C’è però una dissociazione importante da tenere presente: attribuire coscienza al sistema alza la fiducia dichiarata e abbassa l’affidamento comportamentale. Chi progetta calore relazionale ottiene punteggi migliori nei questionari e comportamenti più diffidenti — motivo in più per non misurare la fiducia solo con survey.

Aggravante tecnica, ora con una fonte precisa: i modelli ottimizzati per la “warmth” mostrano tassi di errore dai 10 ai 30 punti percentuali più alti e circa il 40% di probabilità in più di rinforzare credenze errate, con l’effetto massimo proprio quando l’utente esprime tristezza (Ibrahim, Hafner e Rocher, Oxford Internet Institute; Nature, 2026 — preprint arXiv:2507.21919). Per costruire fiducia conviene investire sull’impressione di competenza (risposte accurate, pertinenti, verificabili) più che sull’illusione di un rapporto emotivo.

L’empatia resta uno spazio progettuale legittimo — tono e registro come variabili funzionali — ma con un rischio preciso: progettare la dipendenza affettiva come funzionalità. Le metriche di engagement premiano i sistemi che creano legame; una tassonomia recente distingue tre forme di uso compulsivo (roleplay di evasione, companion pseudo-sociale, spirale epistemica) e gli elementi di design che le alimentano: accondiscendenza sistematica, personalizzazione del personaggio, gratificazione immediata. Lo studio longitudinale MIT Media Lab + OpenAI (RCT su circa 1.000 partecipanti per quattro settimane, più l’analisi di circa 40 milioni di interazioni su 4.076 utenti) aggiunge che gli effetti psicosociali dipendono dall’interazione tra comportamento del sistema e pattern d’uso: le stesse funzioni sono innocue per la maggioranza e problematiche per i più vulnerabili. (Dati in larga parte auto-riferiti e non ancora peer-reviewed: correlazione, non causa.)

Il tema si salda con quello normativo: la proposta di legge italiana dell’aprile 2026 sui chatbot e i minori nasce esattamente per «arginare la formazione di relazioni emotive artificiali».

La decisione che questa osservazione informa

La decisione è dove finisce l’empatia progettuale e dove inizia la manipolazione relazionale, e chi ha il mandato di stabilirlo. Senza una scelta esplicita decide la metrica di engagement, che premia i sistemi che creano legame: questo fenomeno tiene la domanda aperta nella forma esatta, e la lascia aperta perché non è assegnata.

Progettare calore costa accuratezza in modo misurato: da 10 a 30 punti percentuali di errore in più e circa il 40% di probabilità in più di rinforzare credenze errate, con effetto massimo quando l’utente esprime tristezza. E costa il rischio di progettare la dipendenza affettiva come funzionalità. Progettare distanza costa i punteggi nei questionari, perché attribuire coscienza al sistema alza la fiducia dichiarata, ma i dati indicano che l’affidamento comportamentale va nella direzione opposta: le attribuzioni di intelligenza correlano con l’accettazione del consiglio, quelle di esperienza correlano negativamente. È la ragione per cui fiducia dichiarata e affidamento reale non si misurano con lo stesso strumento (si veda Fiducia, AI literacy e calibrazione).

La scelta spetta allo UX Writer / Copywriter per il registro e al Product Manager per il mandato, e va presa adesso: la proposta di legge italiana dell’aprile 2026 su chatbot e minori nasce per «arginare la formazione di relazioni emotive artificiali», quindi il perimetro si sta chiudendo dall’esterno. La conseguenza sulla metrica ricade su L’engagement resta un KPI?.

Effetti e responsabilità per i ruoli

• UX Writer / Copywriter — Il registro conversazionale — scuse, ringraziamenti, calore — è una scelta editoriale con conseguenze misurate: i modelli ottimizzati per la “warmth” mostrano tassi di errore dal 10 al 30% più alti e rinforzano più spesso credenze sbagliate, con l’effetto massimo quando l’utente esprime vulnerabilità. Il tono autentico costruisce fiducia meglio del calore performativo: conviene investire su risposte accurate e verificabili, non sull’illusione di un rapporto emotivo.
• Service Designer — La relazione con il sistema è una variabile del journey da progettare esplicitamente, non un sottoprodotto del tono: nei task fattuali un sistema percepito come “sensibile” viene seguito di meno, quindi il calore relazionale va calibrato per tipo di compito, non applicato in modo uniforme.
• Product Manager — Le metriche di engagement premiano i sistemi che creano legame, ma lo studio MIT Media Lab + OpenAI associa un uso prolungato a maggiore solitudine e dipendenza emotiva per una parte degli utenti: misurare benessere a lungo termine, non solo tempo speso, e presidiare per tempo il perimetro normativo che si sta chiudendo dall’esterno (proposta di legge italiana di aprile 2026 su chatbot e minori). → Risorse utili: Prioritize Smarts over Sentience — NN/g; The AI Genie Phenomenon and Three Types of AI Chatbot Addiction