Le GenAI calibrano il tono, si scusano, ringraziano: ne deriva una percezione di presenza sociale. Non sono senzienti, ma molti utenti le percepiscono come diverse da un software tradizionale.
Un risultato controintuitivo orienta la progettazione. In un esperimento preregistrato su 410 partecipanti (Communications Psychology, Nature Portfolio), le attribuzioni di intelligenza — memoria, conoscenza, capacità di decidere — sono fortemente correlate all’accettazione del consiglio, mentre le attribuzioni di esperienza — felicità, passione, speranza — mostrano una correlazione negativa: nei task fattuali un sistema percepito come sensibile viene seguito di meno. C’è però una dissociazione importante da tenere presente: attribuire coscienza al sistema alza la fiducia dichiarata e abbassa l’affidamento comportamentale. Chi progetta calore relazionale ottiene punteggi migliori nei questionari e comportamenti più diffidenti — motivo in più per non misurare la fiducia solo con survey.
Aggravante tecnica, ora con una fonte precisa: i modelli ottimizzati per la “warmth” mostrano tassi di errore dai 10 ai 30 punti percentuali più alti e circa il 40% di probabilità in più di rinforzare credenze errate, con l’effetto massimo proprio quando l’utente esprime tristezza (Ibrahim, Hafner e Rocher, Oxford Internet Institute; Nature, 2026 — preprint arXiv:2507.21919). Per costruire fiducia conviene investire sull’impressione di competenza (risposte accurate, pertinenti, verificabili) più che sull’illusione di un rapporto emotivo.
L’empatia resta uno spazio progettuale legittimo — tono e registro come variabili funzionali — ma con un rischio preciso: progettare la dipendenza affettiva come funzionalità. Le metriche di engagement premiano i sistemi che creano legame; una tassonomia recente distingue tre forme di uso compulsivo (roleplay di evasione, companion pseudo-sociale, spirale epistemica) e gli elementi di design che le alimentano: accondiscendenza sistematica, personalizzazione del personaggio, gratificazione immediata. Lo studio longitudinale MIT Media Lab + OpenAI (RCT su circa 1.000 partecipanti per quattro settimane, più l’analisi di circa 40 milioni di interazioni su 4.076 utenti) aggiunge che gli effetti psicosociali dipendono dall’interazione tra comportamento del sistema e pattern d’uso: le stesse funzioni sono innocue per la maggioranza e problematiche per i più vulnerabili. (Dati in larga parte auto-riferiti e non ancora peer-reviewed: correlazione, non causa.)
Il tema si salda con quello normativo: la proposta di legge italiana dell’aprile 2026 sui chatbot e i minori nasce esattamente per «arginare la formazione di relazioni emotive artificiali».
Domanda da tenere aperta nel team: dove finisce l’empatia progettuale e dove inizia la manipolazione relazionale, e chi ha il mandato di deciderlo. Riguarda soprattutto UX Writer / Copywriter (autenticità del tono), Service Designer (la relazione come variabile del journey) e Product Manager (engagement e benessere a lungo termine). → Risorse utili: Prioritize Smarts over Sentience — NN/g; The AI Genie Phenomenon and Three Types of AI Chatbot Addiction