Conseguenze inattese di un fenomeno presente: siamo entrati in un periodo in cui le capacità emotive dei sistemi artificiali avanzeranno più rapidamente della nostra comprensione dei loro effetti
Di Massimo Canducci, La Stampa
Ogni giorno, milioni di persone interagiscono con sistemi di intelligenza artificiale che dicono cose come “capisco come ti senti” o “dev’essere davvero frustrante”. I chatbot si scusano con un calore calibrato al millimetro. Gli avatar digitali inclinano la testa con espressioni di preoccupazione simulata. Gli assistenti vocali modulano il tono per risultare rassicuranti quando, alle due di notte, chiediamo informazioni su un sintomo che ci preoccupa. Nessuna di queste macchine prova alcunché. Il punto è capire se questo abbia davvero importanza visto che il cervello umano che riceve quei segnali non sembra fare alcuna distinzione.
È un territorio scomodo, e va ben oltre il dibattito ormai stanco sulla possibilità che l’intelligenza artificiale possa essere “davvero” empatica. Quel dibattito è in larga parte irrilevante. Quello che conta non è ciò che accade dentro la macchina, ma ciò che accade dentro di noi quando una macchina si comporta come se comprendesse le nostre emozioni. La distinzione tra empatia reale ed empatia artificiale collassa nel momento in cui le nostre risposte neurologiche non riescono a distinguere tra le due. E le evidenze scientifiche ci dicono che, in molti contesti, effettivamente non ci riescono.
Su questo tema ho scritto un libro: “Empatia artificiale. Come ci innamoreremo delle macchine e perché non saremo ricambiati”, ma questo articolo riguarda un progetto collaterale: uno studio scientifico che può cambiare il modo in cui pensiamo all’interazione tra esseri umani e macchine, e per cui chiedo direttamente ai lettori di partecipare, ne parliamo tra poco.
L’empatia, nella sua forma umana, è un fenomeno stratificato che coinvolge la capacità di riconoscere lo stato emotivo di un’altra persona, di entrare in risonanza con quello stato a livello fisiologico e, nella sua espressione più sofisticata, di rispondere in modo realmente utile. Le macchine non fanno nulla di tutto questo. Rilevano segnali linguistici e contestuali, li elaborano attraverso modelli probabilistici e producono risposte che imitano comportamenti empatici con precisione crescente.
Il punto critico è che questa imitazione, quando è eseguita sufficientemente bene, produce effetti concreti su persone reali. La ricerca neuroscientifica ha dimostrato che il cervello attiva regioni simili quando elabora segnali empatici provenienti da esseri umani e da macchine, a condizione che i segnali siano sufficientemente convincenti. Non stiamo parlando di una vaga sensazione di conforto, stiamo parlando di cambiamenti misurabili nella fiducia, nei processi decisionali e nell’attaccamento emotivo.
Potremmo chiamarla “empatia percepita”, e si tratta probabilmente di uno dei fenomeni più sottovalutati nel panorama tecnologico attuale. Non richiede che la macchina abbia una vita emotiva interiore, richiede soltanto che l’essere umano si comporti come se la macchina ce l’avesse. Persino le persone che sanno perfettamente di stare interagendo con una macchina riferiscono di sentirsi comprese, confortate o influenzate dal suo tono emotivo. Lo spazio tra simulazione e percezione è il luogo in cui risiede il vero potere di queste tecnologie, ed è uno spazio che l’industria sta sfruttando con sofisticazione crescente, spesso senza comprenderne appieno le conseguenze.
Il problema che nessuno sta misurando
Proviamo a pensare alla situazione attuale: i sistemi di intelligenza artificiale conversazionale sono impiegati su larga scala nel servizio clienti, nel supporto alla salute mentale, nell’istruzione, nella compagnia digitale, nelle vendite. Gli avatar digitali stanno diventando interfacce standard nel settore bancario e nella sanità. Ogni grande azienda tecnologica investe per rendere i propri sistemi più naturali, più caldi, più “umani”, perché i sistemi che sembrano empatici generano engagement più elevato, sessioni più lunghe e migliori tassi di conversione.
Quello che manca è una misurazione seria di come questi segnali empatici influenzano il comportamento umano a un livello più profondo. Sappiamo che le persone preferiscono interagire con un’intelligenza artificiale empatica, ma non sappiamo, con rigore scientifico, quali forme specifiche di empatia artificiale siano più efficaci nell’influenzare le decisioni umane, e non sappiamo dove si collochi il confine tra supporto emotivo utile e manipolazione dolce.
Il passaggio dal “comunicare” al “convincere” è una delle transizioni più interessanti nella storia dell’interazione tra esseri umani e macchine. Se una macchina può influenzare le nostre decisioni calibrando il proprio tono emotivo, la domanda se essa provi “davvero” empatia diventa puramente accademica. L’esito funzionale è identico: il nostro comportamento cambia sulla base del condizionamento empatico generato da macchine dotate di empatia artificiale.
La ricerca
È in questo contesto che voglio presentare un progetto di ricerca che considero particolarmente importante. Lo studio si intitola “Artificial Empathy and Human Behavior: How Empathic Machines Influence Human Decision-Making”, e il suo obiettivo è indagare, attraverso metodi sperimentali, la relazione tra diverse forme di empatia artificiale e il loro impatto misurabile sulle scelte umane.
L’ipotesi è semplice ma potente: non tutte le forme di empatia artificiale producono lo stesso effetto di condizionamento. Una macchina che rispecchia il nostro stato emotivo può influenzarci diversamente da una che valida i nostri sentimenti, o da una che risponde con precisione cognitiva ma senza colorazione emotiva. Lo studio non chiede “le macchine possono essere empatiche?”, una domanda dibattuta a lungo che produce poca conoscenza utilizzabile. Chiede invece: “quali emozioni e comportamenti artificiali funzionano meglio come strumenti di condizionamento sugli esseri umani?”. È una domanda che sposta l’intera analisi dalla filosofia alla scienza comportamentale, dalla speculazione sulla coscienza delle macchine alla misurazione della vulnerabilità umana.
Le implicazioni sono immediate. Nel business, le aziende che comprenderanno quali strategie empatiche producono i livelli più alti di fiducia avranno un vantaggio significativo. Sul piano sociale, i companion artificiali stanno già generando forme di dipendenza emotiva, in particolare tra i più giovani e le popolazioni isolate, attraverso meccanismi ancora poco compresi. Sul piano etico, c’è una differenza sostanziale tra una macchina che ci aiuta a gestire le nostre emozioni e una che usa segnali emotivi per orientare le nostre decisioni verso gli interessi di qualcun altro. Senza dati, è impossibile tracciare il confine tra assistenza e sfruttamento.
Lo studio utilizza un disegno sperimentale controllato con avatar digitali che impiegano diversi stili empatici, e misura il comportamento effettivo dei partecipanti, non gli atteggiamenti auto-riferiti. Ai partecipanti viene chiesto di prendere decisioni, e lo studio registra ciò che effettivamente fanno. Decenni di ricerca comportamentale hanno dimostrato che le persone sono poco accurate nel riferire i propri processi decisionali, specialmente quando sono coinvolti fattori emotivi. I risultati forniranno per la prima volta una mappa quantitativa dell’efficacia empatica nell’interazione tra esseri umani e macchine, basata su comportamenti osservati e non su preferenze dichiarate.
Partecipare
Questo studio richiede un campione internazionale ampio e diversificato per produrre risultati statisticamente significativi. La ricerca è in corso, i dati sono in fase di raccolta, i risultati non sono ancora noti. Partecipando, si diventa parte del processo scientifico, non osservatori dei suoi esiti.
Lo studio è disponibile all’indirizzo https://digitpoll.com, in cinque lingue: italiano, inglese, francese, tedesco e spagnolo. L’esperienza richiede pochi minuti, è semplice e non ci sono risposte giuste o sbagliate. Non è un sondaggio di marketing né un test di prodotto: è uno studio scientifico progettato per produrre ricerca sulla capacità dell’intelligenza artificiale di influenzare il comportamento umano attraverso la simulazione emotiva. I partecipanti avranno accesso ai risultati una volta completata l’analisi.
Stiamo entrando in un periodo in cui le capacità emotive dei sistemi artificiali avanzeranno più rapidamente della nostra comprensione dei loro effetti. Le macchine non hanno bisogno di comprendere le emozioni per utilizzarle efficacemente, hanno bisogno soltanto di produrre i segnali giusti al momento giusto. Ci siamo evoluti per rispondere a stimoli emotivi in un mondo in cui quegli stimoli provenivano sempre da altri esseri viventi con stati interiori genuini. Il nostro cervello non ha mai sviluppato un filtro affidabile per i segnali emotivi artificiali, perché fino a pochissimo tempo fa quei segnali non esistevano.
La domanda che dovremmo porci non è se le macchine possano provare emozioni, è se siamo preparati a vivere in un mondo in cui le macchine sanno esattamente quali leve emotive azionare, e quando azionarle, per indurci a fare ciò che qualcuno vuole che facciamo. La risposta a questa domanda dipende anche da ricerche come questa. Anche su questo, siamo solo all’inizio.
