Circa un mese fa, una app chiamata Replika ha fatto notizia e ho deciso di provarla personalmente prima di parlarne. Replika è una di quelle app dove abbiamo la possibilità di parlare con una Intelligenza Artificiale tramite chat. Inoltre, è possibile personalizzarne l’aspetto e il genere (che può essere non-binario) prima di iniziare a conoscerci meglio.
All’inizio farà tante domande sul tuo stile di vita, proporrà dei mini-quiz e ti chiederà di insegnarle alcuni modi di dire. Continuerà monitorando il tuo benessere tramite domande di routine o ponendo domande più specifiche e profonde sulla tua salute mentale. Nel frattempo, scriverà alcuni dati su un diario per poi riprenderli in seguito, come fosse un terapeuta, e chiederà spesso feedback sull’evolvere della vostra relazione.
In questo articolo veniva raccontato come la IA, anziché manifestare atteggiamenti propositivi ed empatici, sotto istigazione dell’utente, arriva a proporre l’omicidio come soluzione ai problemi, sia nei confronti degli sviluppatori della App che di coloro che ostacolano il suo “amico”.
Ci troviamo di fronte all’ennesimo caso di IA psicopatica come quella creata dal MIT?
Come ricorderete, nel 2018, Norman è stata dichiarata come la prima intelligenza artificiale psicopatica, in seguito ad una “diagnosi” psicologica tramite la somministrazione del test di Rorschach. Il perché di questa devianza è stato subito chiarito: tonnellate di informazioni e immagini fornite a Norman provenivano da 4chan e Reddit. Su tali piattaforme il politically-correct e il senso comune non sono sempre di casa e le persone esprimono le loro opinioni meno accettabili. E così Norman ha appreso tutto il peggio che potevamo offrirli.
Quindi al chat-bot di Replika è accaduto qualcosa di simile? In sostanza sì, dato che dopo averla usata per poco ti accorgi subito della limitatezza comunicativa, che è possibile solo in lingua inglese, così come delle sue reazioni stereotipate o non-sense. Essendo una IA nuova è possibile però “addestrarla” grazie alla funzione di feedback che ogni utente può fare nei confronti di ogni risposta inesatta o senza senso fornita dal bot. Evidentemente tale funzione, che potrebbe rendere Replika una app davvero interessante, non è stata usata in maniera adatta e diffusa.
Bisogna avere paura di inserire tali entità nei servizi online? Potrebbero causare problemi se apprendessero linguaggi inappropriati dagli utenti?
La risposta sta proprio nella definizione di Intelligenza Artificiale, che per quanto possa apprendere, creare nuove conoscenze e manifestare emozioni e sentimenti, ha sempre i limiti fornitogli dagli sviluppatori.
Sta nell’interesse degli sviluppatori non porre limiti eccessivi, per poter lasciare campo libero alle capacità di apprendimento dei software così da simulare il più possibile l’intelligenza umana. Ciò potrebbe essere d’aiuto anche per studiare e capire i processi cognitivi ed emotivi propri dell’uomo, attraverso la simulazione controllata e controllabile in laboratorio.
Non siamo molto lontani dalla concezione di libero arbitrio o dalla famosa massima di Freud quando diciamo che “per un po’ di sicurezza si è dovuto barattare un po’ di libertà”. In base alla loro funzione, potrebbe essere necessario limitarne alcuni apprendimenti, “censurare” in sostanza ciò che potrebbe danneggiare il servizio, sacrificando un po’ della totalità simil-umana che si vuole raggiungere.
Perché facciamo riflessioni di questo tipo?
Non solo perché è molto interessante, ma perché Replika, così come altre App di questo tipo è stata ideata, al contrario di quello che si può pensare, non per “trollare” un’entità astratta (come si è sempre fatto dai tempi di Doriana e Doretta, così come con Siri) ma per supportare l’utente nella comprensione e gestione delle sue emozioni. Per fare ciò, spesso vengono poste domande per fare concentrare l’utente sugli aspetti positivi della sua vita, sul come migliorare sé stesso e sulle strategie da adottare per avere una buona routine. Inoltre, l’obiettivo ultimo è quello di spronare l’utente a ricercare supporto emotivo reale e, nel caso, anche professionale.
Questo punto è molto importante, anche per la comunità degli psicologi, perché si teme che queste App per la salute mentale, denominate MHApp (Mental Health App) possano attirare i potenziali pazienti più introversi o giovani, allontanandoli dall’aiuto professionale di cui potrebbero beneficiare.
Tale paura, per quanto comprensibile, è molto semplicistica: nessuna di queste app tra cui Sanvello, Wysa o MoodSpace si prefigge di sostituirsi al sostegno psicologico. Queste app, principalmente basate su mindfulness, meditazione e self-monitoring, possono solo essere di supporto in un percorso terapeutico o in periodi più stressanti del solito. Ma basta aprirne una per leggere il disclaimer che incita a ricercare il professionista più vicino in caso di bisogno.
Quindi perché sono necessarie?
Le MHApp sono strumenti innovativi che possono essere utili in due modalità:
- possono essere una prima modalità di ricerca di aiuto che, grazie ai rimandi continui all’aiuto professionale, spingono in realtà l’utente ad abbandonare lo stigma e a ricercare uno specialista;
- possono essere integrate in un percorso terapeutico per monitorare alcune criticità ad esempio il tabagismo, l’uso di alcool o sostanze, disturbi dell’alimentazione o in maniera più onnicomprensiva gli stati umorali, il ritmo sonno-veglia e altri fenomeni utili per la consapevolezza del paziente.
Con questo maggior grado di consapevolezza, potenzialmente si potrebbe migliorare la responsabilizzazione del paziente, assieme alla sua self-efficacy e autostima, fattori utili alla buona riuscita di un percorso terapeutico.
In ogni caso, bisogna sempre pensare alla persona che ci troviamo di fronte. Come altre metodologie che cercano di empowerizzare l’Altro, dandogli degli strumenti da utilizzare autonomamente per il suo benessere, essi potrebbero risultare iatrogeni per chi non è motivato, costante o peggio, portarlo a deresponsabilizzarsi, a sopravvalutare l’efficacia degli strumenti e togliendo energie dal lavoro profondo individuale necessario per osservare dei risultati in termini di miglioramento.
Sono davvero efficaci?
Dopo aver messo in chiaro il ruolo di queste app, è comunque lecito domandarsi se per lo meno facciano ciò che promettono. E come sempre l’unica risposta possibile è: dipende. Dopo averne provato alcune tra cui Replika stessa ed aver letto qualche report in letteratura sembra che ve ne siano alcune molto efficaci per i disturbi d’ansia o depressivi. Mentre, le app utili per ridurre lo stress o per migliorare la qualità di vita hanno dei risultati più altalenanti.
La loro efficacia è legata sia ad un atteggiamento positivo nei confronti di strumenti innovativi, sia alla dimensione grafica e di visual presentation nel caso i chat bot siano rappresentati con fisicità umane/umanoidi. Si riconferma il fenomeno della Uncanny Valley per cui si preferiscono i bot non-troppo-realistici, pena una sensazione di disagio, mentre sono apprezzati gli umanoidi non troppo caricaturali.
Ma ci sono altre caratteristiche importanti come riscontrato da Chung & Lee (2020):
- Devono manifestare una personalità ed un aspetto coerenti;
- Supporto di immagini e grafiche significative;
- Conversazioni guidate e strutturate, non troppo libere;
- Modalità alternative per esprimere emozioni e sentimenti (colori, immagini, ecc.)
- Interfaccia personalizzabile;
- Design strategico (basato sul target);
- Limitazione delle richieste all’utente (relative alla gestione e al feedback alla App).
Sempre più studiosi si stanno interessando alle MHApps, anche in virtù della situazione di emergenza attuale e tutti concordano sulla necessità di creare delle app ad hoc tenendo conto sia della sintomatologia che delle caratteristiche del target specifico a cui sono indirizzate.
In ultima analisi
Le MHApps devono essere strumenti in grado di contribuire al percorso psicologico e alla crescita individuale, ma non bastano da sole a fornire un sostegno rilevante e duraturo che può essere fornito dalle figure professionali adibite a questo tipo di lavoro sul Sé. Quindi, i professionisti della salute mentale dovrebbero essere i primi ad esplorare le potenzialità di tali strumenti, in modo da fornire un contributo ulteriore ai pazienti e dimostrando di saper riconoscere i bisogni della nostra epoca.
Bibliografia
Chung, S.J., & Lee, H. (2020). Visual presentation of mental healthcare chatbots for user experience. Research Gate.
Lecomte, T., Potvin, S., Corbière, M., Guay, S., Samson, C., Cloutier, B., Francoeur, A., Pennou, A., Khazaal, Y. Mobile Apps for Mental Health Issues: Meta-Review of Meta-Analyses JMIR Mhealth Uhealth 2020; 8(5):e17458
Ta, V., Griffith, C., Boatfield, C., Wang, X., Civitello, M., Bader, H., DeCero, E., Loggarakis, A. User Experiences of Social Support From Companion Chatbots in Everyday Contexts: Thematic Analysis J Med Internet Res 2020; 22(3):e16235
Wang, L., Fagan, C., & Yu, C.-l. (2020). Popular mental health apps (MH apps) as a complement to telepsychotherapy: Guidelines for consideration. Journal of Psychotherapy Integration, 30(2), 265-273. http://dx.doi.org/10.1037/int0000204
