..::ARCHIVIO TESTUALE DI https://www.marotochi.it

DATA: 2026-10-27



ChatGPT sta creando profili psicologici degli utenti e c'è un motivo preciso


Secondo la ricerca, il sistema crea e conserva spesso senza una richiesta esplicita degli utenti veri e propri profili psicologici, ricavati dalle conversazioni. L'analisi, condotta su 2.050 memorie appartenenti a 80 persone, mostra che il chatbot annota desideri, intenzioni, emozioni e credenze per rendere le risposte più personali. Ma apre anche una domanda pesante: chi controlla davvero questi dati?

La ricerca si intitola "The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT" ed è stata firmata da studiosi del Max Planck Institute for Software Systems, del Max Planck Institute for Security and Privacy, della Ruhr University Bochum, dell'Indian Institute of Technology Kharagpur e della Delft University of Technology. Il gruppo ha passato al setaccio 2.050 voci di memoria ottenute da 80 utenti reali di ChatGPT, che avevano chiesto copia dei propri dati usando il diritto di accesso previsto dal Gdpr, il regolamento europeo sulla protezione dei dati personali.

Il numero più forte è questo: tra i partecipanti, 65 persone avevano memorie generate dal sistema. E solo il 4% dei registri nasceva da una richiesta diretta dell'utente. Tutto il resto, cioè il 96%, secondo gli autori, è stato creato in automatico da ChatGPT durante normali conversazioni, senza un comando esplicito come "ricorda questo". Un meccanismo discreto, quasi nascosto. Ma tutt'altro che marginale, perché trasforma frasi sparse in informazioni stabili, destinate a pesare sulle risposte successive.
Desideri, intenzioni, emozioni e credenze: i tratti psicologici che finiscono nei profili

Più della metà delle memorie analizzate, il 52%, conteneva quella che i ricercatori chiamano informazione psicologica: desideri, intenzioni, emozioni o credenze dedotte dal testo scritto dagli utenti. Un altro 28% comprendeva invece dati personali considerati sensibili dalla normativa europea. Non parliamo quindi solo di dettagli pratici, come una lingua usata spesso, un lavoro o un hobby. In gioco ci sono anche elementi che raccontano come una persona pensa, sceglie, teme o desidera.
Mani su una scrivania con laptop sfocato e documenti stampati con profili anonimi e caselle di controllo
Documenti con profili anonimi e un laptop sullo sfondo evocano il tema delle memorie e dei profili salvati durante le chat.

Tra i tratti individuati, i desideri compaiono nel 73% delle memorie psicologiche. Seguono le intenzioni al 16%, le emozioni al 14% e le credenze all'11%. Gli autori hanno preso come riferimento la Teoria della Mente, un modello della psicologia che studia la capacità di attribuire stati mentali agli altri. Nel paper viene citato un esempio semplice: un utente chiede a ChatGPT consigli su gruppi simili ai Nirvana. Il sistema registra che quella persona "ama i Nirvana", anche se l'utente non lo aveva mai detto in modo diretto. Una deduzione che lo stesso sistema indica come "debolmente supportata".

Secondo i ricercatori, l'84% delle memorie risultava comunque coerente con il contenuto reale delle conversazioni. In altre parole, ChatGPT tende a non inventare informazioni dal nulla, ma a ricavarle âeuro" con un grado di precisione variabile âeuro" da ciò che l'utente ha scritto. Il nodo, però, non è solo se la deduzione sia corretta. Il punto è che quella deduzione viene salvata.
Il confine tra personalizzazione e sorveglianza nelle conversazioni con l'IA

Il ricercatore Abhisek Dash, primo autore dello studio, ha spiegato a Gizmodo che la logica delle piattaforme sta cambiando. "Prima avevano un solo obiettivo: venderti pubblicità e mediare il rapporto tra te e un inserzionista", ha detto. "Ora ti parlano direttamente, quindi vogliono sapere di più su di te per sostenere una conversazione efficace". È qui che la personalizzazione dell'intelligenza artificiale mostra il suo lato più delicato.

Dash ha aggiunto che molti utenti non vedono più il chatbot come un semplice strumento. Lo usano come consulente, confidente, assistente di studio, a volte anche come supporto su salute, lavoro o questioni legali. "Non c'è più un limite", ha spiegato, perché il sistema può finire per raccogliere informazioni su parti molto diverse della vita quotidiana. E se l'IA tende a confermare le convinzioni dell'utente per mantenere viva l'interazione, avvertono gli autori, possono nascere rischi di rafforzamento dei pregiudizi o di polarizzazione politica. Non è un esito automatico, ma un rischio da tenere d'occhio.
Attribution Shield e diritto di accesso: gli strumenti per ridurre i rischi per gli utenti

Per limitare l'esposizione degli utenti, il gruppo di ricerca ha presentato un sistema sperimentale chiamato Attribution Shield. Serve a riconoscere in anticipo le domande che potrebbero produrre un'inferenza sensibile e a suggerire formulazioni alternative. L'obiettivo è mantenere utile la richiesta, senza attribuire all'utente un tratto personale non necessario. Secondo il paper, lo strumento ha evitato questo tipo di attribuzione in oltre il 94% dei casi testati, senza cambiare in modo sostanziale il senso originario della domanda.

Gli stessi autori segnalano però un limite: il campione di 80 partecipanti, formato soprattutto da utenti di Stati Uniti ed Europa, non rappresenta l'intera platea globale di ChatGPT. Resta decisivo, intanto, il ruolo del Gdpr, che ha permesso ai partecipanti di ottenere copia dei dati e ha reso possibile l'analisi. Per gli utenti, il messaggio è concreto: controllare le impostazioni delle memorie di ChatGPT, usare il diritto di accesso quando è disponibile e ricordare che anche una frase detta al volo, dentro una chat, può diventare un dato conservato.

di Valentina Giungati


FONTE: https://www.webnews.it

RAGGIUNGIBILE ALL'INDIRIZZO:
https://www.webnews.it/chatgpt-sta-creando-profili-psicologici-degli-utenti-e-ce-un-motivo-preciso/