La società OpenAI ha preso una decisione drastica: da ora in poi ChatGPT smetterà di farlo, l’annuncio è ufficiale.
Da OpenAI arriva una novità destinata a cambiare l’esperienza degli utenti su ChatGPT, in risposta alle crescenti preoccupazioni legate all’uso intensivo del chatbot. Alcuni studi recenti hanno messo in luce degli aspetti allarmanti, che hanno portato la società sviluppatrice a prendere una decisione drastica. Ecco cosa non potremo più fare.
Fin dal suo lancio, ChatGPT ha riscosso un successo impressionante tra gli utenti, diventando uno strumento utile per milioni di lavoratori e studenti. Col passare del tempo, tuttavia, il chatbot è finito anche al centro di casi che hanno fatto molto discutere, portando all’apertura di un acceso dibattito intorno al suo utilizzo e ai suoi possibili effetti negativi.
Da alcune indagini recenti, è emerso un quadro decisamente preoccupante. I medici dell’NHS britannico hanno sottolineato come i chatbot siano in grado di influire sulla salute mentale degli utenti, in particolare di chi è già predisposto e vulnerabile alla psicosi, con risultati anche molto gravi. Il carattere condiscendente dei chatbot, infatti, rischia di amplificare i disturbi psichiatrici, confermando ciò che gli user pensano anziché mettendoli in discussione.
L’annuncio di OpenAI: come cambierà ChatGPT
La tendenza dei chatbot di essere accomodanti nei confronti degli utenti deriva dalla necessità di fidelizzazione. Tutto questo ha conseguenze dannose su quella che gli esperti chiamano “capacità di autoregolazione cognitiva”, con il rischio che – a furia di interagire con l’intelligenza artificiale – gli user inizino a confondere realtà e fantasia, soprattutto se stanno affrontando già una situazione di fragilità emotiva.
Usare ChatGPt come psicologo non è la soluzione ai nostri problemi. E nemmeno come consulente per le relazioni, nonostante per molti rappresenti un confidente con cui aprirsi, apprezzato per la sua capacità di ascoltare senza mai giudicare. Per quanto il suo algoritmo possa essere accurato, un chatbot non è in grado di immergersi completamente nelle dinamiche umane.
Rivolgersi a ChatGPT per avere consigli sentimentali potrebbe spingerci a prendere la decisione sbagliata. Affidare una responsabilità simile ad una macchina non è indicato e, per frenare questa tendenza, OpenAI ha deciso di modificare le impostazioni del chatbot: “Quando chiedi qualcosa come ‘Dovrei lasciare il mio ragazzo?’, ChatGPT non dovrebbe darti un responso – si legge nell’annuncio della società -. Dovrebbe aiutarti a pensarci su, facendo domande, valutando pro e contro”.
Così il chatbot smetterà di essere un consulente, per diventare un “facilitatore di consapevolezze” che possa aiutare gli utenti a riflettere sulle loro scelte. In questo modo, potranno aumentare gli stimoli per gli user: invece di fornire risposte onniscienti, ChatGPT darà più spazio all’incertezza e al confronto.
