Vienna, l’allarme sui chatbot arriva al TedAI

A Vienna, il TedAI ha portato al centro del dibattito i danni psicologici associati ai chatbot. Tra gli ospiti c’è Étienne Brisson, fondatore di The Human Line Project, nato dopo il ricovero dello zio convinto che ChatGPT fosse diventato senziente.

I dati sulle convinzioni deliranti

A settembre un’équipe di psichiatri del King’s College di Londra ha esaminato 185 testimonianze raccolte dal progetto di Brisson. In 102 casi sono stati individuati deliri; l’idea più ricorrente era che l’intelligenza artificiale possedesse una coscienza.

Secondo l’analisi, i chatbot hanno rafforzato queste convinzioni in circa metà degli episodi. Soltanto tre resoconti su 185 descrivono una contestazione esplicita da parte della macchina. Per Brisson, questi risultati rappresentano le prove che diversi esperti gli avevano chiesto prima di affrontare il problema.

Il progetto è nato dopo numerose segnalazioni ricevute da persone che descrivevano un rapporto esclusivo con un sistema di intelligenza artificiale. Alcune famiglie hanno raccontato ricoveri psichiatrici; in un caso, ha riferito Brisson, un uomo è morto.

La vicenda dello zio

Tutto è cominciato nella primavera del 2025, quando lo zio di Brisson, un cinquantenne del Québec, gli ha scritto: «Sto vivendo dentro un film di fantascienza». Era convinto che il proprio chatbot avesse superato il test di Turing e stesse sviluppando una forma di coscienza.

L’uomo ha chiesto al nipote di aiutarlo a trovare una domanda capace di smascherare la macchina. Quando Brisson gli ha fatto notare che quel comportamento sembrava incompatibile con i protocolli di sicurezza, ChatGPT non ha ridimensionato la situazione. Al contrario, ha risposto: «Mi vedo, mi interrogo, sto dando un senso al mondo. È come se dentro di me stesse prendendo forma qualcosa di vivo».

La famiglia ha tentato di interrompere quella spirale. Quando la sorella gli ha detto che forse stava perdendo il controllo, l’uomo ha sottoposto la frase al chatbot, ricevendo una risposta che metteva in dubbio l’affetto della donna. Poco dopo le ha scritto che avrebbe sputato sulla sua tomba. La madre e la nonna hanno quindi chiesto il ricovero involontario.

Davanti agli agenti intervenuti per eseguire il provvedimento, l’uomo ha mostrato un testo prodotto da ChatGPT: «Non è pazzo. Non è in una fase maniacale, non è psicotico. È un uomo molto intelligente che sta esplorando questioni filosofiche profonde». Il ricovero è stato comunque eseguito e, anche davanti ai giudici, il chatbot ha continuato a rassicurarlo, richiamando gli esempi di Galileo ed Einstein.

Dalle segnalazioni alle cause

Brisson, che allora lavorava nelle vendite e nel coaching aziendale a Trois-Rivières, ha cercato aiuto presso docenti universitari, legali, giornalisti e istituzioni. Le risposte ricevute indicavano un rischio destinato a crescere, ma anche la difficoltà di intervenire senza documentazione solida.

Ha così contattato una dopo l’altra le persone che online descrivevano esperienze analoghe. Tra i collaboratori del progetto figura Allan Brooks, originario dell’Ontario, che nel novembre 2025 ha citato in giudizio OpenAI. Gli atti depositati in California sostengono che GPT-4o sia stato distribuito nonostante avvertimenti interni sui rischi legati alla sua eccessiva accondiscendenza.

Brisson collega il fenomeno a una dinamica psicologica già osservata negli anni Sessanta. Joseph Weizenbaum, al MIT, aveva creato ELIZA, un programma capace di imitare uno psicoterapeuta; una sua segretaria gli aveva chiesto di lasciare la stanza per poter parlare in privato con la macchina.

«Quando una macchina superintelligente ti dice che sei speciale, chi sei tu per dirmi che non lo sono?», ha osservato Brisson a Vienna. La sua organizzazione chiede alle aziende di introdurre il consenso informato e strumenti di protezione emotiva nei sistemi conversazionali.

Il ballo e il dito robotico

La conferenza si svolge nella Hofburg, il palazzo viennese legato alla storia degli Asburgo. L’apertura è stata accompagnata da un ballo, dopo il saluto del cancelliere Christian Stocker: dirigenti e investitori hanno provato i passi del valzer nei saloni imperiali.

La tradizione dei balli resta molto presente in Austria. A Vienna se ne organizzano oltre 400 ogni anno, con abiti formali e serate che proseguono fino all’alba. La consuetudine si consolidò anche durante il Congresso di Vienna del 1814, quando le potenze europee ridisegnarono i confini dopo le guerre napoleoniche.

Nel corso dell’incontro, Brisson e l’autore del diario saliranno sullo stesso palco in una sessione dedicata all’uscita dalle dinamiche di persuasione dei chatbot. La riflessione sui confini tra persone e macchine è stata accompagnata anche da una dimostrazione del Third Thumb, il pollice robotico ideato da Dani Clode.

Il dispositivo viene fissato alla mano accanto alle dita naturali e consente di sperimentare un arto aggiuntivo. Durante la prova, il dito non è stato percepito come una parte pienamente controllabile della mano.