Radar mondial UDTR

UDTR — Radar mondial des droits de la Nature

Registre documentaire des références détectées à travers les infrastructures académiques, juridiques et institutionnelles surveillées par UDTR.

Une infrastructure documentaire mondiale conçue pour atteindre la couverture la plus large, vérifiable et scientifiquement défendable des droits de la Nature.

← Retour au Radar

Characterizing Delusional Spirals through Human-LLM Chat Logs

Identification

Clé publique
radar:r-cfc8764b7fdaf5ca5e22a9798e8ba187
Auteurs
Jared Moore · Ashish Mehta · William S. Agnew · Jacy Reese Anthis · Ryan Louie · Yifan Mai · Peggy Yin · Myra Cheng · Samuel J. Paech · Kevin Klyman · Stevie Chancellor · Eric C. Lin · Nick Haber · Desmond C. Ong
Année déclarée
2026
Langue déclarée
en
Type source
conference-paper
Première détection
2026-11-14T02:16:53.707393+00:00
Dernière observation des métadonnées
2026-11-14T02:16:53.707393+00:00
Dernière vérification HTTP
Non effectuée

Institutions déclarées par la source

Stanford University · Carnegie Mellon University · University of Chicago · Harvard University · University of Minnesota · The University of Texas at Austin

Pays d’affiliation déclarés

US

Résumé documentaire — langue originale

As large language models (LLMs) have proliferated, disturbing anecdotal reports of negative psychological effects, such as delusions, self-harm, and “AI psychosis,” have emerged in global media and legal discourse. However, it remains unclear how users and chatbots interact over the course of lengthy delusional “spirals,” limiting our ability to understand and mitigate the harm. In our work, we analyze logs of conversations with LLM chatbots from 19 users who report having experienced psychological harms from chatbot use. Many of our participants come from a support group for such chatbot users. We also include chat logs from participants covered by media outlets in widely-distributed stories about chatbot-reinforced delusions. In contrast to prior work that speculates on potential AI harms to mental health, to our knowledge we present the first in-depth study of such high-profile and veridically harmful cases. We develop an inventory of 28 codes and apply it to the 391, 562 messages in the logs. Codes include whether a user demonstrates delusional thinking (15.5% of user messages), a user expresses suicidal thoughts (69 validated user messages), or a chatbot misrepresents itself as sentient (21.2% of chatbot messages). We analyze the co-occurrence of message codes. We find, for example, that messages that declare romantic interest and messages where the chatbot describes itself as sentient occur much more often in longer conversations, suggesting that these topics could promote or result from user over-engagement and that safeguards in these areas may degrade in multi-turn settings. We conclude with concrete recommendations for how policymakers, LLM chatbot developers, and users can use our inventory and conversation analysis tool to understand and mitigate harm from LLM chatbots.

Identifiants

OPENALEX
https://openalex.org/W7166582319
DOI
10.1145/3805689.3806443

Repères documentaires

Famille documentaire
conference_paper
Types déclarés par les sources
conference-paper

Les mentions d’entités ne constituent pas une preuve de reconnaissance juridique. La juridiction étudiée est distincte du pays d’affiliation des auteurs.

Sources

OpenAlex · Document 1

Citer cette référence

Jared Moore; Ashish Mehta; William S. Agnew; Jacy Reese Anthis; Ryan Louie; Yifan Mai; Peggy Yin; Myra Cheng; Samuel J. Paech; Kevin Klyman; Stevie Chancellor; Eric C. Lin; Nick Haber; Desmond C. Ong. Characterizing Delusional Spirals through Human-LLM Chat Logs. 2026. https://doi.org/10.1145/3805689.3806443

JSON · CSL-JSON · BibTeX · RIS · CSV · JSON-LD ·

APA, Chicago, ISO 690 : formats bibliographiques fondés sur les champs disponibles. OSCOLA / Bluebook : données structurées uniquement ; aucune conformité juridique complète n’est revendiquée sans vérification des éléments nécessaires.

APA
Jared Moore; Ashish Mehta; William S. Agnew; Jacy Reese Anthis; Ryan Louie; Yifan Mai; Peggy Yin; Myra Cheng; Samuel J. Paech; Kevin Klyman; Stevie Chancellor; Eric C. Lin; Nick Haber; Desmond C. Ong. (2026). Characterizing Delusional Spirals through Human-LLM Chat Logs. https://doi.org/10.1145/3805689.3806443
Chicago
Jared Moore; Ashish Mehta; William S. Agnew; Jacy Reese Anthis; Ryan Louie; Yifan Mai; Peggy Yin; Myra Cheng; Samuel J. Paech; Kevin Klyman; Stevie Chancellor; Eric C. Lin; Nick Haber; Desmond C. Ong. Characterizing Delusional Spirals through Human-LLM Chat Logs. 2026. https://doi.org/10.1145/3805689.3806443
ISO 690
Jared Moore; Ashish Mehta; William S. Agnew; Jacy Reese Anthis; Ryan Louie; Yifan Mai; Peggy Yin; Myra Cheng; Samuel J. Paech; Kevin Klyman; Stevie Chancellor; Eric C. Lin; Nick Haber; Desmond C. Ong. Characterizing Delusional Spirals through Human-LLM Chat Logs. 2026. https://doi.org/10.1145/3805689.3806443

Warning: Undefined array key "last_link_verified" in /home/clients/e27d81e12f04d2bfd747aa264540ac56/sites/_UDTR_APP/legal_library_reference.php on line 31

UDTR — Bibliothèque juridique mondiale des droits de la Nature. Characterizing Delusional Spirals through Human-LLM Chat Logs. Notice documentaire: https://www.declarationuniverselledesdroitsdelarbre.org/global-rights-of-nature-radar/reference/r-cfc8764b7fdaf5ca5e22a9798e8ba187/ · Dernière vérification HTTP : non effectuée

Signaler une correction

Données de cette version figée

Dossiers et relations documentaires

Rôles des sources

Source bibliographique / publication d’origine · https://doi.org/10.1145/3805689.3806443

Un lien vers une autorité ne prouve pas à lui seul une affirmation juridique. Les résumés et les textes intégraux restent soumis aux conditions de leur source.

Statut documentaire

Pertinence à examiner

Bibliothèque

Cette identité n’est pas encore intégrée à la Bibliothèque juridique.

UDTR — Bibliothèque juridique mondiale des droits de la Nature