Radar mondial UDTR

UDTR — Radar mondial des droits de la Nature

Registre documentaire des références détectées à travers les infrastructures académiques, juridiques et institutionnelles surveillées par UDTR.

Une infrastructure documentaire mondiale conçue pour atteindre la couverture la plus large, vérifiable et scientifiquement défendable des droits de la Nature.

← Retour au Radar

Open Problems in Chatbots and Mental Health

Identification

Clé publique
radar:r-f2c8bdb17b4d7124a6df068a9cb02b48
Auteurs
Jared Moore · Jacy Reese Anthis · William S. Agnew · Andrea Mock · Kevin Klyman · Sanmi Koyejo · Nick Haber · Stevie Chancellor · Eric C. Lin · Ryan Louie · Desmond C. Ong
Année déclarée
2026
Langue déclarée
en
Type source
preprint
Première détection
2026-11-14T02:16:53.707393+00:00
Dernière observation des métadonnées
2026-11-14T02:16:53.707393+00:00
Dernière vérification HTTP
Non effectuée

Institutions déclarées par la source

Stanford University · Harvard University

Pays d’affiliation déclarés

US

Résumé documentaire — langue originale

General-purpose chatbots are increasingly used for emotional and mental health support. They can be useful, but issues such as sycophancy, reinforcement of delusional beliefs, and poor crisis response create risks that are difficult for researchers to study and evaluate. In this paper, we review the most critical open problems for researchers and policymakers in the use of general-purpose chatbots and their effects on mental health. First, there are tractable problems in the controlled evaluation of chatbots: establishing the construct and ecological validity of evaluations, evaluating multi-turn interactions, and connecting evaluations to improvements in chatbot behavior. For example, conventional benchmarks that primarily rely on static datasets cannot establish chatbot safety, and novel simulation methods need validation. Second, researchers must connect their studies of chatbots and mental health to real-world evidence. This includes analyzing the chatbot products that AI companies and mental health practitioners have deployed, including their user interfaces and human review and escalation practices for user welfare concerns. However, clinical analysis opportunities afforded by real chat log data sharing are complicated by significant privacy concerns. Finally, we argue that researchers should take an active role in the construction and refinement of evidence-based policy through corporate and governmental decisions such as user protections, standards of care, protected access to user chat logs, data sharing between institutions, incident reporting, and post-deployment monitoring. Such behavioral evaluations, studies of real-world outcomes, and data governance depend on each other and must be addressed in tandem. We believe a coordinated research effort would have substantial real-world impact.

Identifiants

OPENALEX
https://openalex.org/W7225718088
DOI
10.48550/arxiv.2611.10997

Repères documentaires

Famille documentaire
preprint
Types déclarés par les sources
preprint

Les mentions d’entités ne constituent pas une preuve de reconnaissance juridique. La juridiction étudiée est distincte du pays d’affiliation des auteurs.

Sources

OpenAlex · Document 1

Citer cette référence

Jared Moore; Jacy Reese Anthis; William S. Agnew; Andrea Mock; Kevin Klyman; Sanmi Koyejo; Nick Haber; Stevie Chancellor; Eric C. Lin; Ryan Louie; Desmond C. Ong. Open Problems in Chatbots and Mental Health. 2026. https://doi.org/10.48550/arxiv.2611.10997

JSON · CSL-JSON · BibTeX · RIS · CSV · JSON-LD ·

APA, Chicago, ISO 690 : formats bibliographiques fondés sur les champs disponibles. OSCOLA / Bluebook : données structurées uniquement ; aucune conformité juridique complète n’est revendiquée sans vérification des éléments nécessaires.

APA
Jared Moore; Jacy Reese Anthis; William S. Agnew; Andrea Mock; Kevin Klyman; Sanmi Koyejo; Nick Haber; Stevie Chancellor; Eric C. Lin; Ryan Louie; Desmond C. Ong. (2026). Open Problems in Chatbots and Mental Health. https://doi.org/10.48550/arxiv.2611.10997
Chicago
Jared Moore; Jacy Reese Anthis; William S. Agnew; Andrea Mock; Kevin Klyman; Sanmi Koyejo; Nick Haber; Stevie Chancellor; Eric C. Lin; Ryan Louie; Desmond C. Ong. Open Problems in Chatbots and Mental Health. 2026. https://doi.org/10.48550/arxiv.2611.10997
ISO 690
Jared Moore; Jacy Reese Anthis; William S. Agnew; Andrea Mock; Kevin Klyman; Sanmi Koyejo; Nick Haber; Stevie Chancellor; Eric C. Lin; Ryan Louie; Desmond C. Ong. Open Problems in Chatbots and Mental Health. 2026. https://doi.org/10.48550/arxiv.2611.10997

Warning: Undefined array key "last_link_verified" in /home/clients/e27d81e12f04d2bfd747aa264540ac56/sites/_UDTR_APP/legal_library_reference.php on line 31

UDTR — Bibliothèque juridique mondiale des droits de la Nature. Open Problems in Chatbots and Mental Health. Notice documentaire: https://www.declarationuniverselledesdroitsdelarbre.org/global-rights-of-nature-radar/reference/r-f2c8bdb17b4d7124a6df068a9cb02b48/ · Dernière vérification HTTP : non effectuée

Signaler une correction

Données de cette version figée

Dossiers et relations documentaires

Rôles des sources

Source bibliographique / publication d’origine · https://arxiv.org/abs/2611.10997

Un lien vers une autorité ne prouve pas à lui seul une affirmation juridique. Les résumés et les textes intégraux restent soumis aux conditions de leur source.

Statut documentaire

Pertinence à examiner

Bibliothèque

Cette identité n’est pas encore intégrée à la Bibliothèque juridique.

UDTR — Bibliothèque juridique mondiale des droits de la Nature