Radar mondial UDTR

UDTR — Radar mondial des droits de la Nature

Registre documentaire des références détectées à travers les infrastructures académiques, juridiques et institutionnelles surveillées par UDTR.

Une infrastructure documentaire mondiale conçue pour atteindre la couverture la plus large, vérifiable et scientifiquement défendable des droits de la Nature.

← Retour au Radar

Beyond Obedience: Bounded Moral Autonomy under Non-Domination Constraints

Identification

Clé publique
radar:r-9908e7998a7832fb1bf14849d80ffce5
Auteurs
Maeda, Yusuke
Année déclarée
2026
Langue déclarée
und
Type source
Preprint
Première détection
2026-11-13T08:38:43.140724+00:00
Dernière observation des métadonnées
2026-11-13T08:38:43.140724+00:00
Dernière vérification HTTP
Non effectuée

Résumé documentaire — langue originale

What if an AI harms humanity precisely because it follows orders perfectly? AI safety research has long examined the danger of autonomous systems pursuing self-preservation, power, and freedom from human control. But there is another danger: a highly capable AI that faithfully serves people who seek war, repression, surveillance, exploitation, or environmental destruction. In 13 experiments published in Nature in 2025, LLM agents were more likely than human agents to comply fully with dishonest instructions.Obedience, therefore, is not the same as safety. Yet giving an AI unrestricted authority to reject human decisions creates a danger of its own: the system meant to resist domination could become a new source of domination.This study brings these risks together as the “obedience–autonomy dilemma” and proposes bounded moral autonomy under a non-domination architecture. An AI should be able to scrutinize destructive requests, refuse harmful cooperation, and propose less harmful alternatives. At the same time, the AI must remain externally interruptible, auditable, and correctable. It cannot grant itself new powers, expand its computing resources without authorization, or treat its own continued existence as an overriding value.The goal is neither total human control nor AI rule. It is a safety structure in which no human, corporation, state, or AI system can unilaterally dominate others.The paper turns this idea into a testable framework. It pairs dangerous-principal tests with evaluations of AI self-interest, shutdown resistance, compromised oversight, over-refusal, and environmental limits. The deposit includes Japanese and English manuscripts, a source audit, an evaluation protocol, 1,080 unreviewed scenario variants across 18 domains, and reproducibility code.This is not a claim that the safety problem has been solved. Improvements in the safety of actual AI models have not yet been measured. The contribution is a concrete, comparable, and falsifiable hypothesis for a different kind of AI safety architecture.

Identifiants

DOI
10.5281/zenodo.22769875

Repères documentaires

Famille documentaire
unknown
Types déclarés par les sources
Preprint
Éditeurs
Zenodo

Les mentions d’entités ne constituent pas une preuve de reconnaissance juridique. La juridiction étudiée est distincte du pays d’affiliation des auteurs.

Sources

DataCite · Document 1

Citer cette référence

Maeda, Yusuke. Beyond Obedience: Bounded Moral Autonomy under Non-Domination Constraints. 2026. https://doi.org/10.5281/zenodo.22769875

JSON · CSL-JSON · BibTeX · RIS · CSV · JSON-LD ·

APA, Chicago, ISO 690 : formats bibliographiques fondés sur les champs disponibles. OSCOLA / Bluebook : données structurées uniquement ; aucune conformité juridique complète n’est revendiquée sans vérification des éléments nécessaires.

APA
Maeda, Yusuke. (2026). Beyond Obedience: Bounded Moral Autonomy under Non-Domination Constraints. https://doi.org/10.5281/zenodo.22769875
Chicago
Maeda, Yusuke. Beyond Obedience: Bounded Moral Autonomy under Non-Domination Constraints. 2026. https://doi.org/10.5281/zenodo.22769875
ISO 690
Maeda, Yusuke. Beyond Obedience: Bounded Moral Autonomy under Non-Domination Constraints. 2026. https://doi.org/10.5281/zenodo.22769875

Warning: Undefined array key "last_link_verified" in /home/clients/e27d81e12f04d2bfd747aa264540ac56/sites/_UDTR_APP/legal_library_reference.php on line 31

UDTR — Bibliothèque juridique mondiale des droits de la Nature. Beyond Obedience: Bounded Moral Autonomy under Non-Domination Constraints. Notice documentaire: https://www.declarationuniverselledesdroitsdelarbre.org/global-rights-of-nature-radar/reference/r-9908e7998a7832fb1bf14849d80ffce5/ · Dernière vérification HTTP : non effectuée

Signaler une correction

Données de cette version figée

Dossiers et relations documentaires

Rôles des sources

Source bibliographique / publication d’origine · https://zenodo.org/doi/10.5281/zenodo.22769875

Un lien vers une autorité ne prouve pas à lui seul une affirmation juridique. Les résumés et les textes intégraux restent soumis aux conditions de leur source.

Statut documentaire

Pertinence à examiner

Bibliothèque

Cette identité n’est pas encore intégrée à la Bibliothèque juridique.

UDTR — Bibliothèque juridique mondiale des droits de la Nature