Radar mondial UDTR

UDTR — Radar mondial des droits de la Nature

Registre documentaire des références détectées à travers les infrastructures académiques, juridiques et institutionnelles surveillées par UDTR.

Une infrastructure documentaire mondiale conçue pour atteindre la couverture la plus large, vérifiable et scientifiquement défendable des droits de la Nature.

← Retour au Radar

A Different Approach to AI Safety: Proceedings from the Columbia Convening on Openness in Artificial Intelligence and AI Safety

Identification

Clé publique
radar:r-85466a5a6d897145274444d5c84dde78
Auteurs
François, Camille · Ludovic Peran · Ayah Bdeir · Nouha Dziri · Will Hawkins · Yacine Jernite · Sayash Kapoor · Shen, Juliet · Heidy Khlaaf · Kevin Klyman · Nik Marda · Marie Pellat · D. M. Raji · Divya Siddarth · Aviya Skowron · Joseph Spisak · Madhulika Srikumar · Victor Storchan · Tang, Audrey · Jen Weedon
Année déclarée
2025
Langue déclarée
en
Type source
preprint
Première détection
2026-11-14T02:16:53.707393+00:00
Dernière observation des métadonnées
2026-11-14T02:16:53.707393+00:00
Dernière vérification HTTP
Non effectuée

Institutions déclarées par la source

Columbia University · The Collective Intelligence Project

Pays d’affiliation déclarés

US

Résumé documentaire — langue originale

The rapid rise of open-weight and open-source foundation models is intensifying the obligation and reshaping the opportunity to make AI systems safe. This paper reports outcomes from the Columbia Convening on AI Openness and Safety (San Francisco, 19 Nov 2024) and its six-week preparatory programme involving more than forty-five researchers, engineers, and policy leaders from academia, industry, civil society, and government. Using a participatory, solutions-oriented process, the working groups produced (i) a research agenda at the intersection of safety and open source AI; (ii) a mapping of existing and needed technical interventions and open source tools to safely and responsibly deploy open foundation models across the AI development workflow; and (iii) a mapping of the content safety filter ecosystem with a proposed roadmap for future research and development. We find that openness -- understood as transparent weights, interoperable tooling, and public governance -- can enhance safety by enabling independent scrutiny, decentralized mitigation, and culturally plural oversight. However, significant gaps persist: scarce multimodal and multilingual benchmarks, limited defenses against prompt-injection and compositional attacks in agentic systems, and insufficient participatory mechanisms for communities most affected by AI harms. The paper concludes with a roadmap of five priority research directions, emphasizing participatory inputs, future-proof content filters, ecosystem-wide safety infrastructure, rigorous agentic safeguards, and expanded harm taxonomies. These recommendations informed the February 2025 French AI Action Summit and lay groundwork for an open, plural, and accountable AI safety discipline.

Identifiants

OPENALEX
https://openalex.org/W4416261106
DOI
10.48550/arxiv.2506.22183

Repères documentaires

Famille documentaire
preprint
Types déclarés par les sources
preprint

Les mentions d’entités ne constituent pas une preuve de reconnaissance juridique. La juridiction étudiée est distincte du pays d’affiliation des auteurs.

Sources

OpenAlex · Document 1

Citer cette référence

François, Camille; Ludovic Peran; Ayah Bdeir; Nouha Dziri; Will Hawkins; Yacine Jernite; Sayash Kapoor; Shen, Juliet; Heidy Khlaaf; Kevin Klyman; Nik Marda; Marie Pellat; D. M. Raji; Divya Siddarth; Aviya Skowron; Joseph Spisak; Madhulika Srikumar; Victor Storchan; Tang, Audrey; Jen Weedon. A Different Approach to AI Safety: Proceedings from the Columbia Convening on Openness in Artificial Intelligence and AI Safety. 2025. https://doi.org/10.48550/arxiv.2506.22183

JSON · CSL-JSON · BibTeX · RIS · CSV · JSON-LD ·

APA, Chicago, ISO 690 : formats bibliographiques fondés sur les champs disponibles. OSCOLA / Bluebook : données structurées uniquement ; aucune conformité juridique complète n’est revendiquée sans vérification des éléments nécessaires.

APA
François, Camille; Ludovic Peran; Ayah Bdeir; Nouha Dziri; Will Hawkins; Yacine Jernite; Sayash Kapoor; Shen, Juliet; Heidy Khlaaf; Kevin Klyman; Nik Marda; Marie Pellat; D. M. Raji; Divya Siddarth; Aviya Skowron; Joseph Spisak; Madhulika Srikumar; Victor Storchan; Tang, Audrey; Jen Weedon. (2025). A Different Approach to AI Safety: Proceedings from the Columbia Convening on Openness in Artificial Intelligence and AI Safety. https://doi.org/10.48550/arxiv.2506.22183
Chicago
François, Camille; Ludovic Peran; Ayah Bdeir; Nouha Dziri; Will Hawkins; Yacine Jernite; Sayash Kapoor; Shen, Juliet; Heidy Khlaaf; Kevin Klyman; Nik Marda; Marie Pellat; D. M. Raji; Divya Siddarth; Aviya Skowron; Joseph Spisak; Madhulika Srikumar; Victor Storchan; Tang, Audrey; Jen Weedon. A Different Approach to AI Safety: Proceedings from the Columbia Convening on Openness in Artificial Intelligence and AI Safety. 2025. https://doi.org/10.48550/arxiv.2506.22183
ISO 690
François, Camille; Ludovic Peran; Ayah Bdeir; Nouha Dziri; Will Hawkins; Yacine Jernite; Sayash Kapoor; Shen, Juliet; Heidy Khlaaf; Kevin Klyman; Nik Marda; Marie Pellat; D. M. Raji; Divya Siddarth; Aviya Skowron; Joseph Spisak; Madhulika Srikumar; Victor Storchan; Tang, Audrey; Jen Weedon. A Different Approach to AI Safety: Proceedings from the Columbia Convening on Openness in Artificial Intelligence and AI Safety. 2025. https://doi.org/10.48550/arxiv.2506.22183

Warning: Undefined array key "last_link_verified" in /home/clients/e27d81e12f04d2bfd747aa264540ac56/sites/_UDTR_APP/legal_library_reference.php on line 31

UDTR — Bibliothèque juridique mondiale des droits de la Nature. A Different Approach to AI Safety: Proceedings from the Columbia Convening on Openness in Artificial Intelligence and AI Safety. Notice documentaire: https://www.declarationuniverselledesdroitsdelarbre.org/global-rights-of-nature-radar/reference/r-85466a5a6d897145274444d5c84dde78/ · Dernière vérification HTTP : non effectuée

Signaler une correction

Données de cette version figée

Dossiers et relations documentaires

Rôles des sources

Source bibliographique / publication d’origine · http://arxiv.org/abs/2506.22183

Un lien vers une autorité ne prouve pas à lui seul une affirmation juridique. Les résumés et les textes intégraux restent soumis aux conditions de leur source.

Statut documentaire

Pertinence à examiner

Bibliothèque

Cette identité n’est pas encore intégrée à la Bibliothèque juridique.

UDTR — Bibliothèque juridique mondiale des droits de la Nature