L’intelligence artificielle progresse rapidement, soulevant la question de savoir comment les sociétés et les gouvernements peuvent en tirer les bénéfices tout en maîtrisant des risques qui dépassent souvent les frontières nationales.

Ces inquiétudes se sont intensifiées après qu’un ancien chercheur de l’entreprise d’IA Anthropic a averti le 8 septembre que l’IA pouvait représenter une menace existentielle pour l’humanité.

Pour l’ONU, la meilleure façon de faire face aux risques mondiaux de l’IA consiste à réunir les pays autour de principes et d’engagements communs en matière de gouvernance.

La coordination est « indispensable »

« L’action nationale est essentielle, mais la coordination mondiale est indispensable », a déclaré le Secrétaire général de l’ONU António Guterres.

Depuis plusieurs années, l’ONU offre un cadre permettant aux pays de développer une compréhension commune des technologies d’IA et d’examiner comment coopérer et mettre en place des cadres réglementaires sur des questions telles que la sécurité, les droits humains et les inégalités d’accès.

Un développement fondé sur des règles

Les travaux actuels de l’ONU sur la gouvernance de l’IA découlent du Pacte numérique mondial, adopté par les États Membres en 2024 dans le cadre du Pacte pour l’avenir.

Ce Pacte appelle à une coopération internationale sur l’IA et prévoit deux mécanismes : un groupe scientifique indépendant chargé d’évaluer les risques et les opportunités de l’IA, et un dialogue mondial annuel permettant aux gouvernements et autres acteurs de coordonner leurs approches.

En août 2025, l’Assemblée générale des Nations Unies a officiellement créé ces deux mécanismes.

Le Groupe scientifique international indépendant sur l’IA vise à fournir aux gouvernements une évaluation indépendante de ce que l’on sait — et de ce que l’on ignore encore — au sujet de cette technologie en évolution rapide.

Le Dialogue mondial sur la gouvernance de l’IA réunit quant à lui gouvernements et autres parties prenantes afin de discuter de coopération internationale, partager les expériences et rapprocher les différentes approches réglementaires.

Les deux institutions sont complémentaires : le Groupe scientifique fournit les éléments factuels, et les pays déterminent au sein du Dialogue mondial les réponses à apporter.

Le premier rapport préliminaire du Groupe scientifique, publié le 1er juillet, constate que les capacités de l’IA progressent rapidement, notamment dans le raisonnement, la programmation et les sciences, créant d’importantes opportunités.

Il identifie également des risques liés à la désinformation, à la discrimination, aux atteintes à la vie privée, aux cyberattaques et à une éventuelle « superintelligence » difficile à contrôler.

« Nous avons besoin d’une compréhension commune de la manière de faire progresser un développement sûr, sécurisé et responsable de l’IA, tout en identifiant les situations dans lesquelles des systèmes de plus en plus puissants peuvent nécessiter des garanties renforcées », a déclaré M. Guterres.

Vers des garde-fous pour l’IA

Les discussions évoluent désormais de la question de savoir s’il faut réglementer l’IA vers celle des garanties concrètes à mettre en place.

M. Guterres a appelé à la coopération internationale pour que le développement de l’IA reste sûr, sécurisé et responsable. Il a ajouté que des efforts volontaires visant à ralentir l’IA ne suffiraient pas s’ils demeuraient isolés, invérifiables ou appliqués de façon inégale.

Interrogé sur la possibilité d’un sommet mondial conduisant à une réglementation efficace, il a estimé qu’un tel processus devait être lancé rapidement en associant les secteurs public, privé, scientifique et la société civile.

« Si nous pensons que le développement de l’IA doit ralentir lorsque les risques deviennent trop importants, il nous faut davantage que de bonnes intentions », a-t-il déclaré.

Le Secrétaire général a appelé à un Engagement pour la sécurité des enfants face à l’IA et à la création d’un Fonds mondial pour l’IA destiné à aider les pays en développement à construire leurs infrastructures et leurs capacités.

Il a aussi insisté sur la nécessité de garde-fous rendant l’IA « sûre, transparente, responsable, avec la dignité humaine au centre ».

Les gouvernements nationaux et régionaux conservent leurs compétences réglementaires, tandis que l’ONU cherche à les réunir, fournir une base scientifique commune et identifier les domaines propices à la coopération internationale.

L’IA à l’Assemblée générale de l’ONU

Des sources diplomatiques citées dans la presse estiment que le Conseil de sécurité pourrait discuter d’intelligence artificielle pendant la semaine de haut niveau.

Au siège de l’ONU, en marge du débat général, la SDG Media Zone organisera un événement le 21 septembre, tandis que la série « AI and Human Development » se conclura par une discussion le 23 septembre. Les deux événements porteront sur la relation entre l’IA et la capacité d’action humaine.

M. Guterres a souligné que l’IA serait « un sujet majeur » dans ses échanges avec les dirigeants mondiaux.

Comparant le développement de l’IA à la course aux armements de la guerre froide entre les États-Unis et l’Union soviétique, il a appelé les pays en pointe — notamment les États-Unis et la Chine — à mettre en place des mécanismes de contact, d’échange d’informations et des garde-fous communs afin d’éviter une course vers le bas pouvant conduire à une catastrophe mondiale.

Avec les mécanismes scientifiques et diplomatiques désormais en place, l’ONU entend transformer cette coopération en actions concrètes à mesure que l’IA devient plus puissante.