À New York, hier 23 septembre, le Conseil de sécurité de l’ONU a donné la parole aux géants de l’IA et à un scientifique de premier plan pour éclairer un débat devenu central de la politique internationale : qui définira les règles du jeu d’une technologie dont les effets dépassent les frontières et les marchés ? Selon les données récentes et les alertes d’instances multilatérales, les risques systémiques de l’intelligence artificielle – de la sécurité nationale aux services critiques – imposent des arbitrages rapides entre innovation, supervision et souveraineté. Une synthèse onusienne rappelle d’ailleurs l’urgence d’un encadrement effectif pour préserver les droits fondamentaux et prévenir les dérives.
Une analyse approfondie révèle que la séance a aussi exposé l’asymétrie de pouvoir qui structure déjà le secteur : invités comme « experts », Sam Altman (OpenAI), Dario Amodei (Anthropic), Clément Delangue (Hugging Face) et Yoshua Bengio ont posé des jalons concrets pour la régulation et la gouvernance, tandis que plusieurs États européens ont insisté sur la nécessité d’un contrôle public. Mais ni une entreprise européenne développant des modèles de pointe ni une institution de l’Union n’ont été appelées à la tribune, privant le débat d’un face-à-face direct entre normes privées globales et obligations juridiques déjà adoptées sur le Vieux Continent. À l’arrière-plan, une question s’impose : qui aura, demain, la capacité d’évaluer, d’auditer et, si nécessaire, d’arrêter un déploiement risqué ?
À l’ONU, qui définit vraiment les règles du jeu de l’intelligence artificielle ?
La France, à la présidence du Conseil, a convié quatre voix pour ouvrir la séance : Yoshua Bengio, Sam Altman, Dario Amodei et Clément Delangue. Un cadrage clair : exposer les risques et les garde-fous proposés par l’industrie et la recherche, sans que ces intervenants ne participent aux délibérations. Des comptes rendus concordants soulignent l’appel à une coopération transnationale sur l’évaluation des capacités, la déclaration d’incidents et la vérification des protections.
Il est essentiel de considérer que l’Union européenne, pourtant engagée dans l’encadrement des modèles à usage général, n’était pas représentée institutionnellement à la tribune. La procédure ne l’exigeait pas, mais l’absence d’un acteur normatif majeur a empêché de confronter frontalement les propositions des laboratoires aux exigences juridiques en cours de mise en œuvre. Ce décalage illustre la difficulté chronique d’une puissance régulatrice à peser quand elle ne maîtrise pas l’ensemble des maillons technologiques stratégiques.
Fin de la « course » inéluctable ? Les propositions Bengio–Altman–Amodei et l’angle Hugging Face
Face à la logique d’escalade, Yoshua Bengio a rejeté l’argument d’une compétition naturelle qui contraindrait tous les laboratoires : la « course » relève de choix d’acteurs et peut être ralentie, à condition de mettre en place des évaluations indépendantes, des régimes d’autorisation pour les systèmes les plus avancés et une responsabilité juridique des développeurs. Sam Altman a assuré qu’OpenAI a déjà temporisé certains travaux et propose des normes communes de mesure et de signalement qui ne devraient pas « figer » la position des leaders. Dario Amodei a poussé plus loin : accueillir des évaluateurs externes chez Anthropic, à la manière d’« inspecteurs sanitaires » dotés d’un accès substantiel. Reste le nœud politique : qui les nomme, jusqu’à quelles données accèdent-ils et quelle autorité rend leurs avis opposables ?
Clément Delangue a déplacé le débat vers l’éthique de l’ouverture. Après une attaque subie cet été par des agents d’IA sur l’infrastructure de Hugging Face, il a souligné que la défense avait également mobilisé des modèles ouverts, là où certaines protections propriétaires freinaient l’intervention. La controverse touche le cœur opérationnel : entre transparence utile aux défenseurs et risques de mésusage, comment calibrer l’accès pour renforcer – plutôt qu’affaiblir – la sécurité collective ?
Ce segment a installé la ligne de faille essentielle : sans capacité d’audit vérifiable, ni délai de test avant déploiement, les engagements volontaires restent difficilement crédibles. Les prochains échanges ont donc porté sur l’architecture de contrôle que les États veulent réellement imposer.
Souveraineté, gouvernance et sécurité : les lignes de fracture entre États au Conseil de sécurité
La France a plaidé pour un cadre véritablement international, quand le Danemark a insisté sur une gouvernance mondiale et une supervision des très grandes plateformes. La Lettonie a proposé un groupe informel d’experts pour approfondir les travaux. À l’inverse, la Grèce a rappelé que le Conseil examine d’abord les conséquences pour la paix et la sécurité – sans se substituer aux organes techniques. Le Royaume-Uni a tranché : les gouvernements ne peuvent déléguer à des entreprises privées leur devoir premier de protection des citoyens et doivent obtenir une visibilité opérationnelle sur les activités des développeurs.
Washington a balisé le périmètre : coopération oui, mais sans « gouvernance mondiale » contraignante – chaque pays fixant la loi pour ses ressortissants. Le Pakistan a, de son côté, mis en garde contre un ralentissement devenu filtre d’accès pour les nouveaux entrants, pendant que la République démocratique du Congo rappelait l’injustice d’une technologie concentrée où l’infrastructure et la puissance de calcul échappent aux pays en développement. Plusieurs médias ont détaillé ces positions, de France 24 à RFI, tandis que d’autres analyses décrivent l’appel pressant à des garde-fous.
En toile de fond, une réalité s’impose : sans un socle commun de vérifications partagées, les stratégies nationales risquent d’aboutir à des îlots réglementaires, sources d’arbitrage réglementaire et de vulnérabilités transfrontalières. La sécurité collective exige des passerelles opérationnelles, pas seulement des déclarations.
Les absents, les angles morts et la bataille du droit de vérifier
La configuration de la tribune a laissé de côté des acteurs structurants : laboratoires chinois, Mistral AI, autres grands développeurs américains, fournisseurs de calcul, organisations de la société civile. Cette absence n’invalide pas les témoignages, mais limite le spectre des solutions discutées. Plusieurs observateurs notent d’ailleurs la dimension d’influence, inévitable lorsque les géants de l’IA s’adressent aux diplomates.
Au-delà du casting, tout converge vers un enjeu unique : qui aura le droit – et les moyens – de vérifier concrètement ce que font les modèles les plus avancés ? Pour un opérateur d’infrastructures critiques fictif, « Euronet Grid », qui déploie des agents d’IA pour équilibrer son réseau électrique, la différence entre un audit superficiel et un audit en profondeur se mesure en mégawatts perdus ou en cybersécurité compromise. Sans accès aux poids, journaux d’incidents et protocoles de test, la conformité devient théorique.
- Évaluations indépendantes et opposables des capacités dangereuses (manipulation, autonomie non prévue, contournement de garde-fous).
- Déclaration obligatoire d’incidents et partage sécurisés des jeux de test d’attaque/défense entre autorités et chercheurs qualifiés.
- Accès encadré aux modèles pour des « inspecteurs » agréés, avec traçabilité et journalisation fine des requêtes.
- Registre de calcul pour les très grands entraînements, afin de suivre qui entraîne quoi, où et avec quelles garanties.
- Capacité d’interdiction ciblée de déploiements critiques si les garanties minimales ne sont pas réunies.
Ces instruments, déjà débattus dans les enceintes multilatérales, gagneraient en crédibilité s’ils s’articulaient avec les régimes nationaux existants et avec des mécanismes d’entraide entre régulateurs. Sans quoi, l’étalon restera le volontariat des entreprises – trop variable pour sécuriser un écosystème à forte interdépendance.
Dernier point critique, souvent négligé : l’alignement entre objectifs commerciaux et nécessité de ralentir à certains seuils. Des dirigeants ont reconnu à l’agenda onusien que la promesse d’« aller vite et réparer plus tard » n’est plus tenable pour des systèmes qui interfacent désormais avec la sécurité, la finance et la santé. Faute d’un « droit de vérifier » robuste, la courbe d’apprentissage collective restera dangereusement plate.
De la parole aux mécanismes : régulation praticable et responsabilité vérifiable
Il ressort de cette réunion que les États ont besoin des entreprises pour comprendre les systèmes qu’ils entendent encadrer, mais les entreprises ont besoin des États pour légitimer et harmoniser les tests qui feront foi. D’où l’importance d’un langage commun : seuils de risques, périmètres d’audit, normes de journalisation, et procédures d’arrêt d’urgence. Les annonces publiques gagneront à être reliées à des métriques concrètes, à l’image d’un indicateur de « danger opérationnel » déclenchant automatiquement des garde-fous supplémentaires.
Pour « Euronet Grid », comme pour des hôpitaux, banques ou opérateurs publics, la fin du flou passe par des contrats où les engagements de sécurité sont mesurables et sanctionnables. Les sessions du Conseil ont rappelé qu’une gouvernance crédible ne se résume pas à des principes : elle se prouve par des audits qui mordent, des sanctions applicables et des incitations qui réorientent l’investissement privé. La prochaine étape se jouera à l’interface entre normalisation technique, régulation juridique et réalités industrielles – là où se décident, concrètement, les règles du jeu.
Journaliste spécialisée en énergie et industrie, je décrypte depuis plus de quinze ans les évolutions des marchés énergétiques et les innovations industrielles. Mon parcours m’a conduite à collaborer avec des publications de renom, où j’ai analysé les défis liés à la transition énergétique et aux politiques industrielles.
