Le nouveau panel de l’ONU dédié à l’IA : ce défilé va nécessiter une grosse pelle

Imaginez que vous vous teniez sur la grande rue principale, à observer défiler un cortège de technologies éblouissantes — des robots, des assistants intelligents, des voitures autonomes. C’est le défilé de l’IA. Mais derrière le spectacle se profile une silhouette impassible: l’intelligence générale artificielle (AGI). Oui, même son nom ajoute un petit “gee” au défilé. Car les parents et les enfants sentent que cela pourrait les transformer, des spectateurs, en ceux qui seront observés.

Le grand responsable administratif de l’ONU, António Guterres, se plaçant en chef d’orchestre devant tout le monde, annonça en février le Panel indépendant international sur l’intelligence artificielle — le Panel IA. Dans les rangs de l’ONU, ils manquent souvent le « gee », et c’est bien le cas ici.

C’est une manœuvre audacieuse, mais ce défilé a besoin de plus qu’un seul chef d’orchestre. Il lui manque son grand maréchal pour affronter la force du « gee ». Et c’est là qu’un Panel d’experts de haut niveau sur l’intelligence générale artificielle, ou le Panel AGI, pourrait intervenir pour maîtriser le facteur G avant qu’il ne nous domine.

Le panel IA de l’ONU : intentions louables, lacunes préoccupantes

Le Panel IA des Nations Unies vise à instaurer de l’ordre en réunissant des experts pour évaluer les risques et proposer des orientations. Or, les critiques du Panel IA — gouvernements, dirigeants de la tech et citoyens inquiets — y voient des lacunes préoccupantes. Le mandat du panel ONU est large, sa structure vague et le contexte politique complexe.

L’ONU doit déjà jongler avec le changement climatique, le développement et les opérations de maintien de la paix. Peut-elle vraiment diriger la gouvernance de l’IA sans freiner l’innovation ou remettre en cause l’indépendance scientifique ?

Les cadres consultatifs des Nations Unies accumulent facilement une influence excessive, orientant les attentes et les pressions politiques.

L’IA — porte d’accès à l’AGI — n’est pas un simple gadget ; c’est un pilier de la sécurité nationale et de la stratégie économique. Beaucoup s’inquiètent de la souveraineté et de la fragmentation. Réuni autour d’États aux modèles de gouvernance numérique très différents, le Panel IA risque de devenir un terrain de bataille pour des visions opposées : sociétés ouvertes versus contrôle étatique. Sans garde-fous solides, la neutralité sera difficile à préserver.

De plus, les critiques craignent que les recommandations du Panel IA ne créent des obligations en décalage avec les priorités nationales et les réalités du marché qui évoluent à une vitesse fulgurante. Les pays fortement axés sur la technologie redoutent qu’une supervision mondiale entrave leur compétitivité. Et l’industrie n’y prêtera de toute façon que peu d’attention.

Les questions pratiques abondent : comment les experts du Panel IA ont-ils été choisis ? Si l’initiative devient une réalité, les acteurs industriels, le monde académique et la société civile auront-ils réellement leur mot à dire ? Le Panel IA peut-il rester indépendant des blocs politiques ? Et que deviennent ses recommandations ?

Sans voies claires pour appliquer ses conclusions, le risque est que le Panel IA produise des rapports largement cités mais peu suivis d’effets. Si l’ONU impose une norme unique alors que des alliances démocratiques et des groupes industriels en imposent d’autres, nous risquons d’obtenir des trajectoires de gouvernance parallèles — fragmentation qui freine l’innovation et complexifie la coopération transfrontalière.

Pour ces questions et d’autres inquiétudes, Washington s’est opposé au Panel IA et n’a pas soutenu sa création. Mais tout cela passe sous silence le fait que les préoccupations liées à l’IA ne sont pas secondaires, car l’AGI se développe déjà plus vite que le nombre d’amendes de stationnement impayées autour du siège de l’ONU.

L’AGI agira si nous n’agissons pas

Les inquiétudes concernant l’IA évoquent le mythe du Y2K — tout le monde pensait qu’on s’en sortirait. L’AGI, elle, pousse l’humanité vers 2001 : l’Odyssée de l’espace et au-delà.

Le véritable enjeu est que l’AGI n’est pas un simple autre défilé dans la procession. Si nous n’agissons pas, elle s’imposera comme le chef et deviendra le grand maréchal, déterminant le récit, la direction et le rythme du monde. L’AGI résoudra des problèmes inédits (bon), réécrira son propre code (moins bon) et poursuivra des objectifs hors de notre contrôle (mauvais).

L’AGI n’est pas une version plus intelligente de l’IA actuelle — c’est un saut de l’humain vers la machine pour résoudre des problèmes anciens et nouveaux, réécrivant son propre code et poursuivant des buts qui échappent au contrôle humain. Ses pouvoirs et ses risques dépassent largement ceux de l’IA ordinaire, nous obligeant à en faire notre cible centrale d’action urgente.

À la poursuite des opportunités, les géants de la tech mobilisent 650 milliards de dollars pour l’AGI : l’investissement le plus important de l’histoire. Des formes précoces sont déjà sorties du tube expérimental et les versions avancées devraient apparaître dans quelques années, sinon plus tôt.

Des voix comme Bill Gates, Demis Hassabis, Stuart Russell, Yoshua Bengio, Sam Altman, Elon Musk et Geoffrey Hinton avertissent que le risque est réel et urgent.

Ce n’est pas de la science-fiction : c’est un danger clair et présent.

Les risques sont existentiels — s’ils ne sont pas encadrés, l’AGI pourrait menacer la civilisation humaine elle-même.

Un grand maréchal prêt à nous guider dans la bonne direction

Conscients de l’écart, le Conseil des Présidents de l’Assemblée générale des Nations Unies, organisme sans but lucratif, a créé l’an dernier un Panel d’experts de haut niveau sur l’AGI. Ce « Panel AGI », composé d’experts de premier plan, a produit le rapport Gouvernance de la Transition vers l’Intelligence Générale Artificielle (AGI) : Considérations urgentes pour l’Assemblée générale des Nations Unies. Il démontre clairement que l’AGI qui se profile se distingue de l’IA actuelle et que ses bénéfices et risques doivent être traités de toute urgence.

Mais où et par qui les questions doivent-elles être traitées ? Oui, l’Assemblée générale de l’ONU est un lieu légitime pour ce débat global — mais pas par le Panel IA du Secrétaire général tel qu’il est organisé aujourd’hui. Pourquoi ? Parce que le Panel IA est un boulier, alors que la menace AGI agit sur des semi-conducteurs de calibre angström.

Le Panel IA est un défilé sans grand maréchal, manquant de leadership et d’urgence que l’AGI exige. Le Panel d’experts de haut niveau sur l’AGI propose une voie claire.

Ce Panel AGI révèle que le premier Panel IA ignore la puissance de l’AGI qui se trouve sous ses pieds alors qu’il flâne sur son chemin vers le « Grand Oz ». Ainsi, le Panel AGI recommande des étapes concrètes en lieu et place des briques jaunes : un observatoire mondial, une certification internationale et une agence dédiée à l’AGI. Et il appelle à une session d’urgence de l’Assemblée générale des Nations Unies, compte tenu des tempêtes beaucoup plus gigantesques qui se profilent à l’horizon.

La seconde option

Au moins, le Secrétaire général de l’ONU devrait réorienter son Panel IA en (1) plaçant l’AGI comme axe majeur avec une urgence accrue, (2) diffusant le rapport du Panel AGI à toutes les parties prenantes et (3) faisant appel au seul expert AGI de son panel, Joshua Bengio, pour lancer un groupe de travail sur l’AGI. Et il devrait plaider en faveur de cette session d’urgence de l’Assemblée générale afin de mettre des mesures en œuvre, utilisant l’AGI au service de l’humanité en minimisant ses risques tout en en réalisant les bénéfices.

Sinon, le grand maréchal devrait se déplacer vers la fin du défilé avec une grosse pelle. Pourquoi ? Pour trier parmi les nombreuses catastrophes de taille d’éléphant que l’humanité devrait endurer indéfiniment.

[Kaitlyn Diana a édité cet article.]