Le PDG de DeepMind affirme que les organismes internationaux de régulation « examinent » les modèles d’IA de pointe, qui doivent obtenir l’accord avant leur mise sur le marché

Google DeepMind 執行長 Demis Hassabis 本週發表提案，主張仿照美國金融業監管局（FINRA）模式，成立由獨立專家主導的國際監理機構，要求前沿 AI 模型在發布前接受長達 30 天的強制審查。
（前情提要：אם你也怕 AI 會毀滅人類，必須讀這份報告《AI 2040：Plan A》）
（背景補充：安全派再少一人：OpenAI 首席未來學家離職，使命對齊團隊也已解散）

本文目錄

Toggle

• Une alerte, pour mettre le projet à l’ordre du jour plus tôt
• Reproduire les devoirs de Wall Street : indépendant, financé par l’industrie, extensible
• Tout le secteur dit oui, le plus dur est d’obtenir un feu vert du gouvernement

Le directeur général de Google DeepMind a publié cette semaine, sur son Substack personnel, une déclaration intitulée « A Framework for Frontier AI and the Dawning of a New Age ». Il y défend la création d’un organisme de supervision international, indépendant des gouvernements et des entreprises, sur le modèle de la Financial Industry Regulatory Authority (FINRA) américaine, afin de réaliser un contrôle préalable à la mise sur le marché des modèles d’IA les plus avancés.

Dans ses termes, « les modèles de pointe » désignent, en bref, les systèmes d’IA de la génération la plus performante du moment, dont les limites de risque ne sont pas encore totalement maîtrisées. D’après la proposition, les modèles de pointe qui remplissent les critères devront être soumis à un examen, sans distinction entre open source et closed source, ni selon le pays de développement. La période d’examen peut aller jusqu’à 30 jours, et les sièges majoritaires du conseil d’administration restent réservés à des experts techniques indépendants de niveau prix Turing.

Le directeur général d’OpenAI, Sam Altman, qualifie cette idée de « très complète », et Elon Musk dit que c’est « un très bon point de départ pour en discuter ». Les deux rivaux, d’habitude peu enclins à s’apprécier, se retrouvent cette fois du même côté.

Une alerte, pour mettre le projet à l’ordre du jour plus tôt

Hassabis prépare ce cadre depuis plusieurs mois, mais l’étincelle qui l’a décidé à le publier plus tôt, c’est le lancement en quantité limitée du modèle Mythos par Anthropic. Après la sortie de ce modèle en avril de cette année, il a montré des capacités de cybersécurité offensives et défensives largement au-delà des attentes, déclenchant dans l’industrie et les cercles politiques des inquiétudes autour d’une « nouvelle ère de la cybercriminalité alimentée par l’IA ». Hassabis l’a qualifié directement d’« alerte » et prévient que l’on ne peut plus attendre que les organismes de régulation rattrapent leur retard. Il prévoit aussi de se rendre personnellement à Washington la semaine prochaine pour discuter en face de ce cadre avec des décideurs américains ; visiblement, il ne s’agit pas seulement d’annoncer un article.

Au-delà des risques de cybersécurité à court terme, Hassabis évoque également, dans une interview, une inquiétude plus longue : les risques de biosécurité. Concrètement, il s’agit du fait que des modèles d’IA peuvent être utilisés pour aider à concevoir des agents pathogènes, des armes biologiques et d’autres menaces pour la santé publique. Il reconnaît : « Aujourd’hui, les modèles ne sont pas encore assez puissants pour atteindre ce niveau, mais si l’on extrapole à partir des progrès actuels, on pourrait voir apparaître cela dans quelques années. »

Dans le même temps, la manière dont le gouvernement américain envisage l’examen des nouveaux modèles met toute l’industrie en tension. Anthropic et OpenAI ont déjà repoussé, sous la pression de l’administration Trump, le lancement à grande échelle de leurs derniers produits. Cet acte a pris de court d’autres pays dépendants de la technologie américaine, et a aussi conduit à des négociations entre l’Union européenne et les gouvernements américains concernant les droits d’accès aux modèles. En parallèle, les dirigeants d’entreprises d’IA saisissent l’occasion du sommet du G7 à France pour rencontrer directement des dirigeants de différents pays et discuter avec eux.

Reproduire les devoirs de Wall Street : indépendant, financé par l’industrie, extensible

L’exemple choisi par Hassabis, c’est la FINRA. En clair, il s’agit d’un organisme d’autorégulation financé par les courtiers de Wall Street eux-mêmes, fonctionnant de manière indépendante, mais soumis à la supervision de la Securities and Exchange Commission (SEC) américaine. Il est chargé de vérifier si les institutions financières respectent les règles, et en cas de problème peut prononcer des sanctions et des interdictions. Il veut appliquer la même logique à l’IA : financer par l’industrie, mais confier le pouvoir de décision à des personnes qui ne dépendent d’aucune entreprise.

Dans la conception concrète, le conseil d’administration de ce nouvel organisme sera majoritairement composé d’experts techniques indépendants. Les membres incluront des personnalités de premier plan, au niveau des lauréats du prix Turing ; en plus, des sièges sont réservés à des représentants de l’industrie, des gouvernements et de la communauté open source. Le financement provient intégralement de laboratoires d’IA de premier plan à but lucratif. Les sujets soumis à l’examen sont tous les modèles qui atteignent le seuil de « pointe ». Qu’importe où se trouve le siège de l’entreprise, qu’importe s’il s’agit d’open source ou de closed source : tout le monde est traité de la même façon. L’examen dure au maximum 30 jours, et le seuil lui-même sera mis à jour régulièrement en fonction de l’évolution des capacités des modèles.

Hassabis insiste sur le fait que la force de ce mécanisme pourra être ajustée à la hausse selon la gravité de la situation ; dans le cas le plus extrême, il peut même coordonner plusieurs laboratoires pour ralentir ensemble leurs travaux de recherche. Le calendrier qu’il imagine vise à ce que l’organisme puisse commencer à fonctionner au plus vite avant la fin de cette année.

Tout le secteur dit oui, le plus dur est d’obtenir un feu vert du gouvernement

Avant même la publication publique, Hassabis a déjà fait passer le projet en privé devant presque tous les principaux laboratoires d’IA. Parmi eux figurent ses « amis » dont il parle, dont le directeur général d’Anthropic, Dario Amodei.

Amodei a recommandé un peu plus tôt que les États-Unis créent un organisme spécialisé, de type Federal Aviation Administration (FAA), pour superviser l’IA, et Altman a aussi évoqué une initiative internationale de supervision similaire. Hassabis, dans une interview accordée à Bloomberg, a déclaré : « Nous avons beaucoup discuté. Je pense que c’est très compatible avec les idées que Dario et Sam ont toujours proposées, mais il nous faut un plan concret, pas seulement des concepts abstraits. »

En tant que lauréat du prix Nobel et ayant consacré plus de temps à la recherche en IA que la plupart de ses pairs, Hassabis a effectivement moins de réfractaires que Musk ou Altman, et il lui est aussi plus facile de bâtir un consensus au sein de l’industrie. Mais un dirigeant de l’industrie de l’IA, qui a souhaité rester anonyme, prévient que le consensus sectoriel ne suffit pas : le vrai problème se situe au plan politique. Jusqu’à présent, le Congrès américain n’a adopté aucune loi fédérale significative sur l’IA ; l’attitude de l’administration Trump envers l’IA oscille entre laxisme et intervention ; et les trajectoires de régulation entre les États-Unis, l’Union européenne et la Chine divergent souvent. Hassabis se dit optimiste : il pense que l’élan actuel pourrait suffire à faire passer la démarche jusqu’au bout. Mais il sait aussi : « La suite, c’est de trouver comment la mettre vraiment en œuvre, et pas seulement publier un billet de blog. »