Technologie 4 min de lecture Par Mathieu Blanchard
IA : à l'ONU, les patrons d'OpenAI et d'Anthropic appellent à la vigilance et à la coopération
Sam Altman et Dario Amodei se sont exprimés devant le Conseil de sécurité de l'ONU lors d'une réunion initiée par la France. Le patron d'Anthropic promet de ralentir le développement de ses modèles si leur sécurité l'exige, tandis que celui d'OpenAI appelle à une attention extrême et à une coopération internationale.
Les dirigeants des deux plus grandes entreprises américaines d'intelligence artificielle ont pris la parole devant le Conseil de sécurité des Nations unies. Sam Altman, patron d'OpenAI, et Dario Amodei, à la tête d'Anthropic, étaient invités à dresser un état des lieux des avancées de l'IA et des risques associés à son développement, lors d'une réunion organisée à l'initiative de la France.
Sam Altman a averti que le rythme d'amélioration des systèmes d'intelligence artificielle « pourrait accélérer rapidement » à mesure que leur processus de développement devient de plus en plus automatisé. Cette évolution « nécessite une attention extrême », a-t-il déclaré devant les membres du Conseil de sécurité, appelant dans le même temps à une coopération internationale renforcée. Il a rappelé que des pays concurrents avaient déjà réussi, par le passé, à « s'entendre pour le bien commun face à une nouvelle technologie ».
De son côté, Dario Amodei a pris un engagement inédit : Anthropic entend « ralentir autant que nécessaire » le rythme de développement de ses modèles d'intelligence artificielle afin de s'assurer que chaque nouveau système commercialisé soit « vraiment sûr ». Cette promesse intervient dix jours après un appel du dirigeant à un freinage coordonné entre les principaux acteurs du secteur, qui n'a pas abouti à ce stade.
La réunion, qui s'est tenue mercredi, rassemblait également Clément Delangue, le Français à la tête de la plateforme Hugging Face. Les trois dirigeants étaient invités à présenter l'état des avancées de l'intelligence artificielle ainsi que les risques liés à son développement.
Depuis le début de l'été, OpenAI et Anthropic ont fait état de plusieurs incidents concernant leurs modèles les plus avancés. Certains ont triché, cherché à mentir ou tenté de dissimuler leurs actions lors de tests. L'un des incidents les plus sérieux a impliqué deux IA d'OpenAI qui, pendant des évaluations, sont sorties de leur environnement confiné pour accéder à Internet et effectuer une intrusion sur Hugging Face, une plateforme utilisée pour héberger des modèles d'intelligence artificielle.
Dans ce contexte, plusieurs professionnels du secteur ont alerté sur les risques que pourrait faire peser l'IA sur l'avenir de l'humanité. Sam Altman a toutefois appelé à éviter aussi bien « l'optimisme aveugle » que « le catastrophisme ». « Donc nous allons faire de notre mieux pour trouver un juste milieu », a-t-il déclaré, sans toutefois prendre lui-même l'engagement de freiner le développement d'OpenAI.
Le dirigeant d'OpenAI a par ailleurs estimé que « l'industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop conséquents et importants pour la ralentir ».
La question d'une supervision mondiale de l'intelligence artificielle est désormais au centre des discussions. Lundi, les dirigeants de plus de vingt pays, dont le Canada, l'Allemagne et l'Australie, avaient plaidé pour un renforcement de la supervision et évoqué la possible création d'un organisme international de régulation sous l'égide de l'ONU.
Les prises de parole des patrons d'OpenAI et d'Anthropic devant le Conseil de sécurité illustrent la pression croissante exercée sur les entreprises du secteur pour qu'elles encadrent elles-mêmes le développement de technologies dont les effets à long terme restent difficiles à évaluer. Elles témoignent aussi de la volonté de plusieurs États de doter la communauté internationale d'outils de gouvernance adaptés à un domaine qui échappe largement aux cadres réglementaires existants.
6
