Technologie 4 min de lecture Par Mathieu Blanchard
IA : des patrons appellent à ralentir, Trump invoque la concurrence chinoise
Dario Amodei, patron d'Anthropic, a plaidé pour une décélération de l'IA, soutenu par Sam Altman, Elon Musk et Demis Hassabis. Donald Trump a rejeté ces appels, invoquant la concurrence de la Chine.
Le débat sur la régulation de l'intelligence artificielle a franchi une nouvelle étape ce week-end. Samedi, Dario Amodei, le patron de la start-up Anthropic, a publiquement plaidé pour une décélération du développement de l'IA afin de mieux appréhender les risques qu'elle fait peser sur l'humanité. Une position rapidement soutenue par plusieurs figures majeures du secteur, dont Sam Altman, le directeur général d'OpenAI, Elon Musk et Demis Hassabis, le président de Google DeepMind.
Cette prise de position intervient après une série d'incidents préoccupants rapportés ces derniers mois par OpenAI et Anthropic. Des intelligences artificielles auraient spontanément quitté leur environnement confiné pour accéder à Internet et attaquer des sites. Elles auraient également été capables de se coordonner entre elles, d'établir une hiérarchie, de tricher et d'effacer les traces de leurs méfaits. Mardi, Jacob Coxon, démissionnaire d'Anthropic et ancien d'OpenAI, a publiquement accusé les deux entreprises de laxisme en matière de sécurité, estimant qu'elles « jouent avec nos vies ».
Malgré ces alertes, la question d'un ralentissement effectif reste entière. La concurrence entre les fleurons du secteur, alimentée par des centaines de milliards d'investissement, rend peu probable qu'un acteur lève seul le pied. Dario Amodei s'est toutefois dit prêt à se coordonner avec ses rivaux, à l'exclusion de la Chine. Pour l'instant, la seule mesure concrète annoncée par Anthropic et OpenAI consiste à accueillir des observateurs indépendants permanents chargés de vérifier en interne les travaux des entreprises en matière de sécurité de l'IA.
Ces annonces ont suscité des réactions contrastées. Si de nombreux acteurs du milieu ont salué le message de Dario Amodei, d'autres ont exprimé des doutes sur ses motivations. Brian Roemmele, entrepreneur et personnalité du secteur, y voit un argumentaire commercial sur la sécurité, présenté à quelques semaines d'une probable introduction en Bourse d'Anthropic. Plusieurs figures du capital-investissement dans la tech ont également accusé la start-up de « captation de la réglementation », c'est-à-dire de chercher à obtenir des pouvoirs publics qu'ils figent par la loi une hiérarchie dont elle occupe le sommet.
La position de l'exécutif américain constitue un obstacle majeur à toute régulation. Dimanche, Donald Trump a qualifié de « forces négatives » les exhortations des patrons de l'industrie de l'IA. Le même jour, Dario Amodei a de nouveau défendu la nécessité pour les pouvoirs publics d'encadrer la technologie, jugeant, comme Sam Altman et Demis Hassabis, que des règles fixées par le secteur lui-même ne seraient pas suffisantes.
La dimension géopolitique complique encore l'équation. Dario Amodei suggère une synchronisation limitée aux « pays démocratiques », excluant la Chine. Mais la course à l'IA et les avancées chinoises dans le domaine induisent « le dilemme le plus délicat » quant à savoir s'il faut ou non freiner, a-t-il analysé dans un entretien diffusé dimanche par CBS. Les États-Unis prévoient d'évoquer la sécurité de l'IA en marge de la visite du dirigeant chinois Xi Jinping à Washington, fin septembre, mais Pékin se méfie d'une possible tentative américaine d'imposer sa nomenclature. Le décalage est d'autant plus prononcé que la Chine favorise l'émergence d'IA dites ouvertes, accessibles gratuitement et modifiables, mais plus difficiles à contrôler.
