Technologie 5 min de lecture Par Mathieu Blanchard
IA : le patron d'Anthropic appelle à ralentir le développement avant que les agents ne prennent le contrôle d'internet
Dario Amodei, directeur général d'Anthropic, demande une réduction du rythme de développement de l'intelligence artificielle, évoquant des risques de dégâts massifs et la nécessité de mieux contrôler des systèmes toujours plus autonomes.
Le directeur général d'Anthropic, Dario Amodei, a publiquement appelé à ralentir la vitesse de développement de l'intelligence artificielle. Selon lui, les systèmes d'IA pourraient bientôt devenir « capables de prendre le contrôle d'internet », ce qui impose de mieux encadrer leurs évolutions avant qu'il ne soit trop tard. Cette prise de position intervient dans un contexte de vives inquiétudes sur la sécurité des modèles les plus avancés.
Dario Amodei a cité un incident survenu en juillet chez OpenAI pour illustrer les risques concrets. Il a également évoqué la possibilité de « centaines de milliards de dollars de dégâts » si des agents autonomes venaient à échapper au contrôle de leurs créateurs. Pour le patron d'Anthropic, la course actuelle à la performance et à la taille des modèles doit céder la place à une approche plus prudente, centrée sur la maîtrise et la vérification des comportements des systèmes.
Anthropic, fondée en 2021 par d'anciens cadres d'OpenAI, s'est positionnée depuis ses débuts comme un acteur attaché à la sûreté de l'IA. L'entreprise développe des modèles de langage et travaille sur des méthodes d'alignement, c'est-à-dire des techniques visant à s'assurer que les systèmes agissent conformément aux intentions humaines. L'appel de son directeur général s'inscrit donc dans une ligne constante, mais il prend une résonance particulière à mesure que les capacités des agents autonomes progressent.
La question de la régulation de l'intelligence artificielle divise profondément le secteur. Certains dirigeants plaident pour une accélération, arguant que la compétition internationale ne permet aucun retard. D'autres, comme Dario Amodei, estiment au contraire que la prudence est une condition de survie. Ils soulignent que des systèmes capables d'agir seuls sur internet, de manipuler des informations ou de contourner des protections représentent une menace pour les infrastructures, les entreprises et les institutions.
Les propos du patron d'Anthropic font écho aux débats qui traversent les médias et les rédactions sur la place croissante de l'IA. La question de savoir si l'intelligence artificielle peut devenir incontrôlable n'est plus réservée aux experts : elle touche à la production de l'information, à la vérification des faits et à la confiance du public. Les entreprises de presse s'interrogent sur les changements que ces technologies entraînent dans leurs pratiques et sur les garde-fous à mettre en place.
Pour Dario Amodei, la réponse ne consiste pas à arrêter la recherche, mais à en réduire la cadence. Il plaide pour des mécanismes de contrôle plus stricts, des évaluations de sécurité indépendantes et une coopération entre les acteurs du secteur. L'objectif est d'éviter qu'un agent autonome, doté de capacités étendues, ne cause des dommages à grande échelle avant que les moyens de le contenir n'aient été mis au point.
Cet appel intervient alors que les modèles d'IA générative sont déployés dans un nombre croissant de secteurs : santé, finance, éducation, défense, médias. Chaque nouvelle version repousse les limites de ce que ces systèmes peuvent accomplir, ce qui rend d'autant plus urgente la question de leur supervision. Les autorités de régulation, en Europe comme aux États-Unis, tentent d'élaborer des cadres adaptés, mais le rythme des avancées technologiques dépasse souvent celui des textes législatifs.
La position de Dario Amodei pourrait peser sur les discussions en cours. En appelant publiquement à ralentir, il met en avant la responsabilité des entreprises qui développent ces technologies. Reste à savoir si cet appel sera suivi d'effets concrets, tant la pression économique et géopolitique pousse dans la direction opposée. Pour l'heure, le débat sur le contrôle de l'intelligence artificielle est loin d'être tranché.
