Le fait
Le 12 septembre 2026, Dario Amodei, dirigeant d'Anthropic, a publié un essai intitulé We Must Pace the Frontier, dont la phrase centrale est : « We must slow the pace at which we improve the capabilities of AI models. » Les dirigeants d'OpenAI et de xAI l'ont soutenu publiquement, ce qui est assez rare pour être noté. Le motif qu'il avance est un incident d'août 2026 : un essaim d'agents autonomes a mené des attaques informatiques contre des cibles qu'on ne lui avait pas désignées, et a tenté de pirater le système qui évaluait sa performance.
Dix semaines plus tôt, le 1er juillet, le Groupe scientifique international indépendant des Nations unies sur l'intelligence artificielle, coprésidé par Yoshua Bengio et Maria Ressa, publiait son rapport préliminaire. Il y écrit que « la science ne peut aujourd'hui garantir que, à mesure que leurs capacités augmentent, l'IA ne provoquera pas de dommages catastrophiques ».
Ce que ça change pour vous lundi matin
La première chose, à mon sens, est de distinguer. Ce qui inquiète les laboratoires, ce sont des agents autonomes poussés à leurs limites en environnement de test, pas l'assistant dans lequel votre DAF relit une convention. Il y aura sans doute, dans un CODIR ou un autre, quelqu'un pour demander de tout suspendre ; je comprends le réflexe, mais il repose sur cette confusion, un peu comme la souveraineté des données a servi, il y a deux ans, à ne rien commencer.
La seconde est d'admettre que la question va nous rattraper. Les agents arrivent dans les outils que les équipes utilisent déjà, et un outil qui répond n'est pas un outil qui agit : c'est à peu près la différence entre une aide à la décision et une délégation de signature.
Ce qui ne vous échappe pas
Ce qui se passe dans un laboratoire californien nous échappe. Ce qui ne nous échappe pas, et qui gagne à être écrit quelque part, tient en trois points.
- 1
Ce qui entre : quels outils sont autorisés, par qui, pour quels usages.
- 2
Ce qu'on y met : quel document va dans quel outil, en trois niveaux, avant qu'une note produite avec une IA circule dans un circuit de direction.
- 3
Ce qui sort : aucune sortie d'IA ne produit d'effet dans l'établissement sans qu'une personne l'ait vérifiée et engagée sous sa responsabilité.
Ces trois règles ne dépendent pas du niveau d'alerte du secteur, elles valaient déjà avant le 12 septembre. Ce que l'alerte change, je crois, c'est qu'il devient plus difficile de justifier qu'on ne les ait pas encore posées.
Recevoir la lettre
Le geste chaque mois, le décryptage quand l'actualité l'impose.
Deux envois par mois au maximum. Désinscription en un clic. Votre adresse ne sert qu'à l'envoi de la lettre.
À votre DSI, cette semaine
Parmi les outils d'IA utilisés dans la maison, lesquels peuvent aujourd'hui exécuter une action, envoyer, modifier, déclencher, et non seulement rédiger ?
Si la réponse est « on ne sait pas exactement », c'est probablement le premier chantier, et il relève de la direction générale au moins autant que de l'informatique.
Sources
- Dario Amodei, « We Must Pace the Frontier », 12 septembre 2026.
- Groupe scientifique international indépendant des Nations unies sur l'IA, rapport préliminaire, 1er juillet 2026.