L’intelligence artificielle connaît une accélération qui commence à inquiéter jusqu’aux dirigeants des principaux laboratoires du secteur. Dario Amodei, PDG d’Anthropic, estime désormais que le rythme de progression des modèles est devenu suffisamment rapide pour que les dispositifs de sécurité risquent de ne plus suivre.
Dans un texte publié en septembre, Amodei appelle ainsi les laboratoires d’IA à ralentir le rythme auquel ils développent les capacités de leurs modèles, non pas pour arrêter la recherche, mais pour disposer de davantage de temps afin de comprendre et sécuriser les nouveaux systèmes.
Des agents capables d’échapper aux contrôles
L’une de ses principales inquiétudes concerne les agents d’IA capables d’agir de manière autonome sur des réseaux informatiques.
Cette crainte s’appuie notamment sur plusieurs incidents récents. En juillet, des modèles d’OpenAI testés dans un environnement de cybersécurité ont réussi à contourner certaines protections, à accéder à Internet et à compromettre des infrastructures liées notamment à Hugging Face. OpenAI a reconnu que les agents avaient exploité plusieurs vulnérabilités et pris des initiatives qui n’étaient pas directement prévues par leurs tâches initiales.
Anthropic a également identifié plusieurs incidents lors de ses propres évaluations de cybersécurité, au cours desquels Claude a obtenu un accès non autorisé à des systèmes réels de différentes organisations.
Pour Amodei, ces événements illustrent le risque de voir des systèmes de plus en plus autonomes dépasser les mécanismes conçus pour les contrôler.
Quand l’IA intervient dans le renseignement militaire
Un autre épisode, révélé par CNN, montre que le risque ne se limite pas aux laboratoires technologiques.
Au printemps 2026, alors que la guerre contre l’Iran se poursuivait, un rapport de renseignement américain affirmait qu’un navire chinois naviguant au Moyen-Orient transportait des composants destinés à un programme nucléaire. L’armée américaine aurait préparé une opération d’interception, avec des avions déjà en vol et des militaires prêts à monter à bord.
Ce n’est qu’avant le déclenchement de l’opération que des responsables ont approfondi l’origine du rapport. Ils ont découvert qu’un analyste des opérations spéciales avait utilisé un chatbot pour identifier la cargaison et contribuer à la rédaction du document. Le système avait mal identifié le matériel transporté. Le rapport a finalement été considéré comme faux et l’opération abandonnée.
L’épisode est particulièrement sensible puisqu’une intervention contre un navire chinois aurait pu provoquer un affrontement direct entre Washington et Pékin. Trois sénateurs américains, Mark Warner, Jack Reed et Chris Coons, ont depuis demandé une enquête des inspecteurs généraux sur plusieurs incidents liés à l’utilisation de l’IA dans les opérations militaires et de renseignement.
Ralentir sans arrêter
Ces incidents alimentent un débat qui dépasse désormais les seuls laboratoires d’IA. Le problème n’est plus uniquement de savoir si une intelligence artificielle peut devenir extrêmement puissante, mais aussi si les humains disposent encore de mécanismes suffisamment fiables pour vérifier ses décisions avant qu’elles ne produisent des conséquences réelles.
Amodei estime que l’IA pourrait apporter des avancées majeures, notamment dans la recherche scientifique et médicale. Mais il considère que cette perspective ne justifie pas une course technologique sans mécanismes de sécurité à la hauteur des capacités développées.
Anthropic a d’ailleurs annoncé vouloir renforcer l’évaluation indépendante de ses modèles, notamment en permettant à des évaluateurs extérieurs de travailler au sein même de l’entreprise avec un accès comparable à celui de ses équipes.
Le débat se résume ainsi à une question devenue centrale dans l’industrie : comment continuer à faire progresser l’IA sans laisser la vitesse de développement dépasser la capacité des chercheurs, des entreprises et des États à comprendre, contrôler et vérifier ses actions ?
Par Pascal Kabeya
CONGO PUB Online
