INTELLIGENCE ARTIFICIELLE : « Elles foncent droit vers une superintelligence auto-améliorante et jouent à la roulette russe avec nos vies », dixit Jacob Coxon

Le 9 septembre 2026, Jacob Coxon a annoncé sa démission d’Anthropic après avoir travaillé pendant trois ans sur le pré-entraînement des modèles d’intelligence artificielle, chez OpenAI puis chez Anthropic. Dans les publications accompagnant son départ, l’ancien chercheur a lancé une mise en garde sans détour : « Aucune des deux entreprises n’agit de manière responsable. Elles foncent droit vers une superintelligence auto-améliorante et jouent à la roulette russe avec nos vies. »

Ses autres propos ont élargi la portée de cette alerte. Coxon a évoqué la possibilité que les systèmes deviennent surhumains, acquièrent un pouvoir réel et des ressources, ou contribuent à des opérations capables de compromettre des infrastructures informatiques. Il a également rapporté que des personnes travaillant au développement de l’intelligence artificielle prenaient au sérieux la possibilité qu’elle menace l’humanité avant la fin de la décennie. Au-delà de la formule choc, son avertissement porte ainsi sur trois questions : la progression des capacités techniques, les difficultés à garantir le comportement des systèmes et les effets d’une compétition industrielle sur les conditions de sécurité. Ces déclarations doivent être examinées à la lumière de son expérience professionnelle, mais aussi de leurs limites. Avoir travaillé au sein de deux laboratoires importants donne à Coxon une connaissance directe de certains aspects du développement des modèles ; cela ne transforme pas pour autant toutes ses projections en faits établis. Pour mesurer la portée de son avertissement, il faut revenir sur l’évolution de l’intelligence artificielle, examiner les capacités effectivement démontrées et distinguer les risques documentés des scénarios encore incertains.

Des règles programmées aux modèles génératifs

L’intelligence artificielle n’est pas née avec ChatGPT. En 1950, le mathématicien britannique Alan Turing a publié un article sur la possibilité pour une machine de manifester un comportement assimilable à la pensée. En 1956, une rencontre scientifique organisée à Dartmouth, aux États-Unis, a contribué à structurer le domaine et à populariser l’expression « intelligence artificielle ». Les premières approches ont principalement reposé sur la logique, des règles explicites et des instructions définies par des humains. Dans les années 1970 et 1980, les systèmes experts ont permis de reproduire certaines décisions de spécialistes en appliquant des règles à des situations déterminées. Leur efficacité dépendait toutefois des connaissances intégrées par leurs concepteurs. Face à un cas imprévu, leur capacité d’adaptation demeurait limitée. Une transformation importante s’est ensuite opérée avec l’apprentissage automatique, ou machine learning. Les systèmes ont progressivement appris à identifier des régularités dans les données plutôt que de dépendre exclusivement de règles écrites une à une. L’apprentissage profond, ou deep learning, a prolongé cette évolution grâce à des réseaux de neurones artificiels capables de traiter des informations complexes. Cette progression a été favorisée par l’augmentation de la puissance de calcul, la disponibilité de données plus abondantes et l’amélioration des méthodes d’entraînement. En 2012, le système AlexNet a notamment marqué une étape importante dans la reconnaissance d’images. En 2017, la publication de l’article scientifique Attention Is All You Need a présenté l’architecture Transformer, devenue une base technique de nombreux grands modèles de langage. Entraînés sur de vastes ensembles de données, ces modèles ont appris à produire des séquences de texte à partir de régularités statistiques. Des phases supplémentaires d’entraînement ont ensuite amélioré leur capacité à suivre les instructions. Avec le lancement public de ChatGPT en novembre 2022, ces technologies sont devenues accessibles à une audience beaucoup plus large. La rédaction, la traduction, la synthèse documentaire et la génération de code ont pu être réalisées à partir de simples consignes en langage naturel. La rupture est donc réelle, mais elle ne signifie pas que les machines ont acquis une intelligence générale comparable à celle des humains. Un modèle peut produire une réponse convaincante sans disposer d’une compréhension complète du contexte, de l’intention ou des conséquences de ce qu’il avance. Cette distinction est indispensable pour évaluer les déclarations de Coxon sur l’apparition possible de systèmes « surhumains ».

Des capacités en progression, mais que recouvre la superintelligence ?

Les systèmes actuels peuvent traiter du texte, générer des images, écrire du code, résumer des documents et assister certaines activités scientifiques ou professionnelles. Certains sont également capables d’utiliser des outils informatiques et d’enchaîner plusieurs opérations. Toutefois, leurs résultats demeurent variables : ils peuvent inventer des références, produire des informations fausses avec assurance ou échouer lorsqu’une tâche exige une succession d’actions fiables. Le Rapport international sur la sécurité de l’IA 2025, publié en janvier 2025 avec la contribution de plus de cent experts, a décrit l’étendue croissante des capacités des systèmes généralistes tout en soulignant les difficultés à les mesurer de façon uniforme. La performance dépend notamment de la tâche, des conditions d’évaluation et de la formulation des consignes. Réussir une tâche dans un environnement contrôlé ne garantit donc pas de pouvoir la réaliser systématiquement dans des conditions différentes. Les données économiques confirment néanmoins une accélération de la diffusion. Le rapport AI Index 2025 de l’université Stanford indique que le coût d’utilisation d’un modèle obtenant des résultats comparables à GPT-3.5 sur le test MMLU est passé d’environ 20 dollars par million de jetons en novembre 2022 à 0,07 dollar en octobre 2024, dans les conditions de comparaison retenues. Il estime également que la puissance de calcul utilisée pour entraîner les modèles notables a doublé approximativement tous les cinq mois. Enfin, près de 90 % des modèles d’IA notables recensés en 2024 provenaient de l’industrie, contre 60 % en 2023. Ces indicateurs permettent de mesurer la baisse de certains coûts et le poids croissant des entreprises privées. Ils ne prouvent cependant ni que toutes les capacités progressent au même rythme ni que l’apparition d’une superintelligence est imminente. Les estimations concernent les modèles étudiés, et le développement des systèmes les plus avancés continue de mobiliser des infrastructures, des puces spécialisées, de l’énergie et des investissements considérables. La question soulevée par Coxon exige ainsi de distinguer plusieurs niveaux. Un système peut être très performant dans une discipline, dépasser les résultats humains sur certaines tâches ou accomplir des opérations informatiques avec une supervision limitée sans pour autant être supérieur aux humains dans tous les domaines. La superintelligence désigne une hypothèse plus ambitieuse : celle d’un système dont les capacités intellectuelles dépasseraient largement celles des humains dans un grand nombre de domaines. L’expression « superintelligence auto-améliorante » va encore plus loin. Elle décrit un scénario dans lequel une IA contribuerait à améliorer ses propres capacités, par exemple en participant à la conception, à l’entraînement ou à l’évaluation de modèles ultérieurs. Des outils d’IA assistent déjà des travaux de programmation et de recherche en IA. En revanche, le fait que des modèles contribuent à ces travaux ne démontre pas qu’ils pourront enclencher une progression autonome, rapide et incontrôlable de leurs propres capacités. C’est précisément là que se situe l’une des principales incertitudes du débat : jusqu’où cette assistance peut-elle aller, à quelle vitesse les systèmes pourront-ils progresser et dans quelle mesure leurs comportements resteront-ils prévisibles ? Les connaissances disponibles ne permettent pas de fixer avec certitude le calendrier d’une éventuelle superintelligence. Elles ne permettent pas davantage d’exclure toutes les trajectoires envisagées par les chercheurs.

Des risques déjà observables aux scénarios redoutés

Dans ses publications, Coxon a évoqué des systèmes capables de dépasser les humains dans certains domaines, de pirater des infrastructures numériques ou d’acquérir du pouvoir et des ressources dans le monde réel. Il a aussi relayé l’inquiétude de personnes qui participent au développement de ces technologies et qui prennent au sérieux l’hypothèse d’une menace existentielle avant la fin de la décennie. Ces propos recouvrent des risques de nature différente. Les usages malveillants de l’IA générative sont déjà une préoccupation concrète : des outils peuvent faciliter la production de contenus trompeurs, certaines fraudes, l’usurpation d’identité ou la diffusion de désinformation. En cybersécurité, des systèmes peuvent aider à repérer des vulnérabilités, mais leurs capacités peuvent aussi être détournées pour assister des opérations malveillantes. Les effets dépendent notamment des capacités réelles du modèle, des protections disponibles et du niveau d’accès qui lui est accordé. La possibilité qu’un système informatique puisse effectuer plusieurs opérations ne signifie toutefois pas qu’il puisse prendre le contrôle de n’importe quelle infrastructure. Une telle affirmation nécessiterait des preuves portant sur des systèmes précis, dans des conditions documentées. De même, l’existence de risques liés aux usages malveillants ne suffit pas à établir la probabilité d’une catastrophe mondiale. Les scénarios les plus graves concernent notamment l’utilisation de l’IA pour faciliter certaines menaces biologiques ou la possibilité qu’un système très avancé échappe au contrôle de ses concepteurs. Leur examen est important en raison de la gravité des conséquences envisagées, mais leur probabilité, leur calendrier et les mécanismes précis qui pourraient y conduire demeurent incertains. Coxon place également au centre de son avertissement la difficulté de garantir le comportement des modèles, un problème souvent désigné par le terme « alignement ». Il s’agit de faire en sorte que les systèmes respectent les objectifs, les contraintes et les intentions définis par leurs concepteurs. Or, les performances observées ne suffisent pas toujours à expliquer comment un modèle produira ses réponses dans des situations nouvelles. Lorsqu’un système utilise des outils, enchaîne des opérations ou agit pendant une période prolongée, une erreur peut avoir des conséquences qui dépassent la réponse initiale. Cette difficulté technique ne prouve pas qu’une perte de contrôle est inévitable. Elle explique toutefois pourquoi certains chercheurs demandent des évaluations plus approfondies, des mécanismes de surveillance et des limites d’accès proportionnées aux risques. L’enjeu est de déterminer quelles garanties sont nécessaires avant de confier à des systèmes des tâches toujours plus complexes. La formule de Coxon sur la « roulette russe » exprime une appréciation particulièrement alarmante de la situation. Elle traduit sa crainte que le développement se poursuive alors que certaines conséquences demeurent mal maîtrisées. Mais une métaphore ne constitue pas une mesure du risque. Pour apprécier cette comparaison, il faut examiner les capacités démontrées, la fréquence et la gravité des défaillances observées, ainsi que la solidité des dispositifs de sécurité. L’inquiétude mérite d’être examinée ; son degré de justification doit, lui, être évalué à partir d’éléments vérifiables.

Une course industrielle et une responsabilité collective

L’autre volet des déclarations de Coxon concerne les entreprises qui développent ces modèles. La place dominante de l’industrie dans la production des systèmes les plus remarquables, relevée par Stanford, signifie que les décisions de quelques grands acteurs influencent fortement le rythme de commercialisation, les ressources consacrées à la recherche et les pratiques d’évaluation. La concurrence peut accélérer l’innovation, améliorer les performances et réduire les coûts. Elle peut également inciter les entreprises à publier rapidement leurs produits pour gagner des parts de marché ou conserver un avantage technologique. Il ne suffit cependant pas de constater l’existence de cette compétition pour conclure que tous les laboratoires négligent systématiquement la sécurité. Les procédures internes, les stratégies et les niveaux de risque acceptés peuvent varier. L’argument de Coxon met plutôt en lumière un problème de coordination : une entreprise qui ralentit pour approfondir ses évaluations peut craindre qu’un concurrent poursuive le développement et prenne l’avantage. La prudence d’un seul acteur ne garantit donc pas que l’ensemble du secteur adoptera la même démarche. Inversement, cette difficulté ne prouve pas que les laboratoires sont incapables de coopérer ou qu’ils renoncent nécessairement à leurs obligations de sécurité. C’est pourquoi les propositions de coordination entre entreprises, d’évaluations indépendantes et de règles communes occupent une place importante dans le débat. La question n’est pas seulement de savoir si les concepteurs veulent agir de manière responsable, mais aussi si les mécanismes existants permettent de vérifier leurs engagements et de limiter les incitations à accélérer sans garanties suffisantes. Les conséquences économiques de l’IA ajoutent une autre dimension à cette discussion. Dans une publication de juin 2025, l’Organisation de coopération et de développement économiques (OCDE) a examiné les recherches expérimentales sur les effets de l’IA générative en matière de productivité, d’innovation et d’entrepreneuriat. Elle a relevé que les résultats dépendent de la tâche, de l’expérience de l’utilisateur et de la manière dont les outils sont intégrés au travail humain. Les effets à long terme restent encore insuffisamment documentés. Il faut ainsi distinguer l’automatisation de certaines tâches de la disparition d’un métier. Un poste peut comporter des activités automatisables sans être supprimé dans son ensemble. À l’inverse, l’automatisation de plusieurs fonctions peut modifier les compétences recherchées, l’organisation du travail ou le nombre de personnes nécessaires. La répartition des gains de productivité entre les entreprises, les travailleurs et les consommateurs constitue également un enjeu important. Les données disponibles ne permettent pas de tirer une conclusion uniforme pour tous les secteurs et tous les pays. L’avertissement de Coxon se situe donc au croisement de plusieurs enjeux : le développement de capacités plus puissantes, la difficulté de garantir des comportements fiables et les incitations économiques qui influencent les décisions des laboratoires. Ces questions sont liées, mais elles ne se confondent pas. Les progrès techniques sont mesurables ; les effets économiques sont encore inégalement documentés ; la perspective d’une superintelligence incontrôlable demeure, quant à elle, un scénario incertain. L’histoire de l’IA a déjà montré que les méthodes de développement pouvaient changer profondément, des règles explicites aux systèmes apprenant à partir de données, puis aux modèles capables de générer du contenu et d’utiliser des outils. Chaque étape a élargi les possibilités d’application sans supprimer les limites techniques. La prochaine évolution pourrait prolonger cette trajectoire ou introduire des changements plus profonds. Les données actuelles ne permettent ni d’en fixer avec certitude le calendrier ni d’en déterminer toutes les conséquences. Les propos de Jacob Coxon mettent ainsi en évidence une tension réelle entre l’accélération technologique et les incertitudes qui l’accompagnent. Son expérience donne du poids à son témoignage, sans dispenser d’examiner ses affirmations. Les données de Stanford documentent la progression de certains indicateurs ; le rapport international sur la sécurité de l’IA décrit des capacités croissantes et des risques encore difficiles à évaluer ; les travaux de l’OCDE soulignent que les conséquences économiques dépendent des usages et du contexte.

Au terme de cette analyse, deux raccourcis doivent être évités : considérer la catastrophe annoncée comme certaine parce qu’un chercheur expérimenté la redoute, ou écarter les risques au motif que les scénarios les plus extrêmes ne sont pas démontrés. La solidité du débat dépend de la capacité à séparer les faits des projections, à rendre les évaluations vérifiables et à examiner les conditions dans lesquelles les systèmes sont développés et déployés. C’est à partir de ces éléments, plutôt que de la seule force d’une formule, que chacun peut apprécier la portée de l’avertissement.

Souvenir ZANNOU