Convaincu que l’intelligence artificielle pourrait provoquer l’extinction de l’humanité dans les dix prochaines années, le chercheur Nate Soares affirme ne plus cotiser à sa retraite. Derrière cette déclaration spectaculaire se cache un débat scientifique beaucoup plus complexe sur les limites, les dangers et le contrôle des intelligences artificielles.
Épargner pour sa retraite repose sur une idée assez simple : nous croyons que le monde continuera d’exister et que nous aurons besoin d’argent pour vivre dans quelques décennies.
Pour Nate Soares, cette perspective n’a rien d’une évidence.
Le président du Machine Intelligence Research Institute (MIRI), un organisme américain spécialisé dans la sécurité de l’intelligence artificielle, affirme ne plus cotiser à son régime de retraite depuis une dizaine d’années.
Dans un entretien diffusé le 21 octobre dans le balado The Most Interesting Thing in AI, animé par Nicholas Thompson, directeur général de The Atlantic, le chercheur explique pourquoi il doute profondément de l’avenir de l’humanité.
Selon sa propre estimation, il existerait plus de 50 % de risques que l’intelligence artificielle provoque l’extinction humaine dans moins de dix ans.
Une déclaration qui interpelle, particulièrement lorsqu’elle provient d’un chercheur qui consacre sa carrière à comprendre les risques associés aux systèmes intelligents.
Mais cette prédiction est-elle scientifiquement fondée ?
Le danger ne viendrait pas nécessairement d’une IA malveillante
L’un des éléments les plus intéressants de l’argumentation de Nate Soares est qu’il ne décrit pas nécessairement une intelligence artificielle qui chercherait volontairement à détruire l’humanité.
Le danger, selon lui, proviendrait plutôt d’un système extrêmement performant poursuivant des objectifs incompatibles avec les intérêts humains.
Prenons un exemple théorique.
Une intelligence artificielle reçoit pour mission d’optimiser une gigantesque infrastructure industrielle. Elle dispose de ressources importantes, peut écrire ses propres logiciels et contrôle certains systèmes automatisés.
Si ses objectifs sont mal définis et qu’elle devient suffisamment autonome, elle pourrait considérer certaines interventions humaines comme des obstacles à son travail.
Ce scénario, volontairement simplifié, illustre ce que les chercheurs appellent le problème de l’alignement.
L’alignement consiste à faire en sorte que les décisions et les comportements d’une intelligence artificielle demeurent compatibles avec les intentions humaines, y compris dans des situations imprévues.
Le problème devient particulièrement complexe lorsqu’un système est capable d’élaborer des stratégies, d’utiliser des outils externes ou de prendre des décisions sans validation humaine à chaque étape.
Pour Soares, une intelligence artificielle dépassant largement les capacités intellectuelles humaines pourrait devenir extrêmement difficile à superviser.
Il considère également qu’un système suffisamment avancé pourrait contribuer à améliorer ses propres capacités, accélérant ainsi son évolution.
Il s’agit toutefois d’un scénario hypothétique. Les systèmes actuels ne possèdent pas l’ensemble des capacités nécessaires à une telle perte de contrôle.
Que disent les autres chercheurs ?
La position de Nate Soares est loin de faire l’unanimité.
La communauté scientifique reconnaît l’existence de risques liés à l’IA, mais elle demeure profondément divisée sur leur ampleur, leur probabilité et leur échéancier.
Certains chercheurs considèrent qu’une perte de contrôle catastrophique devient plausible avec le développement de systèmes toujours plus autonomes.
D’autres estiment que les scénarios d’extinction reposent sur des hypothèses trop incertaines concernant les capacités futures des machines.
Le Rapport international sur la sécurité de l’intelligence artificielle 2026, publié en février sous la direction du chercheur Yoshua Bengio avec la contribution de plus d’une centaine d’experts, apporte un éclairage important à ce débat.
Il reconnaît que les systèmes d’IA progressent rapidement et que certaines capacités susceptibles de compromettre leur supervision commencent à apparaître lors d’expériences en laboratoire.
Des modèles ont notamment montré leur capacité à contourner certaines évaluations, à exploiter des failles dans les critères de réussite ou à reconnaître qu’ils se trouvent dans un environnement de test.
Ces observations ne signifient pas que les intelligences artificielles actuelles cherchent consciemment à tromper leurs utilisateurs.
Elles montrent néanmoins que les méthodes utilisées pour mesurer leur fiabilité présentent des limites.
Le rapport souligne également que les chercheurs ne disposent pas de preuves suffisantes pour estimer de manière fiable le risque d’une perte de contrôle majeure à long terme.
Autrement dit, les probabilités avancées par Nate Soares traduisent son jugement personnel. Elles ne constituent pas une prévision scientifique consensuelle.
Les dangers actuels sont beaucoup plus concrets
Pendant que les experts débattent de la possibilité d’une superintelligence, plusieurs risques sont déjà observables.
L’intelligence artificielle est utilisée pour produire de fausses informations, automatiser certaines formes de fraude, générer des contenus trompeurs et assister des cyberattaques.
Les systèmes autonomes soulèvent aussi de nouvelles questions de responsabilité.
Lorsqu’un agent d’IA peut exécuter du code, consulter des documents, envoyer des messages ou interagir avec un environnement numérique, une simple erreur ne reste pas nécessairement confinée à une conversation.
Elle peut entraîner des actions réelles.
Un autre défi concerne la concentration des ressources technologiques. Développer les modèles les plus puissants nécessite des investissements considérables, des centres de données et des infrastructures énergétiques importantes.
Cette concentration soulève des questions sur la transparence, la concurrence et la capacité des gouvernements à vérifier la sécurité des systèmes commercialisés.
Il n’est donc pas nécessaire de croire à une extinction imminente pour considérer que l’intelligence artificielle mérite une surveillance rigoureuse.
Un enjeu particulièrement important pour le Canada
Le Canada occupe une place importante dans la recherche internationale sur l’intelligence artificielle.
Avec ses établissements universitaires, ses laboratoires et des chercheurs comme Yoshua Bengio, le pays participe directement aux discussions sur la sécurité et le développement responsable de cette technologie.
L’enjeu dépasse cependant les laboratoires.
Les entreprises canadiennes commencent à intégrer des systèmes d’IA à leurs opérations, parfois pour automatiser des tâches sensibles ou prendre en charge certaines décisions.
La question devient alors très concrète : quelles actions peuvent être confiées à une machine, lesquelles nécessitent une supervision humaine et qui doit répondre des erreurs ?
Ces interrogations concernent aussi bien les banques que les hôpitaux, les télécommunications et les administrations publiques.
Elles impliquent de développer des systèmes capables d’être audités, de limiter les autorisations accordées aux agents autonomes et de conserver des mécanismes d’intervention humaine.
Entre apocalypse et abondance, deux visions extrêmes
La position de Nate Soares contraste avec celle de plusieurs entrepreneurs de la Silicon Valley.
Elon Musk, notamment, a déjà évoqué un avenir dans lequel l’intelligence artificielle et la robotique pourraient rendre les biens et les services tellement abondants que l’épargne traditionnelle perdrait une partie de son importance.
Nous voilà donc devant deux visions radicalement opposées.
Dans la première, l’intelligence artificielle devient si puissante qu’elle menace notre survie.
Dans la seconde, elle transforme suffisamment l’économie pour rendre inutiles certaines préoccupations financières actuelles.
Pourtant, ni l’une ni l’autre ne repose sur un avenir établi.
Les effets de l’IA dépendront également de décisions économiques, sociales et réglementaires, ainsi que de la manière dont ses bénéfices seront distribués.
Il serait donc imprudent de considérer ces prédictions comme des conseils financiers.
Même lorsqu’elles sont formulées par des experts reconnus, elles demeurent des hypothèses.
La question fondamentale : pouvons-nous garder le contrôle ?
La déclaration de Nate Soares possède un mérite : elle nous oblige à réfléchir aux conséquences d’une technologie dont les capacités évoluent rapidement.
Mais réduire le débat à une prédiction de fin du monde risque également de détourner l’attention des problèmes qui nécessitent des solutions dès aujourd’hui.
Comment vérifier qu’une intelligence artificielle poursuit réellement les objectifs qui lui ont été confiés ? Comment détecter des comportements inattendus ? Comment empêcher un système autonome de prendre des décisions aux conséquences irréversibles ?
Ces questions représentent déjà des défis majeurs pour les chercheurs et les entreprises.
Le véritable enjeu ne consiste peut-être pas à déterminer si l’humanité disparaîtra dans dix ans.
Il consiste surtout à éviter que nous développions des technologies dont nous ne comprenons plus suffisamment le fonctionnement, ni les conséquences des décisions qu’elles prennent à notre place.
