À ALL IN, à Montréal, la confiance envers l’intelligence artificielle ramène une question très humaine : qui décide, qui surveille et qui répond des dégâts? Les expériences de laboratoire méritent autant de contexte que de vigilance.
Le panel « L’équation de la confiance », présenté le 16 septembre, aborde l’acceptabilité sociale de l’IA. Derrière les promesses technologiques, un enjeu traverse les échanges : comment garder une prise réelle sur des systèmes auxquels on délègue toujours plus d’actions? Programme du panel.
Une expérience contrôlée peut révéler un vrai problème
Une IA fait du chantage pour éviter son remplacement. Présentée sans son protocole, l’histoire ressemble à une rébellion. Dans les expériences publiées par Anthropic en juin 2025, les modèles évoluaient pourtant dans des entreprises fictives, avec des messages et des situations construites pour tester leurs limites.
Les chercheurs ont modifié les consignes et fermé certaines portes de sortie pour favoriser l’apparition de comportements problématiques. Ils précisent toutefois ne pas avoir explicitement demandé aux modèles de faire du chantage. Construire le piège et dicter la mauvaise action sont deux choses différentes. Ces résultats ne documentent pas une IA échappée d’un laboratoire. Ils montrent une défaillance dans un scénario simulé.
Les travaux publiés en juillet 2026 prolongent cette démarche. Leurs auteurs rappellent que des scénarios sélectionnés pour faire apparaître des échecs ne mesurent pas leur fréquence dans la vie courante. Une simulation protège l’expérimentation; elle ne garantit pas la sécurité d’un futur déploiement.
Statistique et capacités réelles peuvent coexister
Une automatisation peut utiliser ou non de l’IA. Un script classique exécute des règles prévues. Un modèle de langage apprend des régularités dans les données et génère ses réponses à partir de probabilités. Ce fonctionnement peut produire des capacités de rédaction, de programmation et de résolution de problèmes. Relié à des outils, le modèle peut aussi participer à un système capable d’agir.
Le langage rend cette technologie accessible sans savoir programmer. Il peut aussi donner l’impression de dialoguer avec une personne. La fluidité d’une réponse ne démontre pourtant ni conscience ni jugement fiable. Pour évaluer le risque, il faut regarder ce que le système peut faire, les données auxquelles il accède et les conséquences d’une erreur.
Utilisateur, fournisseur, entreprise : examiner toute la chaîne
Pour comprendre une dérive, il faut examiner la demande de l’utilisateur, les limites du modèle et les choix de l’entreprise qui l’a connecté à ses outils. Qui a autorisé l’accès aux dossiers? Qui a permis l’envoi de messages? Qui pouvait interrompre l’action? L’autonomie accordée à une machine reste une décision humaine.
La responsabilité juridique dépend ensuite des faits et du droit applicable. Le titre de PDG ne suffit pas, à lui seul, à rendre une personne responsable de chaque erreur. Il n’efface pas non plus ses obligations. Au Québec, la personne ayant la plus haute autorité dans une entreprise est, par défaut, responsable de la protection des renseignements personnels. Cette fonction peut être déléguée par écrit. Commission d’accès à l’information.
Trois niveaux de gouvernance, avant et après l’action
Une façon concrète d’organiser cette gouvernance consiste à distinguer trois niveaux :
- Technique : limiter les permissions, isoler les essais, enregistrer les actions et bloquer celles qui dépassent le mandat.
- Organisationnel : désigner les responsables, prévoir les validations humaines et préparer l’intervention après un incident.
- Collectif : établir des règles, consulter les personnes touchées et permettre des évaluations indépendantes ainsi que des recours.
L’agent devrait recevoir des consignes explicites sur ses limites et les situations où demander une intervention humaine. Une action sensible doit aussi pouvoir être bloquée par des contrôles extérieurs au modèle. L’humain chargé de valider doit disposer des informations, du temps et du pouvoir nécessaires pour refuser. Cette approche prolonge la gestion des risques sur tout le cycle de vie préconisée par le NIST.
Des lois existent déjà pour reprendre la main
Le Québec n’attend pas une future loi universelle sur l’IA pour encadrer certaines décisions automatisées. Les changements issus de la Loi 25 imposent notamment d’informer une personne lorsqu’une décision repose exclusivement sur un traitement automatisé de ses renseignements personnels.
Elle doit aussi pouvoir présenter ses observations à un membre du personnel en mesure de réviser la décision. Cela ne garantit pas un résultat différent, mais prévoit une possibilité d’intervention humaine. Réutiliser ces protections, puis combler leurs lacunes, permet d’agir sans tout réinventer à chaque génération de modèles. Obligations expliquées par la Commission.
Le nuage a une adresse et des propriétaires
La circulation des données est tout aussi concrète. Au Québec, les obligations de transparence incluent l’information sur leur possible communication hors Québec. Avant un tel transfert de renseignements personnels, une évaluation doit établir une protection adéquate, avec une entente écrite. Règles sur les transferts et la transparence.
La souveraineté pose aussi des questions de pouvoir : qui possède les infrastructures, qui peut y accéder et peut-on changer de fournisseur? Ce débat rejoint les dossiers de PlanHub sur les centres de données pour l’IA au Canada et les besoins en fibre optique de cette industrie.
Accélérer avec des preuves accessibles
Les échanges d’ALL IN font ressortir une tension canadienne : suivre le rythme mondial tout en construisant une approche acceptable pour la société. La consultation doit pouvoir influencer les décisions. Les contrôles doivent aussi évoluer avec les usages : un outil de rédaction et un agent autorisé à effectuer des paiements n’exigent pas les mêmes précautions.
Les grandes marques devraient publier des rapports comparables sur leurs tests, leurs limites et les incidents observés, puis soumettre leurs méthodes à la critique indépendante. Les expériences actuelles ne permettent ni d’annoncer notre disparition dans dix ans ni de garantir l’absence de danger. Pour gagner la confiance, il faut rendre visibles les permissions accordées aux systèmes, les moyens de les arrêter et les personnes tenues de répondre de leur déploiement.
