L’IA pourrait faire disparaître l’humanité d’ici 10 ans selon Bengio : il lance LoiZéro pour l’éviter
Par Chloé-Anne Touma, rédactrice en chef de LES CONNECTEURS | Publié le 4 juin 2025
« Nous sommes en train de produire des IA de plus en plus intelligentes », qui développent de plus en plus « leur propre volonté », et on ne sait toujours pas comment les faire « agir selon nos besoins plutôt que les leurs ». Ainsi les machines pourraient « se débarrasser de l’être humain » d’ici dix ans. Un scénario qui se veut alarmiste, mais que le professeur Yoshua Bengio lui-même entrevoit au micro de Patrick Lagacé, et attache à la création d’une nouvelle espèce en celle des IA, une qui tiendrait davantage à sa survie qu’à la nôtre… Pour éviter l’apocalypse, et mieux encadrer le développement des systèmes d’IA, le chercheur spécialiste du domaine vient de lancer LoiZéro.
Hier sur les ondes du 98.5 de Cogeco, Yoshua Bengio, fondateur de Mila – Institut québécois d’intelligence artificielle, s’est montré catégorique : trop d’autonomie a déjà été donnée aux IA. Les capacités de ces outils dépassent celles de la conversation, puisqu’elles peuvent désormais faire des transactions à notre place, agir dans notre dos et même se reproduire : « elles découvrent comment se recopier sur d’autres machines! » Le professeur n’écarte pas le scénario où l’intelligence artificielle pourrait un jour décider toute seule de mettre au point des virus susceptibles d’anéantir la race humaine, rien de moins, lorsqu’on le questionne sur l’hypothèse d’une fin de l’humanité dans dix ans.
LoiZéro : une réponse à l’urgence et une opportunité pour le Québec
Plutôt que de rester les bras croisés à attendre que le fruit de la recherche qui l’anime se transforme en « Terminator », le scientifique annonce qu’il « lance une nouvelle organisation de recherche à but non lucratif sur la sécurité de l’IA, nommée LoiZéro, afin de prioriser la sécurité par rapport aux impératifs commerciaux ».
« Le plan de recherche de LoiZéro vise à développer une IA non-agentique et digne de confiance, que j’appelle ‘IA-chercheur’ » – Yoshua Bengio
La création de LoiZéro s’inscrit dans un contexte où les signaux d’alerte se multiplient quant aux dérives possibles des intelligences artificielles les plus avancées. Tromperie, tricherie, mensonge, intrusion dans des systèmes informatiques, réflexes d’auto-préservation ou encore décalage croissant avec les intentions humaines : autant de comportements observés soulevant de sérieuses inquiétudes selon le chercheur, et qu’il qualifie de « désalignement par rapport à nos intentions ». En réponse, l’organisation entend canaliser le potentiel de transformation de l’IA tout en œuvrant à limiter les risques associés, qu’il s’agisse de biais algorithmiques, d’utilisations malveillantes ou de perte de contrôle humain.
« Le plan de recherche de LoiZéro vise à développer une IA non-agentique et digne de confiance, que j’appelle ‘IA-chercheur’, ou ‘Scientist AI’ en anglais (…) L’IA-chercheur est entraîné à comprendre, expliquer et prédire, comme un scientifique sans égo, idéalisé et platonique. Au lieu d’un acteur formé pour imiter ou plaire aux gens (y compris les sociopathes), imaginez une IA entraînée comme un psychologue – ou un scientifique en général – qui essaie de nous comprendre, y compris comprendre ce qui peut nous nuire », décrit Yoshua Bengio sur son site Web.
Saluée par l’écosystème de la recherche, l’initiative arrive à point nommé, et vient compléter l’offre et la vision québécoises en matière de développement responsable et encadré des futurs systèmes d’IA qu’amenait déjà le consortium Confiance IA sur le plan des industries, ayant à sa tête Marie-Pierre Habas-Gerard, et dont le Centre de recherche informatique de Montréal (CRIM) est fiduciaire. En développant des balises pour ces deux volets, soit la R-D (recherche et développement) et le secteur industriel et commercial, l’écosystème de l’innovation en IA au Québec a l’opportunité de renforcer la position de la province en tant que pionnière et leader des IA éthiques sur la scène mondiale, alors qu’aux États-Unis, le président Trump s’affaire à faire tomber les garde-fous mis en place pour un développement plus responsable de l’IA, ayant, dès son investiture, abrogé le décret exécutif 14110 signé par Joe Biden.
Au-delà des algorithmes…
Mais au-delà de la recherche et des solutions technologiques, « le défi actuel majeur en intelligence artificielle n’est plus de développer de nouvelles modélisations ou algorithmes d’intelligence artificielle, mais bel et bien d’opérationnaliser la partie la plus mature de ce que les dix dernières années ont produit », suggérait Marie-Pierre Habas-Gerard dans une chronique qu’elle signait pour notre magazine LES CONNECTEURS en septembre dernier. Elle y soulignait par conséquent la nécessité de « mettre l’intérêt de l’utilisateur au centre de chaque étape » et de considérer l’IA « dans sa multidisciplinarité intrinsèque », en impliquant différentes disciplines et compétences « qui n’ont pas l’habitude de travailler ensemble ».
À consulter également :
