Le syndrome de la boîte noire

Depuis la révolution de l’information, il y a eu une réorganisation des habitudes de vie et de travail de tout le monde. L’automatisation et l’informatisation des systèmes apportent de nombreux avantages sur les délais de traitement et de classement automatique des données. Par exemple, en chimie, nous avons maintenant accès à des appareils automatisés et des logiciels préprogrammés pour répondre à des besoins très spécifiques. Ces nouveaux outils offrent des possibilités merveilleuses : nous pouvons programmer l’appareillage pour qu’une série d’expériences s’exécute la nuit ou démarrer une liste de calculs de chimie quantique automatiquement. Cependant, ces avantages viennent avec un risque : il est facile de seulement utiliser l’appareil sans savoir ce qu’il fait de notre expérience. Il prévaut de demeurer un utilisateur averti afin d’éviter l’esclavage par la technologie.

En effet, il est à la portée du premier venu d’utiliser une interface graphique et d’appuyer sur « enter » pour démarrer l’acquisition de données sur un appareil. Sans une compréhension de l’implémentation de l’expérience (ou du calcul) en cours dans le système qui la réalise, la personne qui utilise l’appareil est l’esclave de celui-ci, puisque tous les paramètres sont déterminés d’avance par une compagnie qui vend ces systèmes partout dans le monde. Il est certain qu’il n’est pas nécessaire de comprendre exactement le fonctionnement de chaque morceau d’une machine pour l’utiliser correctement, mais il est du devoir du scientifique de savoir ce (...) qu’il fait. Sinon, il sera victime du syndrome de la « boîte noire », soit l’utilisation d’un automatique d’un système sans pouvoir apporter de regard critique sur l’exécution des opérations.

Prenons un exemple : les calculs de chimie quantique. Avec l’arrivée de la série de logiciels Gaussian®, créer son propre hamiltonien pour le calcul variationnel de sa molécule favorite est à la portée de n’importe quel chimiste (la preuve, il y a un nombre grandissant d’articles de calculs scientifiques dont le contenu laisse souvent à désirer). Le calcul terminé, l’utilisateur obtient sa structure optimisée, une barrière rotationnelle, un moment d’inertie, des fréquences vibrationnelles, des transitions électroniques, etc. Le résultat semble bon et concorde avec les prédictions. Tout a l’air d’aller comme sur des roulettes. Une question subsiste : comment le logiciel fait-il pour savoir que la structure est correcte? Réponse : il ne le sait pas. Tout ce que le logiciel fait, c’est une discrimination sur une base mathématique, soit une minimisation de l’énergie puis il vérifie qu’il est dans un minimum par un calcul du gradient de potentiel (la pente, dans toutes les coordonnées cartésiennes de tous les atomes). Ainsi, une grosse molécule dans un minimum d’énergie local aura la mauvaise géométrie. Admettons que nous observons un cas de ce genre. L’utilisateur se servira directement de ce que le logiciel aura fait pour lui et travaillera avec un résultat erroné; tandis que l’utilisateur averti aura remarqué que quelque chose ne va pas. Il convient ici à l’utilisateur de faire ce que le logiciel ne fait pas : réfléchir. Cela lui évite de se tenir occupé à poursuivre une chimère.

La morale de cette histoire : malgré la modernisation des systèmes scientifiques et la croissance de l’informatique, il faut demeurer alerte. Avant d’utiliser un appareil préprogrammé pour une expérience, il faut savoir ce que l’appareil compte faire comme manipulation sur l’échantillon, sur les données, etc. pour éviter de se retrouver dans une situation fâcheuse où un logiciel implémenté réalise la science à la place du scientifique. Il est toujours désolant de se rendre compte trop tard que le résultat intéressant obtenu lors de la dernière expérience n’est qu’un artifice de « boîte noire ».

La prochaine fois que vous vous approcherez d’un appareil ou d’un logiciel de calcul, posez-vous la question suivante : comment est-ce que ça fonctionne vraiment? Ainsi, vous allez vous affranchir de l’esclavage technologique et réfléchir à la place du logiciel qui contrôle l’appareil. La science, c’est plus que l’obtention d’un chiffre qui fait notre bonheur.