Par Péron Jacques (abbé)

De l’usage intelligent d’un outil inintelligent¹

Présentation : Après le prolongement de la main par l’outil, la machine nous habitue à voir l’accomplissement mécanique de tâches parfois complexes. Avec la robotisation et l’automatisation, la machine se substitue directement à l’homme dans ses travaux extérieurs visibles. Mais l’intelligence artificielle, l’IA, semble nous remplacer dans la citadelle intérieure, le cerveau. Est-ce à dire que l’homme va devenir « de trop » dans un univers capable de fonctionner sans lui ? Pour en décider, il convient de bien définir ce qu’est l’intelligence humaine et comment fonctionne cette « intelligence » mécanique qui est d’une tout autre nature.

« Intelligence artificielle et médecins : qui va gagner² ? »

« L’IA peut réaliser un diagnostic médical avec plus de précision qu’un humain³. »

Ces gros titres, glanés au hasard d’une rapide recherche sur internet, manifestent l’engouement que peuvent susciter les récents progrès de ce qu’il est convenu d’appeler intelligence artificielle. Saint Thomas d’Aquin remarquait que Dieu n’avait pas doté l’homme de griffes ni d’une fourrure, mais qu’il lui avait donné une intelligence lui permettant d’y suppléer : « Cela convenait mieux aussi à une nature douée de raison, infiniment fertile en conceptions, et capable de se procurer des instruments en nombre infini⁴. »

Cette fertilité de la raison irait-elle jusqu’à lui permettre d’élaborer des outils tels qu’ils dépassent l’homme, voire le dispensent d’user de son intelligence ?

Les questions que soulèvent, du point de vue moral, les progrès de l’intelligence artificielle sont en nombre bien trop grand pour faire ici l’objet d’un examen exhaustif : nous nous bornerons, après avoir précisé ce qu’est et n’est pas cet instrument, à examiner ses rapports avec la vertu directrice des actes humains, la prudence.

De quoi parle-t-on ?

Au sens large, le terme intelligence artificielle désigne un ensemble de propriétés rapprochant du cerveau humain certains systèmes informatiques très évolués⁵. Le but poursuivi est de décharger l’intelligence, en automatisant des tâches complexes, fastidieuses ou répétitives ; en ce sens, la pascaline, machine à calculer de Blaise Pascal, relevait déjà de l’intelligence artificielle !

Les techniques aujourd’hui employées peuvent se ramener à deux approches :

– L’approche symbolique (qui est celle de la programmation telle qu’elle se pratique en général aujourd’hui) consiste à formaliser la démarche de l’intelligence pour résoudre un problème, puis à l’exprimer en un langage compréhensible par l’ordinateur. Ainsi, dans les années 70, le système MYCIN d’assistance au diagnostic se basait sur un ensemble de conditions prédéfinies pour identifier des infections bactériennes et recommander des traitements, en indiquant le pourcentage de fiabilité. En résumé, l’homme apprend à la machine comment effectuer telle ou telle tâche.

– Mais le terme intelligence artificielle tend de plus en plus à être réservé à une seconde approche, l’approche statistique. Ici, l’homme n’apprend plus directement à la machine comment effectuer une tâche : il lui apprend à apprendre, autrement dit à modifier son propre fonctionnement de façon à résoudre un problème donné. Laissons la parole à l’un des pionniers de ce domaine, Yann Le Cun :

« Le raisonnement ne représente qu’une part réduite de l’intelligence humaine. Nous pensons souvent par analogie, nous agissons par intuition, en nous adossant à des représentations du monde acquises progressivement par l’expérience.

[…] Dans ces conditions, si l’on veut construire une machine dont l’intelligence se rapproche de celle de l’homme, il faut la rendre capable d’apprendre. Le cerveau de l’être humain est formé d’un réseau de 86 milliards de neurones (ou cellules nerveuses) interconnectés, dont 16 milliards dans le cortex. Chaque neurone est connecté en moyenne à près de 2 000 autres par des connexions appelées synapses. L’apprentissage procède par création de synapses, suppression de synapses ou modification de leur efficacité. Dans l’approche la plus en vogue de l’apprentissage-machine, on construit donc des réseaux de neurones artificiels dont la procédure d’apprentissage modifie les connexions entre ces derniers.

[…] Le machine learning [apprentissage automatique] comporte une première phase d’apprentissage ou d’entraînement, durant laquelle la machine “apprend” progressivement à accomplir une tâche, et une deuxième phase, la mise en œuvre, où la machine n’apprend plus⁶. »

Cette explication rend bien compte de l’usage du terme intelligence artificielle : intelligence parce qu’elle mime le fonctionnement de l’intelligence humaine, artificielle parce que les neurones de la machine sont en fait des fonctions mathématiques définies par l’homme. Chacune de ces fonctions est (en comparaison des algorithmes définis suivant l’approche symbolique) relativement simple, élémentaire ; mais elle s’appuie sur des coefficients que la machine devra définir, en confrontant un grand nombre de données fournies en entrée avec les réponses attendues en sortie (phase d’apprentissage). Une fois paramétré de la sorte, le réseau neuronal pourra prédire la sortie correspondant à une entrée nouvelle.

Mais cette explication nous donne en même temps l’occasion de souligner un présupposé de taille : celui qui voudrait réduire l’intelligence à un pur fonctionnement organique, pratiquement mécanique. L’œuvre du cerveau relève, non de l’exercice de l’intelligence, mais de l’exercice des sens internes, imagination, mémoire, sens commun et estimative⁷, qui nous sont communs avec les animaux⁸. Quant à l’intelligence, bien que son exercice s’accompagne des actes des sens internes (ce qui explique que l’on puisse mesurer une activité cérébrale particulière chez un sujet en train de réfléchir), elle est en elle-même immatérielle, comme son objet qui est l’être abstrait.

Ce fait nous permet de souligner un point important, sur lequel nous aurons à insister : l’intelligence artificielle est tout sauf… une intelligence.

Cela sera plus manifeste si nous examinons les opérations propres de l’intelligence, telles que les détaille Aristote.

« Comme le dit Aristote dans son étude sur l’âme, il y a deux opérations de l’intelligence : l’une, dite intuition des indivisibles, appréhende l’essence même des choses, tandis que l’autre compose et divise. Il en ajoute même une troisième, le raisonnement, grâce à laquelle la raison scrute l’inconnu à partir de ce qu’elle sait déjà⁹. » On peut donc ramener, en définitive, à trois les opérations de l’intelligence : simple appréhension (qui aboutit à former une idée d’une chose), jugement (qui met en rapport deux idées, comme lorsque l’on affirme L’homme est rationnel), et raisonnement (qui met en rapport deux jugements afin d’aboutir à un troisième, la conclusion).

Quant à la formation des idées, il importe de ne pas se méprendre sur l’une des applications les plus spectaculaires de l’apprentissage machine : il s’agit de la traduction automatique. Lorsque l’ordinateur convertit les termes d’une langue dans ceux d’une autre langue, il s’agit de sa part du résultat d’un pur calcul de probabilités : la machine n’a aucune représentation de l’objet signifié par ces termes.

Or le propre de l’idée est précisément de représenter l’objet extérieur, de le rendre présent à l’intelligence de celui qui le connaît. De même, lorsqu’une machine « reconnaît » une image, il ne s’agit pour elle que d’une pure association quantitative entre un ensemble de nombres reçu en entrée (l’image en format numérique) et un ensemble de nombres donné en sortie (les lettres du mot, là encore en format numérique). Autrement dit, la machine ne connaît, ne comprend rien : le seul qui comprenne ce que « dit » la machine est l’homme qui l’utilise.

Dès lors, le jugement consistant à mettre en lien deux idées, il sera a fortiori inaccessible à la machine, de même que le raisonnement. Cette absence de raisonnement à proprement parler pose une difficulté, que l’on décrit généralement par la métaphore de la boîte noire : il est difficile d’expliquer les réponses données par un algorithme de ce genre. « Ce type d’apprentissage se base sur des régularités statistiques et c’est la machine qui établit quelles règles permettent de les exploiter. L’humain donne des fonctions d’entrée et une sortie attendue, et le reste est déterminé par la machine. Un réseau de neurones est une composition de fonctions. Même si nous pouvons comprendre les fonctions qui le constituent, leur accumulation devient rapidement complexe. Il y a donc une boîte noire qui se crée, dans laquelle il est difficile de savoir ce que la machine calcule¹⁰. » Un algorithme préparé par un humain (suivant l’approche symbolique) peut facilement être expliqué, en montrant les étapes qui sont traversées ; mais il est beaucoup plus compliqué de rendre compte de la mise en œuvre de calculs probabilistes, fondés sur une analyse statistique de millions de données.

« Je suis convaincu que le deep learning¹¹ [apprentissage approfondi] fait partie de l’avenir de l’intelligence artificielle. Aujourd’hui pourtant, un système de deep learning n’est pas capable de raisonnement logique. Et la logique, dans sa forme actuelle, est incompatible avec l’apprentissage. Le défi des années à venir est de les rendre compatibles.

Le deep learning reste donc encore très puissant… et très borné à la fois. Pas question de faire jouer au go la machine entraînée pour jouer aux échecs, et vice versa. Elle exécute sans avoir la moindre idée de ce qu’elle fait, possède aujourd’hui moins de sens commun qu’un chat de gouttière. S’il fallait placer les systèmes d’intelligence artificielle sur le fabuleux curseur de la capacité intellectuelle où l’homme est à 100, et la souris à 1, ils seraient plus proches du petit rongeur. Et ce, même si la performance de l’IA sur des tâches précises et étroites s’avère surhumaine¹². »

Pascaline (source : Calmeca)

Redisons donc, en conclusion de cette partie, ce que nous avons souligné : l’intelligence artificielle est tout sauf une intelligence. Pourquoi donc ce nom ? Faudrait-il nous interdire de l’utiliser ?

La réponse nous viendra ici encore du dictionnaire de l’Académie française : intelligence, qui signifie la faculté de comprendre, de concevoir, de connaître, se dit par analogie de l’intelligence artificielle.

Un exemple nous aidera à le comprendre : on dit de certains ouvrages qu’ils contiennent la pensée d’un auteur. En réalité, ces ouvrages ne contiennent rien du tout, si ce n’est un tas de papier taché d’encre ; mais, entre les mains d’un être doué d’intelligence, ils deviennent l’instrument qui permet à cet être d’accéder à la pensée de l’auteur. De même, une machine, si intelligente qu’on la suppose, ne comprend rien du tout ; mais maniée par un être humain, elle lui permet de décharger son intelligence de tâches complexes, fastidieuses ou répétitives. L’intelligence artificielle n’est donc rien d’autre, en définitive, qu’une pascaline évoluée !

De l’usage prudent de cet outil

Il faut reconnaître à notre pascaline qu’elle est tout de même très perfectionnée : en témoignent les succès fort médiatisés de la démarche symbolique dans le jeu d’échecs (en 1996) et des réseaux neuronaux dans le jeu de go (en 2017). Il devient fort tentant, dès lors, de leur confier des tâches qui étaient jusqu’ici réservées aux humains. Les systèmes de vidéo-surveillance automatisée se multiplient, des voitures autonomes sont expérimentées depuis 2017 aux États-Unis ; et nous avons mentionné, en commençant, les titres à sensation que suscitent les développements du diagnostic informatisé. Ce qui est ici nouveau, par rapport aux instruments plus anciens que l’homme avait développés pour se faciliter le travail, c’est l’influence de ces outils sur la prise de décisions et, par là, sur les actions humaines. Mais la droite règle des actions à poser, selon S. Thomas est une vertu, la première des vertus cardinales. C’est pourquoi il nous faut maintenant, en nous appuyant sur l’enseignement de l’Aquinate au sujet de la prudence, considérer les rapports qu’elle entretient à l’égard de ce nouvel outil.

« La prudence est la droite règle des actions à faire, on l’a dit plus haut. D’où il faut que l’acte principal de la prudence soit l’acte principal de la raison préposée à l’action. Celle-ci émet trois actes. Le premier est le conseil : il se rattache à l’invention, car délibérer c’est chercher, comme il a été établi antérieurement. Le deuxième acte est le jugement relatif à ce qu’on a trouvé, ce que fait la raison spéculative. Mais la raison pratique, ordonnée à l’œuvre effective, va plus loin et son troisième acte est de commander ; cet acte-là consiste en ce qu’on applique à la réalisation le résultat du conseil et du jugement. Et parce que cet acte est plus proche de la fin de la raison pratique, il est l’acte principal de la raison pratique et par conséquent de la prudence¹³. » Délibérer, juger, mettre en œuvre : telles sont les trois étapes de la décision prudente, où l’outil dont nous traitons pourra représenter un secours ou un obstacle.

La délibération est l’acte de l’intelligence qui examine les différents moyens en vue d’une fin donnée, afin de juger lesquels sont adaptés ou ne le sont pas, et en définitive lequel est le meilleur. La difficulté, spécialement dans les questions d’importance, tient à cette remarque d’Aristote : « la prudence ne se rapporte pas seulement aux universels, mais doit connaître aussi les singuliers. » En effet, la prudence doit appliquer les principes généraux aux circonstances singulières dans lesquelles l’action est posée. Or, remarque saint Thomas, « personne ne peut appliquer convenablement une chose à une autre s’il ne les connaît toutes deux : ce qu’il faut appliquer, et ce à quoi il faut l’appliquer. Mais les actions ont lieu dans le singulier. Et c’est pourquoi il est nécessaire que le prudent connaisse, et les principes universels de la raison, et les singuliers, objets des opérations¹⁴. » Mais les circonstances singulières sont en nombre indéfini, et par là semblent échapper à la prévoyance humaine. À cela, saint Thomas répond : « L’infinité des singuliers ne pouvant être embrassée par la raison humaine, il s’ensuit que « nos providences sont incertaines », comme dit le Livre de la Sagesse (9, 14).

Cependant, par l’expérience, l’infinité des singuliers est réduite au nombre fini des cas les plus fréquents, dont la connaissance suffit à la prudence humaine¹⁵. » Cette expérience, le sujet la trouvera d’abord en son propre passé, « aussi est-ce à bon droit que la mémoire est comptée parmi les parties de la prudence¹⁶. »

Néanmoins, « la diversité est comme infinie, et il n’est pas possible qu’un seul homme soit pleinement informé de tout ce qui s’y rapporte, surtout en peu de temps […]. C’est pourquoi la prudence est une matière où l’homme a besoin plus qu’ailleurs d’être formé par autrui ; les vieillards surtout sont qualifiés pour l’éclairer¹⁷. »

Prendre conseil fait donc partie des étapes nécessaires dans la délibération. C’est ici surtout, nous semble-t-il, que la machine peut trouver son utilité. Nombre de véhicules sont aujourd’hui équipés d’un géonavigateur [GPS] : n’est-ce pas par excellence la machine qui conseille le conducteur dans les décisions qu’il a à prendre pour parvenir à son but ? Mais cet exemple nous permet d’illustrer tant les grandeurs que les faiblesses de ce moyen. Les grandeurs, car, entraîné sur de nombreux trajets et ayant en mémoire bien plus de routes que n’en connaît le conducteur, le GPS pourra en général le guider avec sûreté et rapidité. Les faiblesses, qui peuvent venir de l’imprévu, auquel par définition la machine n’est pas préparée (accidents de circulation, modifications des voies…) ; qui peuvent venir aussi d’une mauvaise manipulation de l’outil, comme l’expérimenta ce conducteur qui, n’ayant pas remarqué l’homonymie de deux lieux, se retrouva à 100 km de son objectif. Les inconvénients d’une confiance aveugle dans l’outil sont ici évidents, quoique de peu de conséquence ; ils seraient bien plus graves, s’agissant d’un diagnostic ou du traitement à appliquer à un malade !

C’est sur ce point que se fera plus directement sentir l’inconvénient que nous avons relevé au sujet de l’apprentissage automatique : l’intelligence artificielle donnera bien souvent des conclusions sans qu’il soit possible d’en connaître l’explication, les tenants et les aboutissants. Il est à souhaiter sans doute que les études en cours pour corriger ce défaut portent leurs fruits.

Quant à la deuxième étape, celle du jugement, elle est par excellence l’acte de l’intelligence. Mais ce jugement va plus loin qu’une simple mise en rapport intellectuelle : il suppose une adhésion du sujet, acte éminemment personnel, qui ne saurait dès lors en aucune manière être le fait d’une machine. Il faut prendre garde de se laisser abuser par des expressions telles que : « L’ordinateur a dit de faire ceci », « la machine s’est trompée »… L’ordinateur ne saurait dire quoi que ce soit ; et, étant incapable de jugement, la machine ne saurait se tromper. C’est l’homme qui a lu à l’écran telle « instruction », ou qui l’a comprise dans le son qu’a proféré l’outil sans en saisir le sens ; c’est l’homme encore qui se trompe en faisant sienne l’affirmation fausse reçue de l’ordinateur. Une machine ne peut être responsable de rien, n’étant pas une personne, n’étant donc sujet d’attribution d’aucun acte.

Enfin, la mise en œuvre, cette troisième étape que saint Thomas appelle commandement et dont il nous a dit qu’elle était l’acte par excellence de la prudence, appelle une distinction. En elle-même, elle est un acte de la volonté sous la lumière de l’intelligence, et ne saurait donc être déléguée à une machine ; mais quant aux moyens qu’elle met en œuvre, certains pourront relever des outils techniques, au nombre desquels compte l’intelligence artificielle. Trouvent alors leur application les principes qui gouvernent l’usage de tout outil : il serait certes dommage, et parfois déraisonnable, de se priver d’instruments puissants ; mais si leur danger est à la mesure de leur puissance, il faudra n’en user que pour des raisons proportionnées, muni des précautions adaptées. Un menuisier n’utilisera pas sa machine à bois pour un oui, pour un non ; et quand il l’utilisera, ce sera avec les protections qui lui éviteront de se mutiler.

Les accidents, en 2018 et 2019, du Boeing 737 max ont illustré les conséquences dramatiques que pouvait avoir un algorithme imparfait lorsqu’il échappe au contrôle du pilote.

En conclusion, retenons que l’intelligence artificielle est un outil, puissant certes, mais n’est qu’un outil¹⁸. C’est la cause principale qui donne à l’instrument d’exercer son influx : le burin n’est rien sans l’artisan qui lui donne de tailler la statue. L’intelligence artificielle ne sera intelligence que dans la mesure où elle sera artificielle, c’est-à-dire dans la mesure où nous saurons nous en servir avec intelligence.

---

1 Reproduction autorisée des Cahiers Saint-Raphaël, n°146, avril 2022, p. 27-33.

2 https://ey.com/fr_fr/health/intelligence-artificielle-et-medecins-qui-va-gagner

3 https://siecledigital.fr/2019/09/25/lia-peut-realiser-un-diagnostic-medical-avec-plus-de-precision-quun-humain/

4 Somme théologique (abrév. ST), I^a, q. 89, a. 3, ad 2. Traduction de la Revue des jeunes.

5 Dictionnaire de l’Académie française, https://dictionnaire-academie.fr/article/A9A2706

6 Yann LE CUN (prix Turing 2018 pour ses travaux sur l’apprentissage profond), Quand la machine apprend, Paris, Odile Jacob, 2019, ch. 1.

7 Ndlr. Chez les scolastiques, l’estimative est une faculté instinctive et quasi-organique de juger et de choisir.

8 Il est d’ailleurs symptomatique que l’un des domaines où l’intelligence artificielle obtient les résultats les plus étonnants soit la reconnaissance et l’élaboration d’images (ou parfois de sons), qui relève chez nous bien plus de l’imagination que de l’intelligence.

9THOMAS d’Aquin, Introduction au commentaire du Peri hermeneias.

10 Florence d’ALCHE-BUC (chercheur en apprentissage machine à Télécom Paris), https://imtech.wp.imt.fr/2021/02/22/explicabilite-des-algorithmes/

11 L’apprentissage en profondeur est un type d’apprentissage automatique où les caractéristiques examinées par la machine, au lieu de lui être fournies par l’homme, sont détectées par la machine elle-même. Cela nécessite un nombre de données et une puissance de calcul nettement supérieurs, pour des résultats en général bien meilleurs.

12 Y. LE CUN, ibid.

13 ST, Ia IIæ q. 47 a. 8.

14 ST, Ia IIæ q. 47 a.3.

15 Ibid., ad. 2.

16 Q. 49, a. 1.

17 Q. 49, a. 2.

18 Ndlr. Notons toutefois qu’un monde dans lequel la majorité des interfaces, des courriers et des décisions est opérée par des machines, fussent-elles inintelligentes au sens propre du mot, un tel monde devient inhumain et ne correspond sans doute pas au plan de Dieu pour notre vie en société.