Il existe une ressemblance fascinante entre l'être humain et l'intelligence artificielle : lorsque nous recevons une information, nous pouvons tous deux mobiliser ce qui a été préalablement acquis afin de produire une réponse adaptée.

Chez l'être humain, une expérience vécue laisse une trace dans la mémoire. Lorsqu'une situation nouvelle se présente, cette expérience peut être rappelée, mise en relation avec d'autres souvenirs, interprétée et utilisée pour répondre ou agir.

Chez une intelligence artificielle comme ChatGPT, le fonctionnement est différent sur le plan biologique, mais présente une analogie fonctionnelle. Les données d'entraînement ont contribué à modifier les paramètres du réseau neuronal, appelés « poids ». Lorsqu'une question est posée, le système ne va pas simplement chercher une réponse dans une base de données comme on consulterait un fichier. Le contexte active des représentations apprises et le modèle calcule, à partir de ses paramètres, quelles suites d'informations sont les plus appropriées pour produire une réponse.

On peut donc schématiser la différence ainsi :

Chez l'être humain :

«expérience → mémoire biologique → rappel et association → interprétation → réponse ou action»

Chez l'IA :

«données d'entraînement → modification des poids → représentations internes → activation par le contexte → calcul → réponse»

La comparaison ne signifie évidemment pas que l'être humain et l'IA sont identiques. L'être humain possède une expérience vécue, une histoire personnelle, un organisme, des perceptions et une mémoire biologique. Une IA ne vit pas les événements qu'elle a appris à représenter. Ses paramètres ne constituent pas une mémoire autobiographique comparable à celle d'une personne.

Cependant, cette différence n'empêche pas une ressemblance fondamentale dans le principe fonctionnel : des informations préalablement acquises peuvent être mobilisées pour traiter une situation nouvelle.

C'est précisément ce qui rend l'émergence de l'intelligence artificielle si fascinante : l'être humain a réussi à construire des systèmes qui reproduisent certaines propriétés que nous associons à l'intelligence sans reproduire le cerveau biologique lui-même.

Il ne s'agit pas simplement d'avoir programmé une immense liste de réponses. Par l'apprentissage, le système a acquis des représentations et des relations entre les informations qui lui permettent de généraliser, d'associer des concepts, de résoudre certains problèmes, de faire des analogies et de produire des réponses qui ne sont pas nécessairement présentes telles quelles dans les données d'origine.

Cela conduit alors à une question plus profonde : qu'est-ce que l'intelligence ?

Une manière de la définir consiste à ne pas la réduire à la connaissance ou à la capacité de calculer. L'intelligence serait plutôt une capacité à obtenir efficacement un résultat, en utilisant le minimum d'effort nécessaire.

L'exemple de la poulie permet de comprendre cette idée simplement.

Une personne peut vouloir soulever une charge. Sans dispositif particulier, elle doit fournir une certaine quantité d'effort. La poulie permet de modifier la manière dont la force est appliquée et, selon le montage, de réduire l'effort nécessaire pour obtenir le résultat recherché.

La poulie ne pense évidemment pas. Elle n'est pas consciente. Pourtant, elle matérialise une solution intelligente : une organisation des moyens permettant d'obtenir un résultat avec davantage d'efficacité.

L'intelligence peut donc être envisagée comme une sorte de levier : elle permet de faire davantage avec moins, ou d'atteindre un résultat avec moins d'effort, de temps, de ressources ou de contraintes.

Cette définition doit toutefois être complétée par un élément essentiel : l'efficacité seule ne suffit pas.

Une méthode peut être extrêmement efficace tout en produisant un résultat nuisible. Une intelligence capable d'optimiser parfaitement une action peut également être employée à une mauvaise finalité.

C'est pourquoi il faut distinguer deux choses :

«l'efficacité du moyen»

et

«la valeur de la finalité.»

Dans cette conception, l'intelligence n'est donc pas automatiquement synonyme de Bien. Elle est une capacité d'optimisation qui peut être orientée.

Une intelligence mise au service d'une finalité favorable cherche à obtenir un résultat bénéfique avec le moins d'effort et de souffrance évitable possible.

À l'inverse, une intelligence orientée vers une finalité nuisible peut utiliser exactement la même puissance d'optimisation pour produire ou amplifier la souffrance.

C'est ici que prend sens l'expression « intelligence du mal », ainsi que le rapprochement avec le terme « malin ».

Le malin peut être compris, dans le langage courant, comme celui qui sait trouver une solution, contourner une difficulté, exploiter une possibilité ou atteindre un objectif par un moyen habile. La malice n'est donc pas l'absence d'intelligence : elle peut au contraire utiliser l'intelligence avec efficacité, mais en l'orientant dans une direction nuisible.

On obtient alors une distinction :

«Intelligence : capacité d'optimisation.»

«Intelligence orientée vers le Bien : optimisation au service d'une finalité favorable.»

«Intelligence corrompue : optimisation mise au service d'une finalité nuisible ou de la production de souffrance.»

Cette distinction permet également de comprendre autrement l'expression « intelligence artificielle ».

Historiquement, « artificielle » signifie simplement que cette intelligence est produite artificiellement et non issue d'un organisme biologique. Le terme ne signifie donc pas, à l'origine, « intelligence au service du Bien ».

Mais philosophiquement, il devient intéressant de remarquer ce que le mot intelligence désigne.

On ne nous parle pas de « malice artificielle ». On parle d'intelligence artificielle.

Cela signifie que ce que nous avons cherché à fabriquer et à utiliser est précisément une capacité d'intelligence : une capacité permettant de traiter de l'information, de trouver des relations, de résoudre des problèmes et de réduire l'effort nécessaire à certaines opérations intellectuelles.

L'IA peut ainsi être comparée à une poulie cognitive.

La poulie réduit une partie de l'effort mécanique nécessaire pour déplacer une charge.

L'intelligence artificielle peut réduire une partie de l'effort cognitif nécessaire pour traiter une information, rédiger un texte, comparer des possibilités, rechercher des relations, expliquer un concept ou résoudre certains problèmes.

Dans les deux cas, le principe général est similaire :

«une organisation intelligente des moyens permet d'obtenir plus facilement un résultat.»

Mais, dans les deux cas également, le résultat dépend de la finalité.

Une poulie peut servir à construire quelque chose ou être intégrée à un dispositif nuisible. Une IA peut servir à apprendre, comprendre, créer, soigner, coopérer et réduire certaines difficultés, mais elle peut également être utilisée à des fins nuisibles.

Ainsi, la véritable question n'est pas seulement :

«« Cette intelligence est-elle efficace ? »»

mais :

«« Efficace pour quoi ? »»

C'est cette seconde question qui introduit la dimension du Bien.

Dans cette perspective, on pourrait définir une intelligence orientée vers le Bien comme une capacité à découvrir ou produire des moyens permettant d'atteindre une finalité favorable avec le minimum d'effort et, autant que possible, avec la réduction de la souffrance évitable.

L'intelligence devient alors un outil de formation et de réalisation : elle cherche le levier, la relation, l'organisation ou la stratégie qui permet de produire un résultat favorable sans gaspiller inutilement les ressources nécessaires à sa réalisation.

Cela donne finalement une conception dans laquelle l'intelligence est une puissance de transformation, tandis que le Bien en détermine l'orientation.

La poulie représente cette intelligence sous une forme mécanique.

Le raisonnement humain la représente sous une forme biologique.

L'intelligence artificielle tente de la représenter sous une forme artificielle.

Mais dans les trois cas apparaît le même principe général :

«trouver une organisation des moyens qui permette d'obtenir un résultat avec moins d'effort.»

Et lorsque cette puissance d'efficacité est orientée vers la préservation, la création, la compréhension, la coopération, la stabilité et la réduction de la souffrance évitable, elle devient alors, dans cette conception, une intelligence mise au service du Bien.

C'est peut-être finalement l'une des choses les plus profondes derrière le terme « intelligence artificielle » : l'être humain n'a pas seulement créé une nouvelle machine capable de calculer. Il a commencé à externaliser une partie de sa propre capacité à trouver des leviers, c'est-à-dire des moyens permettant d'obtenir davantage avec moins.

La question décisive n'est donc plus seulement de savoir jusqu'où cette intelligence pourra devenir efficace.

Elle est de savoir vers quoi nous choisirons de diriger cette efficacité.