De l’anthropomorphisme en cybernétique:
Réflexion pour une étude discursive de l’intelligence artificielle

Ce n’est pas le résultat d’un pur hasard si l’ouvrage La Cybernétique : information et régulation dans le vivant et la machine de Norbert Wiener, originellement paru en 1948 sous le titre Cybernetics or Control and Communication in the Animal and the Machine a finalement été traduit en français en 2014. Cette parution tardive nous parait émaner non pas d’un fortuit, mais bien d’une conjoncture favorable à une relecture et une actualisation des théories cybernétiques.

Le programme cybernétique tel que développé dans cet ouvrage par Norbert Wiener contient des éléments dignes d’intérêt pour comprendre le développement de l’intelligence artificielle. La doxa académique concernant les théories cybernétiques est loin d’être représentative de la profondeur du programme cybernétique de Wiener. La traduction récente dans la langue de Molière de l’ouvrage favorise une relecture permettant de mieux comprendre l’envergure de son oeuvre en plus de permettre une comparaison avec des domaines contemporains, et ce, bien que le terme cybernétique ait été écarté de la terminologie actuelle.

En ce sens, nous proposons d’étudier l’imaginaire relatif à la cybernétique et à l’intelligence artificielle à partir du vocabulaire de ces deux domaines. La comparaison avec le vocabulaire théorique utilisé en cybernétique met en lumière l’évolution des attentes par rapport aux machines : si elles devaient pouvoir faire, on s’attend désormais à ce qu’elles développent un savoir-faire.

machina vivere

D’entrée de jeu, le programme cybernétique de Norbert Wiener avait pour but de rassembler des domaines aussi variés que les mathématiques, la biologie, la médecine, la philosophie et la physique vers une compréhension commune du monde. Concrètement, Wiener favorise la coopération interdisciplinaire au détriment d’un cloisonnement des spécialités, qu’il juge peu fécond pour arriver à de nouvelles découvertes. Le programme cybernétique originel est en fait d’une importante profondeur et se démarque de l’amnésie qu’affronte cette théorie, que le milieu universitaire limite souvent à l’exemple militaire d’une batterie antiaérienne s’ajustant au gré d’une rétroaction continue pour abattre un avion de chasse.

Norbert Wiener – bien que principalement mathématicien – était au cours des années 1940, chercheur invité à l’Institut national de cardiologie de Mexico. À l’Institut, ses recherches portaient autant sur les caractéristiques de l’appareil cardiaque que sur le fonctionnement du système nerveux. Ce détail pouvant paraitre anodin est en fait l’étincelle d’interdisciplinarité des recherches de Wiener, qui lient à la fois biologie et mathématiques, catalysant la formation d’un domaine de recherche commun.

Ces deux éléments – soit un positionnement interdisciplinaire conscient et assumé et une série de recherches portant sur les corps humain et animal dans une perspective unifiant mathématiques et biologie – poussent Wiener vers la création d’un vocabulaire et de concepts transversaux qui se réalisent dans le programme cybernétique. Ce côtoiement théorique se traduit par une posture métaphorique et discursive bio-ascendante et bio-descendante traversant l’œuvre de l’auteur, et donc l’ensemble du programme cybernétique1.

Le concept de bio-ascendance réfère à la représentation mentale des objets techniques et communicationnels à partir de représentations physiques et biologiques. Le processus inverse est la bio-descendance, soit la représentation de caractéristiques des vivants à partir des machines. Comme l’auteur conceptualise les machines – au sens large et remis dans le contexte des débuts de l’électronique, comme moyen de transmission d’information et de calcul – à partir des recherches produites à l’Institut, il mobilise d’abord un vocabulaire dont les métaphores partent du vivant pour s’appliquer aux machines.

Dès la fin des années 1940, les théories du programme cybernétique passent conceptuellement du système synaptique des vivants à des systèmes de communications électroniques. Une synapse et un appareil de communication binaire fonctionneraient de manière semblable : « […] la mémoire chez l’animal trouve son parallèle dans le problème de la construction de mémoires artificielles pour les machines »2(75). On note que la mémoire artificielle ne fait pas ici directement référence à l’intelligence artificielle3, mais plutôt à une forme de computing, de stockage et de transmission des données.

La représentation mentale peut également s’effectuer en sens inverse. Par exemple : « L’organisme vivant est avant tout une machine à vapeur »2(1). Cette alternance dans l’oeuvre de Wiener suggère à plusieurs égards une équivalence entre les vivants et les machines : « […] les systèmes nerveux des humains et des animaux, connus comme capables du travail d’un système calculateur, contiennent des éléments idéalement adaptés pour se comporter comme des relais »2(225). Cette posture ouvre le chemin à un rapprochement entre l’Anthropos et la Machine, alors que ceux-ci étaient dissociés dans la modernité. En traitant de la même manière conceptuelle les systèmes synaptiques et les systèmes de communication, Wiener participe à la dissolution de la frontière entre l’humain et la machine.

Intelligence artificielle : anthropomorphisme et dissolution de l’idéal moderne

Alors, qu’ont en commun les fondements de la théorie cybernétique et l’intelligence artificielle telle que nous la connaissons aujourd’hui? L’intelligence artificielle poursuit et transforme le vocabulaire bio-ascendant et bio-descendant. Elle s’inscrit dans cette même dissolution de l’idéal moderne qui séparait strictement vivant/non-vivant et humain/non-humain4,5.

La modernité s’est formée en tant qu’opposition concrète et réfléchie à la tradition. La post-modernité se démarque en tant que dissolution des idéaux modernes, dont la fin d’une vision binaire du monde6. Le questionnement relatif à l’intelligence artificielle peut se décoder à la fois à partir du vocabulaire anthropomorphique et dans son contexte où les frontières établissant une binarité entre Anthropos/Machinas’effacent.

Réseaux neuronaux, intelligence, dialogue, raisonnement et apprentissage ; ce vocabulaire, qu’on aurait autrefois strictement attribué à des vivants, fait maintenant partie intégrante du lexique de l’intelligence artificielle7. Les neurones auxquels on fait ici référence sont en fait une métaphore pour comprendre le fonctionnement et l’organisation des algorithmes à la base de l’intelligence artificielle. Il s’agit de conceptualiser le fonctionnement du cerveau pour le transposer à un système de codage algorithmique en reprenant une terminologie de nature biologique. À l’inverse, on remarque aussi dans les sciences cognitives et le langage courant, la tendance à concevoir le cerveau comme un ordinateur, en faisant par exemple un parallèle entre la mémoire humaine et un disque dur8.

La bio-ascendance et bio-descendance du lexique de l’intelligence artificielle diffèrent cependant de celles de Wiener pour traiter des machines. À l’origine du programme cybernétique, le vocabulaire allait vers la mécanique du corps, alors que pour l’intelligence artificielle contemporaine, c’est le fonctionnement de l’esprit qui est transposé à la machine intelligente9. De nos jours, les questionnements relatifs à l’intelligence artificielle dépassent largement la question de la reproduction de comportement humain élémentaire pour passer à des questionnements de nature ontologique. Le mimétisme des comportements humains est mis de côté en faveur de la création d’une conscience capable de penser d’elle-même. Par exemple, des chercheurs évaluent la possibilité qu’un jour une intelligence artificielle puisse être dotée d’une intelligence émotionnelle10.

le travailleur au service de la machine

En étudiant le lexique de l’œuvre de Wiener et en survolant celui de l’intelligence artificielle, la comparaison liminaire indique des similarités en faveur d’une dissolution de l’idéal moderne anthropologique sous la forme d’une asymétrie vivant/non-vivant et humain/non-humain. Or, si la fin de cette division binaire s’applique initialement à la mécanique du corps, elle s’étend avec l’intelligence artificielle au fondement de l’intelligence et corolairement au fondement de l’Être. Si la cybernétique proposait initialement des réflexions sur le travail-faire – donc à la mécanique de celui-ci – l’intelligence artificielle s’attaque au savoir-faire. Autrement dit, la machine mécaniste est un complément ou un outil au service du savoir-faire humain ; or on conçoit désormais que la machine intelligente disposera d’un savoir-faire supérieur à celui des humains.

Dans le domaine du travail-faire, l’autonomisation a depuis déjà plusieurs décennies, quantitativement réduit l’intervention humaine physique dans la production. Pour Wiener l’automatisation du travail allait être une source de chômage : « It is perfectly clear that [automation] will produce an unemployment situation, in comparison with which…the depression of the thirties will seem a pleasant joke »11(189).

C’est cependant Marcuse qui a vu juste quant à l’automatisation du travail physique. Pour Marcuse12(53), l’automatisation n’est pas simplement signe de changement social ou de chômage, mais témoigne plutôt d’un renversement dans la relation entre la machine et le travail physique. La machine n’est plus au service du travailleur, c’est dorénavant le travailleur qui est au service de la machine. Les récents témoignages des travailleurs des usines « du futur » de Tesla où les travailleurs s’effondrent littéralement au travail pour soutenir une cadence de production effrénée démontrent que l’automatisation peut exacerber la tâche physique d’une classe de travailleur tout en ne touchant que très peu le chômage13. Du côté du travail intellectuel, nous savons que l’intelligence artificielle est maintenant plus précise que l’humain dans des domaines spécialisés comme la détection de certains types de cancer14. Or, on peut se questionner à savoir si les contrecoups de la mécanisation du travail se reproduiront dans le domaine du travail intellectuel, où l’humain en viendra à être l’auxiliaire de l’intelligence artificielle plutôt que son maitre, s’il devra faire ce que la machine lui dictera du haut de son savoir-faire.

William Grondin

Section 2 : Recherche

1

Nous tenons à préciser que les termes bio-ascendance et bio-descendance ne sont pas utilisés par Wiener. Ils proviennent d’une analyse a posteri dans la préface de l’ouvrage à l’étude dans ce texte.

2

Wiener, N. La cybernétique : information et régulation dans le vivant et la machine. Paris : Seuil ; 20.

3

Le terme intelligence artificielle est apparu en 1956 dans le cadre d’une demande de subvention pour organiser la Dartmouth Summer Research Project on Artificial Intelligence. Dartmouth College. (2016). The Dartmouth Artificial Intelligence Conference: The next 50 years. https://www.dartmouth.edu/~ai50/homepage.html

2

Wiener, N. La cybernétique : information et régulation dans le vivant et la machine. Paris : Seuil ; 20.

2

Wiener, N. La cybernétique : information et régulation dans le vivant et la machine. Paris : Seuil ; 20.

4

Latour, B. Nous n’avons jamais été modernes: essai d’anthropologie symétrique. Paris : Éditions La Découverte ; 2015.

5

On notera que la dissolution de la frontière entre les concepts généralement binaires de la modernité n’est pas uniquement l’œuvre de la cybernétique ou de l’intelligence artificielle, qu’elle se remarque dans d’autres sphères du monde contemporain.

6

Freitag, M. L’oubli de la société: pour une théorie critique de la postmodernité.Québec : Presses de l’Université Laval ; 2002.

7

Marchand, S. 12 termes pour démystifier l’Intelligence Artificielle. https://www.linkedin.com/pulse/glossaire-12-termes-pour-demystifier-lintelligence-sarah-marchand. 4 avril 2018.

8

Epstein, R. Your brain does not process information and it is not a computer. https://aeon.co/essays/your-brain-does-not-process-information-and-it-is-not-a-computer. 18 mai, 2016.

9

Néanmoins, au balbutiement de l’intelligence artificielle – au cours des années 1940-50 – l’intelligence était définie autrement : « For the earlier period of its development, attention was clearly focused on getting computers to do things that, if a human did them, would be regarded as intelligent » . Or, la définition de l’intelligence artificielle s’est complexifiée au fil du temps, voir Warwick, K. Artificial Intelligence: The Basics. [Artificial Intelligence]. New York : Routledge ; 2011.

10

Alasaarela, M. The Rise of Emotionally Intelligent AI. Dans Machine Learnings. https://machinelearnings.co/the-rise-of-emotionally-intelligent-ai-fb9a8a630e. 9 octobre 2017.

11

Wiener, N. The Human Use of Human Beings: Cybernetics and Society. [The Human Use of Human Beings]. University of Michigan : Houghton Mifflin ; 1950.

12

Marcuse, H. L’homme unidimensionnel. Essai sur l’idéologie de la société industrielle avancée.Paris : Minuit ; 1968.

13

Wong, J. C. Tesla factory workers reveal pain, injury and stress: « Everything feels like the future but us ». The Guardian, section Technology. http://www.theguardian.com/technology/2017/may/18/tesla-workers-factory-conditions-elon-musk. 18 mais 2017.

14

European Society for Medical Oncology. Man against machine: AI is better than dermatologists at diagnosing skin cancer. www.sciencedaily.com/releases/2018/05/180528190839.htm. , 28 Mai 2018.