fleury-la-montagne
Café-philo

Faut-il avoir peur de l’intelligence artificielle ? Que ce soit dans la presse écrite, dans les médias audiovisuels, dans les conversations libres, il ne se passe pas de jour ni de nuit sans qu’il soit question de l’intelligence artificielle. Elle apparaît tantôt comme menace (sur les libertés, sur l’emploi, par l’accroissement de l’efficacité des armes, par exemple), tantôt comme puissante auxiliaire de la vie courante (jeux d’échecs, de go, assistance à la conduite ou au pilotage des véhicules, aide au diagnostic médical, aux décisions financières, etc.) En bref, elle est rarement envisagée comme neutre. Étrangement, l’intelligence naturelle (convenons de ne parler ici que de l’intelligence humaine) est le plus souvent épargnée par de telles hésitations. N’a-t-on jamais ou jamais eu aucune raison d’avoir peur de l’intelligence naturelle ? Est-ce l’intelligence artificielle qui fomente les complots, les mensonges, les trahisons, les poisons, les armes de destruction massive et autres bienfaits ?

Avant même d’accepter ces locutions (« intelligence artificielle, intelligence naturelle »), il paraît indispensable de se donner quelque notion de ce qu’est l’intelligence. Non sans raisons, on considère l’intelligence comme capacité de com-prendre (prendre ensemble).

Imaginons des situations de la vie courante. Un enfant demande à un(e) adulte : « qu’est-ce que c’est, une poêle ? » L’adulte peut montrer (désigner d’un geste) une telle chose et dire : « c’est ça ». Un(e) autre peut tenter (sans montrer) de dire ce que c’est - ce qui est bien plus difficile. Les dictionnaires sont souvent faibles là-dessus. Ils n’éclairent pas la notion, mais multiplient les exemples. Seul, pourtant, l’éclaircissement en mots sollicite l’intelligence, et l’augmente. Comprendre, c’est appréhender en une unité de sens une multiplicité de notions (non d’images ni d’illustrations). Par exemple, je comprends « double » non pas en voyant avec envie la grosse part servie à mon voisin de table, mais en mettant en œuvre des notions telles que « volume, masse, quantité, unité de mesure », et d’autres. Il y a intelligence quand les mots et les phrases communicables l’emportent sur les perceptions et les émotions privées, peu communicables sans mots.

Il convient de définir simplement ce qu’est l’intelligence artificielle et ce qu’elle n’est pas. Commençons par ce qu’elle n’est pas ; si l’informatique a envahi notre vie quotidienne, l’immense majorité des applications que nous utilisons ne comprennent pas la moindre parcelle d’intelligence artificielle. Ainsi, les programmes de nos ordinateurs ou de nos smartphones appliquent des règles précises (les fameux algorithmes qui s’apparentent à des recettes de cuisine) où, pour simplifier les choses, chaque situation est prévue et engendre un traitement particulier en fonction des données traitées par la machine. Dans l’exemple du programme Votar qui a servi pour notre démonstration, l’application mobile a des règles précises pour déterminer l’orientation des feuilles et ainsi indiquer le choix de l’utilisateur pendant un questionnaire à choix multiple.

On sent bien que l’on change de classe de problème quand on veut apprendre à un ordinateur à reconnaître la présence d’un chat sur une photographie. Dans l’exemple de Votar, il faut repérer quatre cas possibles (correspondant aux quatre orientations possibles des carrés de couleur), alors que dans le deuxième exemple, on ne peut pas raisonnablement décrire tous les cas de représentation d’un chat car ils sont bien trop nombreux. Il faut donc employer une autre méthode et les réseaux de neurones sont actuellement la méthode la plus en vogue pour traiter ce genre de problème.

Pour être très schématique, les réseaux de neurones, qui tirent leur nom d’une analogie avec le fonctionnement du cerveau, sont des dispositifs logiciels qui permettent de traiter un très grand nombre de données grâce à des opérations statistiques sophistiquées. En entraînant un réseau de neurones (on parle alors d’apprentissage profond qui est la traduction de deep learning) en lui soumettant des quantités considérables de données, on peut arriver à lui apprendre une tâche spécialisée : reconnaître un chat, jouer au go, traduire un texte, gérer les paramètres variables d’une habitation, etc.

L’une des capacités dont manque, jusqu’à maintenant, l’intelligence artificielle, est le jugement subordonné à des normes éthiques, sinon morales. Les intelligences artificielles ne connaissent ni le bon et le mauvais, ni le bien et le mal. Les armes létales autonomes (« robots tueurs ») ne savent pas toujours distinguer les militaires des civils, les blessés des simulateurs, les traîtres des individus loyaux, ni se méfier des camouflages et des leurres, ou tirer les conséquences appropriées de ces distinctions.

Peut-être même les intelligences artificielles ne savent-elles pas mentir ni se défier des mensonges. Et ce serait là une insigne faiblesse. Des essais de détection de mensonges par analyse des micro-expressions corporelles (lèvres saillantes, sourcils froncés, transpiration, fréquences vocales, etc.) sont en cours (université du Maryland aux États-Unis, 2018 ; projet européen « BORDERCTRL » ; « Avatar » au Canada, 2017 ; « Veripol » en Espagne ; « Veritaps » au Danemark). Mais ces expressions corporelles peuvent être imitées, feintes, contrefaites... 

Une chose est d’avoir peur des usages de l’intelligence artificielle et de ses ratés, une autre chose est d’avoir peur de l’intelligence artificielle elle-même et de ses succès. Cette dernière sorte de peur repose sur les perspectives évoquées par de très nombreux chercheurs d’horizons divers. Le philosophe français J.-G. Ganascia résume ainsi leurs mises en garde :

 

« les facultés d'apprentissage automatique des machines alimentées par les quantités d'information co­lossales que l'on mentionne sous le vocable de « masses de données » ou, en anglais, de Big Data, les rendront bientôt imprévisibles, puisque leur comportement ne résultera plus du programme que les hommes auront écrit, mais des connaissances qu'elles construiront elles-mêmes [...] Couplée à cette im­prédictibilité, leur autonomie croissante fait qu'elles nous échapperont et prendront un empire de plus en plus grand sur l'homme. Nous atteindrons alors un point de non-retour au-delà duquel nous, humains, courrons tous à notre perte. Il y a urgence à s'en préoccuper. Nous serions fous de nous en désintéresser ! » (J.-G. Ganascia, LE MYTHE DE LA SINGULARITÉ Faut-il craindre l'intelligence artifi­cielle ? (éd. du Seuil, février 2017)

 

Les hommes pourraient-ils être asservis ou détruits par des intelligences artificielles complètement amorales, dépassant de façon incommensurable et irréversible les capacités humaines d’évitement ou de riposte ? Telle est sans doute la peur qui forme l’horizon confus de nos relations avec l’intelligence artificielle.

 

Dominique Maniez, Françoise et Philippe Le Roux

 

 

D. Maniez propose en outre les références suivantes :

Bibliographie commentée

Vous trouverez ci-dessous une série de références bibliographiques ou webographiques de difficulté croissante sur l’intelligence artificielle et sur l’application mobile dont la démonstration a été faite au cours du café-philo.

Votar

https://votar.libre-innovation.org/index.fr.html

Votar est une application sur smartphone (Android) qui permet d’organiser un système simple de vote à l’aide d’une feuille au format A4. Si vous utilisez un mobile Apple, vous pouvez vous tourner vers l’application Plickers :

http://www.cndp.fr/crdp-dijon/Evaluer-les-eleves-avec-Plickers.html

 

Ouvrage général sur l’intelligence artificielle

Intelligence artificielle : Enquête sur ces technologies qui changent nos vies, Flammarion, 2018.

 

Un exemple récent d’utilisation de l’IA dans l’actualité

https://www.francetvinfo.fr/replay-radio/nouveau-monde/nouveau-monde-une-intelligence-artificielle-pour-reperer-les-photos-truquees_3471829.html

 

Analyse du célèbre article d’Alan Turing de 1950 sur les ordinateurs et l’intelligence

https://www.cairn.info/revue-hermes-la-revue-2014-1-page-123.htm#

 

Podcast de France culture : l’intelligence artificielle a-t-elle du cœur ?

https://www.franceculture.fr/emissions/les-chemins-de-la-philosophie/algorithmes-24-lintelligence-artificielle-a-t-elle-du-coeur

 

Internetactu

Intelligence artificielle : des limites de l’éthique aux promesses de la régulation

http://www.internetactu.net/2019/04/18/intelligence-artificielle-des-limites-de-lethique-aux-promesses-de-la-regulation/

 

Pour ceux et celles qui ont une culture informatique plus poussée et qui savent notamment programmer, voici deux ressources intéressantes :

Heudin Jean-Claude, Comprendre le Deep Learning : Une introduction aux réseaux de neurones, Science eBook, 2016.

 

Séance d’informatique débranchée pour simuler le concept d’apprentissage par renforcement

 

https://projet.liris.cnrs.fr/lirismed/index.php?id=la-machine-qui-apprend-a-jouer-toute-seule