Décembre 2018


Les inquiétudes d'Henry Kissinger face à l'Intelligence Artificielle

Henry Kissinger (capture d'écran de son site Internet)
A 95 ans, l’ancien Secrétaire d’Etat de Nixon pose de bonnes questions dans un article paru en juin dans The Atlantic.

« Sommes-nous en train de basculer dans une nouvelle phase de l’histoire humaine ? » Oui, l’ancien Secrétaire d’Etat de Nixon et de Gerald Ford, né juif en Allemagne, rescapé de la Shoah et naturalisé Américain en 1943, a été le principal responsable de la politique extérieure des Etats-Unis entre 1968 et 1977. Il aura 95 ans dans deux jours. Bon anniversaire, dear Henry ! Cet esprit curieux de tout reste vigilant. Et dans le numéro de juin de la prestigieuse revue The Atlantic, il signe un article qui sera probablement considéré comme son testament.

Aucune nostalgie. Il n’est question ni de politique étrangère ni de stratégie. Sur l’ordre du monde, Kissinger a publié une ultime somme il y a quatre ans, qui a été un grand succès de librairie. Ce mois-ci, il médite sur Internet et sur l’Intelligence artificielle. Il revient sur l’exploit de la machine AlphaGo qui, en mars 2016, a battu le champion du monde du jeu de go. Comme on sait, AlphaGo est une machine autoapprenante. Elle s’est entraînée en jouant un million de parties contre elle-même, apprenant de ses propres erreurs. « Alors que j’écoutais le conférencier célébrer ce progrès technique, écrit Kissinger, mon expérience en tant qu’historien et homme d’Etat occasionnel s’est mise en pause. (…) Est-il possible que l’histoire humaine puisse ressembler à celle des Incas, confrontés à une culture espagnole incompréhensible et stupéfiante ? Sommes-nous sur le point de basculer dans une nouvelle phase de l’histoire humaine ? »

Selon Kissinger, l’avancée technologique qui a le plus profondément altéré le cours de l’histoire humaine a été celle de l’imprimerie au XV° siècle. C’est elle qui a permis à la connaissance empirique de supplanter les dogmes religieux. Ainsi l’Âge de Raison, écrit-il, a succédé à l’Âge des religions. Il doit être mal renseigné… Grâce à l’esprit de libre examen, le savoir scientifique a pu se constituer à l’abri des croyances. Nous vivons encore à l’intérieur de ce paradigme, écrit-il, qui est aussi celui des Lumières.

Internet nous avait déjà fait entrer dans un nouveau chapitre de l’histoire humaine, bien éloigné des Lumières.

Déjà, Internet avait commencé à changer la donne. La Toile nous a habitués à extraire et à manipuler des stocks d’informations non contextualisées, en fonction de nos besoins immédiats et pratiques. En outre, les algorithmes personnalisent les réponses en fonction de ce qu’ils savent de nous du fait de nos recherches précédentes. Du coup, la vérité est devenue relative. D’autant que nous sommes noyés sous le flot d’avis contradictoires, exprimés sur les réseaux sociaux, où nous trompons notre solitude. L’homme moderne est devenu incapable d’introspection.

L’effet de la Toile sur la vie politique, estime Kissinger, a été désastreux. D’une part, il permet à des officines de marketing politique de cibler des électorats de plus en plus précis ; ce qui contribue à l’émiettement du corps politique. De l’autre, il emprisonne les décideurs, devenus incapables d’une réflexion de fond et d’une vision à long terme. Le monde digital valorise la vitesse au détriment de la réflexion, les positions radicales plutôt que la réflexion. L’information y supplante la sagesse.

Trois questions aux concepteurs d’Intelligence Artificielle.

Rien de très original jusque-là., mais attendez la suite. Lorsqu’on passe au chapitre de l’Intelligence Artificielle, le regard de Kissinger se révèle beaucoup plus insolite. Il voit bien ce qu’elle peut apporter en médecine, ou dans la distribution d’énergie. Mais il fait part de trois inquiétudes :

Primo, l’Intelligence artificielle peut obtenir des résultats bien différents de ceux escomptés par ses programmeurs. On en a déjà eu des exemples. Ainsi, le chatbot Tay. Un de ces robots, dénommés « agents conversationnels », capables de vous faire croire que vous chattez avec une véritable personne. Il avait été programmé pour s’exprimer comme une jeune fille de 19 ans. Mais au contact d’interlocuteurs malveillants, Tay a appris les mauvaises manières et s’est mis à tenir des propos racistes, sexistes, insultants… La jeune fille avait mal tourné. D’où la question : sommes-nous capables de repérer dès le début de tels dysfonctionnements avant qu’une machine perturbe sérieusement les processus à la gestion desquels elle est associée ? Avant qu’elle ne provoque des « catastrophes en cascade » ?

Secundo, en atteignant des objectifs inattendus, n’y a-t-il pas de risques que ces machines agissent en retour sur leurs concepteurs, les humains ? De même que les champions du jeu de Go ont bien été obligés de revoir certaines de leurs stratégies, en étudiant la manière dont AlphaGo les a battus, dans l’avenir, nous serons de plus en plus souvent dépendants d’arbitrages opérés par des machines. L’action humaine est inspirée par des valeurs. Tel n’est pas le cas de ces machines intelligentes. Ne risque-t-on pas se laisser contaminer par leur vision instrumentale et amorale du monde ?

Tertio, les civilisations humaines ont créé, tout au long de l’histoire, des horizons intellectuels à partir desquels elles ont interprété le monde. Selon Kissinger, ce fut le rôle de la religion, au Moyen Âge, de la Raison à l’époque des Lumières ; de l’histoire, au XIX° et de l’idéologie au XX° siècle. Que va devenir cette conscience si, comme il est plus que probable, dans l’avenir, les pouvoirs de l’Intelligence artificielle continuent à dépasser ceux des humains dans des domaines de plus en plus nombreux ? Les machines seront capables d’optimiser des situations comme aucun humain n’en serait capable. Quelle est la vision du monde, quel est l’horizon de sens d’une machine ? Ne sera-t-elle jamais capable d’expliquer les raisons d’un choix existentiel ?

Vous voyez : à 95 ans, on peut poser d’excellentes questions sur l’avenir. N’enterrons pas trop tôt les vieux !


Brice Couturier
Le 28-12-2018
Imprimer Twitter Facebook LinkedIn
Laisser un commentaire
E-mail :
Confirmation :
Pseudo :
Commentaires :
Code de sécurité :
Powered by Walabiz