Alors que les humains viennent de perdre l’exclusivité de la parole au profit des machines parlantes, A Grinbaum,  philosophe et ingénieur, directeur de recherche au CEA-Saclay, interroge le Je, ce qu’il nomme “le coeur calculant” de ces machines parlantes, le “centre de leur attention », ce qui leur permet d’apprendre, seules, et de construire leur ordre propre. Dans cet ordre pas toujours compréhensible pour l’humain, dans une “vitesse inhumaine » … «  le nombre se fait verbe». S’il est dépourvu de sens, car simple transposition de nombres, ce verbe est néanmoins efficace. Les machines possèdent désormais un « un réel pouvoir de provoquer une réaction et peuvent même devenir la cause d’une action ». Elles provoquent des émotions. L’auteur explique, dans un essai original, récits anciens à l’appui,  “comment la parole non humaine va changer la condition humaine », sous l’effet des transformers, les modèles de langage.

Si, au fond, la parole humaine se distingue en ce qu’elle “exprime notre libre arbitre et reste impénétrable à toute tentative de la dériver logiquement à partir de quelques prémisses », alors que la parole des machines  “émane d’un hasard statistique qui émerge de très grand ensembles de paramètres dans un réseau de neurones artificiels », sur la forme les possibilités de la distinction paraissent encore ténues. L’auteur livre ses réflexions sur les possibilités de conserver un équilibre dans les interactions entre l’humain et la machine,  et propose de ne pas se satisfaire de la réflexion éthique. Car pour lui, du coté des gouvernants, seule une action par le code peut contrôler le code : « gouverner c’est gouverner le code”. Du coté des citoyens, « la mutation du citoyen en utilisateur, de l’individu rationnel en individu numérique, change la société en profondeur. Elle modifie le sens de la démocratie …”. Ici on trébuche un peu sur les propos de l’auteur, en gardant espoir que chaque individu reste toujours pourvu de cette brique de démocratie qui s’appelle liberté, conserve la liberté d’agir pour que les machines parlantes ne mettent pas en péril cette liberté. 

L’intelligence artificielle générale : la recherche de l’absolu ?

A Grinbaum décrit une IA de plus en plus autonome, fruit d’une quête insatiable des chercheurs dans l’idée de créer une machine capable d’imiter l’humain en tous points, y compris celle de la sensibilité et de l’imprévisibilité. Les chercheurs en AI sont aujourd’hui à la poursuite d’une AI générale, qui serait encore plus performante. A la lecture du livre, ce qui laissent encore plus perplexe que les enjeux de gouvernance – déjà considérables –  est ce mélange de fascination et d’obsession inarrêtable- magistralement décrite en son temps par Balzac – , ce qui semble s’apparenter à une Recherche de l’absolu.

Alexei Grinbaum. Parole de machines. Dialoguer avec une IA. Paris : HumenSciences, 2023.