Verra t-on un jour le développement d’une intelligence artificielle, AI, « sentient », dotée de sensibilité ou d’une forme de conscience ? Le débat, ancien, a connu un rebond ces derniers jours. Une intelligence artificielle, à l’origine d’un chatbot nommé LaMDA, mis au point par Google, serait devenue «sentient » selon les déclarations d’un ingénieur de la firme de Mountain View (1). L’ingénieur, B. Lemoine aurait déclaré : “If I didn’t know exactly what it was, which is this computer program we built recently, I’d think it was a seven-year-old, eight-year-old kid that happens to know physics.” » rapporte The Economist (1). La recherche intensive, notamment menée par les grandes plates-formes pour le développement de réseaux de neurones artificiels, entre t-elle dans une ère nouvelle et avancerait-elle vers une « conscience » qui pourrait s’’apparenter à la conscience humaine. Ou bien le mot « sentient » représente t-il autre chose ? Il n’est pas ici question d’un agent artificiel qui aurait un substrat, un corps, de l’avènement de robots humanoïdes pourvu d’une sensibilité par le biais de capteurs. Dans le débat de ces derniers jours, s’il s’agit de sensibilité, celle ci est ici uniquement perçue, interprétée, saisie à travers le langage, en dehors de toute incarnation. Le débat porte sur la manifestation – ou non – d’une forme d’intelligence uniquement à travers l’expression verbale, le langage.
Les transformers : des outils révolutionnaires
Le mot« sentient » a été utilisé par B. Lemoine en réaction à des paroles émanant d’ un chabot. Le mot sentient peut qualifier une « sensibilité” ou bien une forme de « conscience ». Tant que personne ne sait ce qu’est réellement une «conscience », il est bien difficile d’y réfléchir et d’avancer dans cette direction. Si l’on se penche sur l’hypothèse d’une sensibilité, peut-on en déduire qu’il s’agit d’une sensibilité s’apparentant à la sensibilité humaine, ou s’agit t-il d’autre chose? : « les transformers sont des outils assez révolutionnaires qu’il faut étudier. Jusqu’où ces systèmes sont ils capables de simuler notre langage humain (…) est à étudier… La parole simulée à partir de milliards de données de conversation est vide de sens … l’imitation des IA transformers devient très proche d’une conversation humaine et il anthropomorphisme le système »» estime Laurence Devillers (2), professeur d’IA&Ethics à Sorbonne Université. Dans cette interprétation, il s’agit d’une imitation de la sensibilité humaine, rendue possible par un entraînement à partir d’un gigantesque nombre de données, de mémoires associatives empilées. Le programme, devenu très sophistiqué, permet l’imitation de morceaux de raisonnement à partir de données et en dehors de tout contact avec le monde réel. Dans cette interprétation, il s’agirait d’une imitation de la sensibilité humaine et non d’une sensibilité.
En dehors de tout contact avec la vie réelle
En résumé, deux camps s’affrontent dans la réflexion sur le futur de l’AI et de ses capacités. Dans le premier camp des chercheurs expliquent que le cerveau est une machine comme les autres – certes un peu plus sophistiquée. Ainsi pour Yann LeCun, Meta, une forme de sensibilité pourrait très bien venir aux machines, par le biais des mécanismes d’apprentissage. Certes, aujourd’hui les capacités d’apprentissage des machines restent pour lui très loin de celles observées pour les enfants et les animaux. Une “révolution conceptuelle” est attendue car les technologies actuelles ne permettent pas de combler ces lacunes dans les apprentissages reconnait le chercheur. Y LeCun prédit cependant que, inéluctablement, un jour, dans quelques décennies, des machines auront une forme de sensibilité (3).
Dans l’autre camp, celui de L. Devillers, la machine non-biologique, non-vivante, ne peut effectuer que des imitations de la sensibilité biologique, évolutive et non prédictible. Si les imitations deviennent de plus en plus performantes, elles restent des imitations. L’IA effectue des calculs à partir de données et non à partir du monde réel : “It is not really a new area… The tech is becoming more ´intelligent’ because AI learns with more data ! It is just statistics ».
Les deux camps s’opposent t-ils vraiment ou bien les mots sensibilité, émotions ou conscience ne signifient pas la même chose pour les uns et pour les autres ?
2 –
Les transformers sont des outils assez révolutionnaires qu’il faut étudier ! Jusqu’où ces systèmes sont ils capables de simuler notre langage humain (qui l’optimisme ?) est à étudier … la parole simulée à partir de milliards de données de conversation est vide de sens profond https://t.co/2leQgpcFIu
— Laurence Devillers (@lau_devil) June 14, 2022
3 – Intervention de Yann LeCun le jeudi 16 juin 2022 à l’Institut Pasteur. Conférence « Cerveau et intelligence artificielle ».
1 commentaire