“Doit-on réguler en amont la création de systèmes d’IA ? (…) Il y a des gens qui croient aux dangers intrinsèques de l’IA. Moi je n’y crois pas du tout, en tout cas pas dans l’état actuel. C’est un peu comme si, en 1920, quelqu’un avait dit “il faut absolument réguler les vols transatlantiques avec les moteurs à réaction”. Alors que (…) le moteur à réaction n’avait pas encore été inventé. Comment pouvons-nous imaginer rendre un système sécurisé si on ne l’a pas encore inventé ? On n’a pas encore inventé la super intelligence de niveau humain”.

La phrase du jour est de Yann Le Cun, président exécutif d’Advanced Machine Intelligence, ancien directeur scientifique de l’IA chez Meta, à l’occasion d’une conférence organisée par SciencesPo, le 16 septembre dernier ttps://www.youtube.com/watch?v=Y4s8NadbZfU-

Y. Le Cun considère que les technologies d’IA ne sont pas assez avancées pour que l’on puisse se pencher efficacement sur la question de la régulation de la recherche dans ce domaine. Il défend l’idée que les IA ne sont pas aujourd’hui intrinsèquement dangereuses. Pour le lauréat du prix Turing, la question pertinente pour la régulation de l’IA n’est alors pas celle de la régulation en amont, pour la recherche et le développement, mais bien celle de la régulation en aval du déploiement des systèmes d’IA, des usages en médecine, dans l’industrie …

A quelle stade de la recherche, à quel moment de leur développement les technologies doivent-elles être régulées ? Y. Le Cun soulève ici un problème inhérent à la gouvernance des technologies, connu sous le nom du dilemme de Collingridge, et régulièrement évoqué dans les colonnes d’Anthropotechnie : “at the stage when steering a technology is easy, we do not know how it needs to be controlled; when we have seen it develop enough to see its problems, entrenched actors and expectations make change very difficult” (Collingridge, 1980)» ps://www.anthropotechnie.com/davantage-danticipation-et-de-monitoring-pour-mieux-reguler-les-biotechnologies-emergentes/.

Dans ce débat, il est possible d’objecter que l’anticipation constitue l’une des étapes de la gouvernance, celle-ci étant comprise comme à la fois :

• L’anticipation (la veille et la prise de conscience),
• L’évaluation,
• La régulation,
• Le monitoring.

Si l’on considère la gouvernance des technologies comme étant constituée de l’ensemble de ces étapes, le fait que les technologies d’IA soient, selon Y. Le Cun, loin d’être  finalisées, ne constitue alors pas une raison suffisante pour ne pas réfléchirai décider de sa gouvernance.  A l’inverse, la veille et la prise de conscience constituent alors des étapes importantes dans la réflexion.