En 2015, 17 ans après la signature de la Déclaration Transhumaniste, Nick Bostrom, Professeur à Oxford, milite pour que le contrôle de l’intelligence artificielle (IA) soit reconnu comme un domaine légitime de recherche. Son originalité : il pense que la recherche sur l’intelligence artificielle devrait se concentrer en priorité sur l’avènement d’une Superintelligence. La perspective d’un dépassement du niveau d’intelligence humain justifie cette priorité, avant même les questions à plus court terme liées aux voitures autonomes, aux armes létales autonomes, ou encore au respect de la vie privée.

Nick Bostrom explore, dans un travail d’une grande richesse, tous les scénarios possibles ainsi que leurs freins, les moyens techniques, la manière dont les humains pourraient les utiliser et la forme que pourrait prendre cette intelligence. La question réside, outre ces nouveaux pouvoirs et leur contrôle, dans ce que pourraient être les motivations de cette autre intelligence. Car une évolution de l’IA pourrait conduire celle-ci à dessiner le futur selon ses propres préférences.

Qu’est-ce que la Superintelligence ? C’est l’idée que les machines atteindraient le niveau actuel de l’intelligence humaine, du point de vue d’une intelligence générale. Elle pourrait à la fois « posséder un sens commun, une capacité effective à apprendre, à raisonner et aspirer à relever les défis de traitement d’informations complexes dans une grande variété de domaines concrets et abstraits ». Nick Bostrom précise que cette Superintelligence aurait alors un important potentiel. L’importance de l’écart entre les intelligences non biologiques et biologiques est liée à la différence de vitesse entre les composants électriques et les cellules nerveuses. Cette forme d’intelligence devrait se réaliser d’ici quelques dizaines d’années.

À ceux qui lui reprochent une certaine forme d’alarmisme, il précise que la meilleure manière de limiter les risques c’est de bien les comprendre. Dans cette perspective tous les chemins d’accès possibles à l’IA sont envisagés :
 • Intelligence artificielle et reproduction du cerveau,
 • Amélioration du cerveau biologique, en particuliers par ingénierie génétique,
 • Interface cerveaux/machines via des implants,
 • Intelligence collective.

Évidemment, les scénarios se croisent. L’auteur explique que le développement de l’intelligence biologique permettrait de mieux cerner et d’apporter les solutions adéquates aux enjeux du contrôle de l’intelligence artificielle. Il reste que, parmi l’ensemble des voies d’accès à la Superintelligence, la plus plausible lui semble bien être celle de l’intelligence artificielle.
On en revient en conclusion à ces questions : si les humains dominent la vie sur Terre, car leur intelligence leur permet de dominer les autres êtres vivants, qu’arriverait-il si une forme d’intelligence supérieure à celle des humains actuels émergeait sur Terre ? Comment savoir ce que serait une intelligence non biologique qui ne serait pas le produit de l’évolution? La limite des prédictions, il l’admet lui-même, c’est l’anthropomorphisme. Ce biais nous empêche d’y voir clair, d’imaginer toutes les formes d’intelligence possible, les motivations, la psychologie de ce qu’on nomme pudiquement aujourd’hui un « agent ».
Traduction de la rédaction.

Pour aller plus loin
Nick Bostrom. Superintelligence, Paths, Dangers, Strategies. Oxford : Oxford University Presse, 2014.
Une liste des dérives possibles de l’IA