“Que se passerait-il si une seule journée de recherche en IA produisait davantage de mathématiques que l’humanité ne pourrait en assimiler en un siècle ?”. La phrase du jour est de Steve Hsu, physicien, Michigan State University.

“Imaginez des millions d’agents de recherche surhumains à l’œuvre. Les systèmes formels pourraient vérifier les démonstrations, mais les humains ne disposeraient pas d’un contexte suffisant pour comprendre le réseau sous-jacent de concepts inventés par les machines. Les mathématiques pourraient se scinder en deux niveaux :

• Les mathématiques des machines : vastes, vérifiées, principalement utilisées par les IA.
• Les mathématiques humaines : une « théorie effective » condensée (…) — le petit sous-ensemble d’idées que nous pouvons comprendre.

La physique pourrait suivre la même voie : les IA pourraient explorer d’immenses espaces théoriques et en déduire des prédictions correctes à l’aide de structures qu’aucun physicien humain ne comprend pleinement. La question clé est de savoir si l’IA peut condenser les connaissances aussi vite qu’elle les crée. Mon hypothèse : (…) certaines parties seront périodiquement condensées en principes compréhensibles par l’humain.

À terme, même le fait de décider ce qui mérite d’être compris pourrait nécessiter le recours à l’IA. À ce stade, l’IA ne sera plus seulement un outil scientifique. Les humains recevront des explications sélectionnées provenant d’une civilisation intellectuelle bien plus vaste qu’ils ne peuvent appréhender de manière autonome”.

Sur X ; https://x.com/hsu_steve/status/2107622115826675741