L’expression “phénomène d’émergence” dans l’IA générative, expliquée par l’observatoire de recherche Obvia :

” Les recherches récentes suggèrent un phénomène d’émergence, qui pourrait expliquer le développement de l’intelligence instrumentale sophistiquée que nous observons. En physique et en biologie, on parle d’émergence lorsque l’accumulation de changements locaux atteint un seuil (quantitatif et mécanistique) suffisant dans un système pour modifier les propriétés (qualitatives) de l’ensemble de l’organisation (Steinhardt, 2022). En apprentissage profond, qui est un autre type de système reposant sur la complexité, ce phénomène est observé lorsque la taille des modèles et la quantité de données, mesurées en milliards de paramètres et en milliards de tokens, dépassent certains seuils : ainsi, de nouvelles capacités qui n’ont pas été prédites à partir des techniques mécanistiques classiques émergent du fonctionnement des réseaux neuronaux (Wei et al. 2022)“.

Rapport de recherche de l’observatoire canadien Obvia “Un an après l’arrivée de ChatGPT: Réflexions de l’Obvia sur les enjeux et pistes d’action possibles face à l’IA générative“. 15 Janvier 2024. https://www.obvia.ca/ressources/un-apres-larrivee-de-chatgpt-reflexions-de-lobvia-sur-les-enjeux-et-pistes-daction-possibles-face-lia-generative

https://doi.org/10.61737/ZKWZ3721