[#DisMoiPourquoi] Les IA « génèrent » du texte qui n’a parfois aucun sens ?

Une IA générative fabrique du texte en associant des mots successifs ou des morceaux de phrases successifs de la manière la plus probable possible, en fonction de la demande de l’utilisateur (le prompt). Probable signifie que ces associations ont été vues dans le passé un grand nombre de fois dans des textes qui ont servis à l’apprentissage de l’IA. Au final, un texte généré artificiellement n’a pas forcément un sens global : c’est un texte dont les enchainements sont justes probables. Cela a deux conséquences : une IA générative s’adapte très bien aux discussions courantes et aux conservations de tous les jours, mais il est difficile de faire dire à une IA générative des choses vraiment novatrices au sens des idées et rarement vues auparavant.