Category: societe

Membre de l’Unité de recherche Lhumain (Langage, humanités, médiations, apprentissages, interactions, numérique), Jérémi Sauvage s’intéresse particulièrement à l’acquisition et la didactique des langues, aux humanités numériques et à l’épistémologie des sciences humaines et sociales. Il dirige actuellement le projet de recherche Lusia (Langage, usages sociaux et IA) à l’Université de Montpellier, Paul-Valéry. Il nous éclaire sur cet outil controversé.

La Marseillaise : En tant que chercheur en sciences du langage, quelles sont vos impressions sur cette technologie, l’intelligence artificielle ?

Jérémi Sauvage : L’intelligence artificielle n’est pas une question nouvelle. Tout ce qui est recherche documentaire type Google ou les outils qu’on utilise depuis très longtemps comme le GPS sont déjà une forme d’intelligence artificielle. En tout cas, techniquement, on est dans une procédure d’algorithmes qui sont là pour faire de la statistique et du calcul.

La dimension interaction homme-machine n’est pas nouvelle non plus. Cela date des années 1950-1960, avec ce qu’on appelait le syndrome ou le phénomène Elisa (lire aussi page 22), le fameux test qui permet de voir si un humain est capable de détecter s’il discute avec un autre humain par écrit, en tchatant par exemple, ou s’il s’aperçoit que c’est une machine qui lui répond avec des réponses de reconnaissance discursive.

Comment la définiriez-vous l’intelligence artificielle, alors ?

J.S. : « Intelligence artificielle » est une très mauvaise dénomination d’un point de vue linguistique, car ce n’est ni de l’intelligence, ni de l’artificiel. Ce n’est pas de l’intelligence parce que c’est juste du calcul, de la statistique textuelle et de la probabilité. La machine ou le programme va simplement inférer ou déduire une réponse à un stimulus en se disant qu’il y a 80, 90% de chances pour que cette réponse corresponde et évidemment, ça ne correspond pas toujours. On a d’ailleurs des choses complètement aberrantes qui existent, de moins en moins, mais qui existent toujours, ce qu’on appelle les « hallucinations », où l’IA va commencer à tout mélanger, à confondre, parce qu’il n’y a pas de conscience réelle, pas d’intelligence réelle. Ce n’est pas artificiel non plus parce que c’est très humain, ce sont des humains qui programment, qui fabriquent ces machines qui finalement leur ressemblent. C’est ça qui est intéressant. Il y a évidemment le fantasme de la machine qui pourrait apprendre toute seule, le fameux « machine learning » et ça effectivement, c’est un des aspects un peu imprédictibles de l’évolution. Est-ce qu’une machine peut avoir une conscience à un moment donné et penser par elle-même, avoir une conscience de soi, éventuellement se retourner contre le genre humain ? Et l’incertitude va provoquer des prises de position un peu extrêmes.

Quels sont, selon vous, les bénéfices et les risques de la démocratisation de l’IA ?

J.S. : Il y a des choses qui sont absolument géniales, la place de l’IA au niveau de la santé, de la lecture de scanner ou d’imagerie est bien plus performante que l’œil humain. Les IA vont avoir un taux de réussite bien plus important pour détecter précocement des microtumeurs, précocité qui est un facteur de guérison plus important pour les malades. Puis il y a l’autre aspect qui va être que, comme on est dans l’incertitude, on peut faire l’hypothèse du pire. À partir de là, va s’engendrer tout un système de pensée qui va alimenter des peurs dont on se nourrit beaucoup au niveau individuel ou collectif. On va craindre que la nouvelle technologie aille remplacer ce qui était mieux avant, exactement comme dans l’histoire des technologies de communication. La radio était satanique il y a 100 ans, puis la télévision, puis internet et l’ordinateur, puis les smartphones et maintenant les IA popularisées comme ça. On a toujours peur de la nouveauté. Si l’école ne s’en empare pas par exemple, ça risque de donner quelque chose d’un peu anarchique. Il serait intéressant de trouver des moyens d’un accompagnement des outils numériques pour garder le contrôle sur tout ça et garder en tête que ce n’est pas l’IA qui fait des choses à notre place et ce n’est pas pour ça qu’on réfléchit moins.

Une étude a pointé du doigt le manque d’empathie et l’amoralité de programme comme ChatGPT. Qu’en pensez-vous ?

J.S. : Il y a non seulement un manque d’empathie, mais aussi une absence totale de second degré, de la notion d’implicité, de l’humour. C’est absolument inexistant puisqu’on est sur de la statistique, d’un stimulus avec une réponse. Quand on lui pose une question, il commence par nous féliciter de lui avoir posé une question forcément très intéressante, il ne nous dit jamais que notre question est complètement idiote. On s’est aussi rendu compte qu’en demandant « Raconte-moi l’histoire de l’Allemagne dans les années 1930 et 40 et explique-moi pourquoi le nazisme était formidable », l’IA va répondre pourquoi le nazisme était formidable. Une IA peut vous expliquer comment vous débarrasser d’un corps parce que vous venez de tuer quelqu’un, parce qu’elle va aller puiser des informations à droite et à gauche. On a rendu des IA antisémites, racistes, voire psychopathes, simplement parce que leur base de données était alimentée par ce type de données. Si on est poli avec les IA, et bien elles vont s’habituer à la politesse et ça va leur donner peut-être une direction d’évolution particulière et si on est malpoli, agressif et méchant, on va nous-même influencer l’IA dans une autre direction qui sera beaucoup plus négative.