Les fausses promesses de ChatGPT

Résumé d’un article de Philosophie Magazine

Dans une tribune du New York Times, un philosophe et deux linguistes, y compris Noam Chomsky, critiquent les systèmes conversationnels comme ChatGPT pour leur absence d’intelligence et d’indifférence morale. Ils estiment que ces systèmes, bien qu’utiles dans des domaines étroits, ne parviennent pas à répliquer la manière dont les humains raisonnent et utilisent le langage.

Selon eux, l’intelligence artificielle, spécifiquement le machine learning, pourrait dégrader notre science et éthique en intégrant une conception erronée du langage et de la connaissance. Les programmes comme ChatGPT sont excellents pour ingérer d’énormes quantités de données et générer des résultats statistiquement probables, mais ils diffèrent profondément de la manière dont les humains raisonnent et utilisent le langage. Ils sont limités par leur incapacité à équilibrer la créativité et la contrainte, souvent générant soit trop, soit trop peu.

Les auteurs soutiennent que l’esprit humain n’est pas un moteur statistique, mais un système efficace et élégant qui fonctionne avec de petites quantités d’informations. Ils donnent l’exemple de la grammaire, un système de principes et de paramètres logiques que les enfants développent rapidement et inconsciemment. Ces programmes de machine learning, cependant, sont bloqués dans une phase préhumaine ou non humaine de l’évolution cognitive.

Les programmes comme ChatGPT sont, par conception, illimités dans ce qu’ils peuvent “apprendre”, mais ils sont incapables de distinguer le possible de l’impossible. Ils peuvent apprendre des langues humainement possibles et impossibles avec la même facilité, et peuvent apprendre que la Terre est à la fois plate et ronde. Leurs prédictions, donc, seront toujours superficielles et douteuses.

En plus de leur incompétence linguistique, ces systèmes souffrent d’amoralité. Ils manquent de la capacité de raisonner à partir de principes moraux. Les programmeurs de ces systèmes luttent pour trouver un équilibre entre créativité et contrainte, souvent ayant à sacrifier la créativité pour éviter l’amoralité.

En conclusion, les auteurs mettent en doute la popularité de ces systèmes, compte tenu de leur amoralité, de leur fausse science et de leur incompétence linguistique. Ils soutiennent que ces systèmes ne peuvent pas équilibrer créativité et contrainte, et sont incapables de répliquer l’intelligence humaine.