Pour cette dernière session, Jean Vassoyan, doctorant en IA appliquée à la formation, présentera les limites cognitives de GPT-4. Les capacités intellectuelles du modèle portent à confusion : comment se fait-il qu’il puisse coder toutes sortes de fonctions Python mais qu’on ne puisse toujours pas lui confier le développement d’un site web ? Comment expliquer qu’il puisse résoudre des problèmes mathématiques complexes tout en étant incapable d’effectuer de longs calculs de bout en bout ? Toutes ces questions sont en fait liées au même problème : l’incapacité de GPT-4 à planifier, c’est-à-dire à inscrire ses actions dans un objectif à long terme. Cet aspect du modèle, rarement abordé dans les médias, est la principale raison pour laquelle nous ne pouvons pas encore confier de véritable tâche à ChatGPT et restons « bloqués » dans ce paradigme de questions-réponses. Nous commencerons donc par revenir sur l’entraînement de ChatGPT, puis nous expliquerons pourquoi cet entraînement est incompatible avec la capacité de planification, et les cas d’usage qui vont avec.
Les limites de GPT-4
Rendez-vous le mardi 18 juillet prochain au Livepoint rue des Sablons pour l’épisode final de la série de 4 séminaires autour de traitement du langage naturel et des limites des technologies existantes.