Comment développer son Chatbot avec Rasa ? Seconde partie : de l’entraînement au déploiement

Focus sur Rasa NLU

La préparation des données d’entraînement

Les données d’entraînement sont des phrases types que l’utilisateur pourrait dire et dans lesquelles l’intention et les entités sont précisées. Le format des données est JSON – JavaScript Object Notation – cf. l’exemple ci-contre.

Toutes ces combinaisons de phrases doivent être créées et renseignées dans un unique fichier, afin de couvrir la grande majorité des cas de figure et ainsi améliorer l’apprentissage du NLU. Cette génération des données est fastidieuse, c’est pour cela que des outils comme Chatito ont été créés. Cet outil open source permet de générer automatiquement des phrases assez complexes.

L’ajout de prétraitements pour épauler le NLU

De base, Rasa NLU est assez « brut de fonderie ». Par exemple, il ne sait pas reconnaître les dates, les montants, etc. Heureusement, il peut être « étendu » de façon très simple avec l’ajout de prétraitements (ou pré-processing).

La première bibliothèque complémentaire à installer s’appelle spaCy : elle comporte un modèle français. C’est donc grâce à spaCy qu’il est possible de dialoguer en français avec Rasa. Les principaux traitements qu’elle fournit sont la « tokenisation » et le « named entity recognition ». Il faut également choisir un classifieur d’intentions (parmi les options : Scikit Learn ou un modèle d’embedding dans le framework TensorFlow).

Il existe également un module nommé « Duckling » (de Facebook) permettant de gérer les dates, les nombres, les sommes d’argent, les emails et les distances. Les algorithmes de prédiction d’intentions disposent de leurs propres paramètres qu’il est possible de régler mais pour cela il faut avoir des profils experts très techniques.

L’orchestration de tous ces éléments se fait via un fichier de configuration dans lequel il faut préciser la langue et le pipeline, c’est-à-dire le séquencement de tous les traitements effectués sur le texte (voir ci-dessous).

Les tests du modèle NLU

Pour tester Rasa NLU, inutile de lancer le Chatbot et de lui poser manuellement toutes les questions imaginables pour balayer l’ensemble de l’arbre conversationnel ou toutes les intentions possibles.

Des outils existent pour tester le modèle de classification des intentions. Pour cela, il suffit de générer un nouveau fichier de données via Chatito et d’utiliser la fonction evaluate de Rasa NLU.

La sortie de cette procédure est une matrice de confusion (cf. ci-contre). Cette dernière contient le résultat des inférences (prédictions) obtenues avec le jeu de données qui lui a été fourni en entrée. Chaque colonne de la matrice représente le nombre d’occurrences d’une classe estimée, tandis que chaque ligne représente le nombre d’occurrences d’une classe réelle (ou de référence).

Le modèle est alors considéré comme optimal ou correctement entraîné, lorsque la matrice est la plus proche de la diagonale bleue et qu’il n’y a que des valeurs nulles (ou minimales) pour les autres occurrences.

Focus sur la brique discussion (Rasa Core)

Dans le fichier de configuration de Rasa Core, il faut créer un fichier domain dans lequel sont listés les intentions, les entités, les slots avec leur types associés (float, text, unfeaturized), les actions ainsi que le template des réponses basiques (cf. exemple ci-dessous).

Il existe deux types de format pour les actions customs :

• Le format « action», dans lequel il faut définir le nom de l’action, et le run qui correspond à une liste d’instructions que l’agent doit effectuer. Par exemple : appeler une API pour récupérer le nom de l’utilisateur puis lui renvoyer un message en réponse.
• Le format « FormAction » dans lequel il faut définir le nom de l’action et les slots nécessaires pour passer au submit (qui est l’équivalent du Run de l’action décrite précédemment). Tant que tous les slots ne sont pas remplis, le Chatbot va continuer à poser des questions pour renseigner chacun des slots manquants. Par exemple, si vous réservez un voyage, les slots nécessaires seront : la ville, le nombre de personne, le budget, etc…
• Enfin, le submit sera matérialisé par l’envoi d’un message récapitulant les informations fournies par l’utilisateur.

La création de stories

Les stories sont des éléments essentiels du Chatbot. Elles constituent les données d’entrainement pour le modèle de discussion dans Rasa Core. Pour chaque décision à apprendre au bot, il faut ajouter la story associée. La création de stories consiste à transformer une discussion « type » en un enchaînement d’intentions et d’actions (voir l’image ci-dessous). Ce processus peut paraître très fastidieux à première vue. Il faut savoir que Rasa Core va créer automatiquement des stories plus longues en enchaînant 3 histoires. Ensuite, il existe un module d’entraînement online qui permet de créer des stories en discutant avec lui et en l’aidant à prendre les bonnes décisions.

L’entraînement du modèle

Une fois les stories et le fichier de configuration prêts, il faut entraîner le modèle. Ce dernier va choisir les actions à exécuter selon les informations précédentes. Dans Rasa, un modèle se décompose en trois parties appelées policy :

• La première est Memorization. Cette stratégie se rappelle les exemples présents dans les stories et va les appliquer si la discussion se retrouve dans un état qu’elle connait.

• La deuxième stratégie est basée sur un modèle de type réseau de neurone. Cette stratégie est le cœur de l’agent conversationnel intelligent, elle va essayer de créer un modèle prédictif qui va généraliser à partir des données d’entrainement. Il est possible de régler la taille de l’historique que le modèle considère pour prendre ses décisions ainsi que le nombre d’époques pour entraîner le réseau de neurones.

• La dernière est la stratégie Fallback. Elle va prendre le dessus quand les deux autres stratégies auront échoué, c’est-à-dire lorsque la confiance associée à leurs décisions sera trop basse. Un message du type « Je n’ai pas compris, peux-tu reformuler ? » sera alors envoyé à l’utilisateur.

Mise en orchestration des briques

Une fois les 2 modèles NLU et Core entraînés, il convient maintenant de les déployer pour mettre en place l’agent, ainsi que sa connexion avec l’interface de discussion. Pour cela, Rasa a mis à disposition des modèles de création d’agents pour les principales interfaces actuelles (Facebook, Workplace, Slack, Telegram, etc.). Il faut alors renseigner les mots de passe et les tokens de sécurités nécessaires pour chaque canal.

Il est également possible de modifier les fichiers de références pour gérer les images et les fichiers audio retournés par Rasa lors des actions custom. Ces types de fichiers n’étant pas pris en compte dans le framework Rasa, il faut utiliser des briques extérieures pour transformer le message – image ou son – en texte compréhensible par le Chatbot.

Un mode « debug » est présent dans la solution. Il offre des détails sur le traitement du message de l’utilisateur tels que le niveau de confiance de la brique Rasa NLU ou les entités qui ont été récupérées. Le mode debug présente le choix des actions et l’états des slots pour la partie discussion (Rasa Core).