EntryMakerBot

Description

(Sur les bases du SPARQLbot, ce bot cherche à créer un profil à partir des archives du temps, de manière à créer des ébauches de nouvelles entrées pour wikipast, ainsi que des propositions de nouvelles pages.) EntryMakerBot se base sur les archives du journal "Le temps" afin de déterminer quelles informations pourraient être ajoutées à la page wikipast associée à la recherche. En téléchargeant le texte brut depuis les archives, il est possible de déterminer quelles lignes correspondent au personnage recherché, la date de publication du journal, puis d'effectuer un simple triage en fonction de leur pertinence.

Le fonctionnement du bot se divise en 3 étapes: Premièrement, un scrapping d'informations sur le site de référence (wikipédia ou letempsarchives) est effectué. L'algorithme détermine, grâce aux locations du nom de la personne recherchée, les phrases du texte importantes pour la recherche d'informations. Deuxièmement, les phrases passent par un premier test d'importance puis les dix plus importantes sont sélectionnées afin de passer par la troisième étape: Une sélection basée sur le lexique 382.

Scrapping d'informations

En utilisant une copie des articles wikipédia ou les archives du temps, il est possible d'itérer sur chaque mot et trouver les locations du nom du personnage recherché. En interpolant sur ces locations, il est ensuite possible de reconnaître l'emplacement de l'article concernant la cible. Le texte analysé est ensuite nettoyé, c'est à dire que les éventuelles lettres ne servant à rien dans le texte sont supprimées (delet this), les tirets de fin de page sont supprimés afin de rendre le texte plus facile à analyser pour un ordinateur.

Test d'importance 1

Le premier test d'importance se fait en utilisant simplement les phrases analysées. Durant ce test, le nombre d'occurrences (le nombre de fois qu'il apparait dans le texte) de chaque mot et détermine leur fréquence dans le texte. Grâce à cette information, il est possible de classer les phrases et de déterminer celles ayant le plus de chances d'avoir des informations importantes.