PageUpdaterBot
Aller à la navigation
Aller à la recherche
Résumé des fonctionnalité
PageUpdaterBot est un robot qui s'occupe de compléter les différentes pages sur Wikipast à partir d'hyperliens. PageUpdaterBot vérifie que sur chaque page, tous les hyperliens (excepté les dates) mènent vers une page existante et que les entrées associées soient placées aux bons endroits. Si la page associée à l'hyperlien n'existe pas, PageUpdaterBot crée la page et place l'entrée associée dans cette page.
Description technique et discussion
PageUpdaterBot peut charger les pages à traiter de deux manières différentes, soit selon les dernières modifications, soit depuis le début, assurant de ce fait le traitement de toutes les pages. PageUpdaterBot va analyser le contenu de la page entrée par entrée. Pour chaque entrée, le bot extrait les hyperliens qu'elle contient, en excluant la date et celui de la page en cours d'analyse. PageUpdaterBot va ensuite vérifier que chaque hyperlien redirige vers une page existante, que l'entrée existe bien dans cette page et qu'elle est placée au bon endroit. Si l'un de ces trois critères n'est pas remplis, PageUpdaterBot va créer la page, ajouter l'entrée, ou réordonner chronologiquement les entrées. Afin de faciliter le traitement, un ID est associé à chaque entrée sous la forme d'un commentaire <!-- PUB METAINFOS : entryID = &beginID&42&endID& --> placé à la fin de la ligne.
Dans le cas où deux entrées sont présentes sous des formes différentes sur deux pages, la plus récente sera gardée. Les pages sont sélectionnées de la plus récente à la plus ancienne pour assurer que la modification la plus récente prime. Pour vérifier que les entrées sont les mêmes, leurs PUB_id sont comparés. Si une entrée de la page mère n'a pas de PUB_id, l'algorithme lui en donnera un, si une entrée de la page fille ne possède pas de PUB_id, la liste d'hyperliens et de références qu'elles contiennent est comparée, si une correspondance est trouvée, leurs identifiants seront mis à jour. Ce traitement peut être source d'erreur si un utilisateur maladroit modifie accidentellement le PUB_id à la fin de chaque entrée. Ce qui rend ce bot un peu vulnérable au mauvais comportement des utilisateurs. Un autre cas peut poser problème : dans le cas ou une section contient des entrées sous forme de liste, puis quelques paragraphes de textes, et enfin à nouveau une liste d'entrée. Le texte entre les deux listes sera effacé par le bot. Ce qui ne devrait pas poser trop de problèmes si les utilisateurs respectent la convention adoptée.
Exemples
Exemple 1
Un utilisateur qui met à jour la page Henri Dunant rentre l'information
1864.08.22 /Genève . Création par Henri Dunant de la Croix rouge. [5]
Le bot commence par associer un PUB_id à la nouvelle entrée et copie la ligne dans la page Création. Le bot trie chronologiquement les entrées de la page Création. L'entrée se retrouve donc à la bonne place. Comme la page Croix Rouge n'existe pas. Le bot crée la page Croix rouge et recopie la ligne dans cette nouvelle page.
Exemple 2
Un utilisateur qui met à jour la page Création supprime l'information
1864.08.22 /Genève . Création par Henri Dunant de la Croix rouge. [5]
Le bot trie chronologiquement les entrées sur la page Henri Dunant et sur la page Croix rouge et supprime l'entrée de ces pages.
Code
Version du 07.05.17 à 17:17 (commit : Regex correction)
# coding: utf-8
import urllib
import requests
import json
import re
from bs4 import BeautifulSoup
passw = 'hqk-NGF-S6z-qqF'
baseurl = 'http://wikipast.epfl.ch/wikipast/'
summary = 'Wikipastbot update'
user = 'PageUpdaterBot' #nom du bot
HUBPage = baseurl + 'index.php/PageUpdaterBot' #Page contenant les méta information de PUB, notamment son compteur d'IDs.
beginID = '&beginID&'
endID = '&endID& -->'
metaInfo = '<!-- PUB METAINFOS : ID = ' #synthaxe des métainfos présentes sur le HUB du bot
entryMetaInfo = '<!-- PUB METAINFOS : entryID = ' #synthaxe des métainfos présentes sur les **entrées des pages**
# Login request
payload = {'action':'query','format':'json','utf8':'','meta':'tokens','type':'login'}
r1 = requests.post(baseurl + 'api.php', data = payload)
#login confirm
login_token = r1.json()['query']['tokens']['logintoken']
payload = {'action':'login','format':'json','utf8':'','lgname':user,'lgpassword':passw,'lgtoken':login_token}
r2 = requests.post(baseurl + 'api.php', data = payload, cookies = r1.cookies)
#get edit token2
params3 = '?format=json&action=query&meta=tokens&continue='
r3 = requests.get(baseurl + 'api.php' + params3, cookies = r2.cookies)
edit_token = r3.json()['query']['tokens']['csrftoken']
edit_cookie = r2.cookies.copy()
edit_cookie.update(r3.cookies)
# Définis à part du code du main, chaque fonction
# devrait idéalement être testée, si possible ici.
# mais après on fait comme on veut.
def test():
#TODO
pass
#--------- main code-------------------
def main():
# Récupération de l'Id de base pour les PUB_id
PUBId = fetchPUBmetaInfo(HUBPage)
# Récupération de la liste de pages à parcourir.
pagesToMod = []
if PUBId == 0:
pagesToMod = getPageList(True)
else:
pagesToMod = getPageList(False)
## boucle d'action principale du code.
for u in pagesToMod:
contenu = fetchPageData(u)
pageTitle = u
allEntries = parseEntries(contenu)
for entry in allEntries:
if getPUBId(entry) == None:
PUBIdInt = int(PUBId) + 1
PUBId = str(PUBIdInt)
setPUBId(entry, PUBId)
#Important, à partir de ce moment la getPUBId(entry) devrait plus pouvoir retourner None !
pagesConcerned=getHyperLinks(entry, pageTitle)
for name in pagesConcerned:
urlFetched = getWikiPastUrl(name)
if urlFetched == None:
#ilavec n'y a pas d'Url qui correspond à notre hypermot, donc on doit créer cette page
urlFetched = createNewPage(name)
fillePageContenu = fetchPageData(urlFetched)
fillePageEntries = parseEntries(fillePageContenu)
#ensuite on créé un index des différentes entrées selon leur PUBId
#IdAndEntry est une liste de tuples de la forme (PUBId: Int, Entries : String)
IdAndEntry = map(lambda e: (getPUBId(e), e), fillePageEntries)
found = False
currPUBId = getPUBId(entry)
#Le coeur de PUB on update les entrées selon l'entrée qu'on dispose nous.
for t1, t2 in IdAndEntry:
#On regarde d'abord si on a le même ID:
if t1 != None:
if t1 == currPUBId:
#on a trouvé Un Id qui match, on overwrite l'entrée par celle de la page courante.
t2 = entry
found=True
else:
#On un entrée indexée par "None", donc il faut regarder si les deux entrées sont similaires pour l'updater correctement.
if areEntrySimilar(entry, t2):
t2 = entry
found=True
if not found:
#Puisqu'aucune entrée matche, soit avec le PUBId soit avec leur similarité, on doit ajouter cette entrée comme une nouvelle entrée.
IdAndEntry.append((currPUBId, entry))
newEntries = map(lambda t1, t2: t2, IdAndEntry)
sortedEntries = sortEntries(newEntries)
#A présent qu'on a updaté tout comme il fallait, on peut mettre en ligne les modifications sur la page.
contentToUp = unParseEntries(sortEntries)
uploadModifications(contentTuUp, urlFetched)
#le bot a finit ses modifications, il va à présent mettre à jour le PUBId de sa page avec le dernier PUBId attribué.
updatePUBmetaInfo(HUBPage, PUBId)
'''
Récupère le PUB_id
dans le contenu passé en argument.
(Un PUB_id a la forme suivante :
"<!-- PUB_id = &beginID&69&endID& -->")
S'il n'y en a pas, retourne None,
sinon retourne le PUBId (en string).
S'il y en a plusieurs, il retourne le dernier.
@param content : String
le contenu dans lequel trouver l'id.
'''
def getPUBId(content):
return re.search(beginID + '(.*)' + endID, content).group(1)
'''
Récupère tous les PUB_id
dans le contenu passé en argument.
(Un PUB_id a la forme suivante :
"<!-- PUB_id = &beginID&69&endID& -->")
S'il n'y en a pas, retourne un tableau vide.
@param content : String
le contenu dans lequel trouver les ids.
'''
def getAllPUBIds(content):
return re.findall(beginID + '(.*)' + endID, content)
'''
Cette fonction va s'occuper d'aller sur la page
indiquée en argument et regarder si elle trouve le bloc
de méta information de PUB (bloc commençant par
"<!-- PUB METAINFOS :").
Si ce bloc de méta info
est présent, elle va retourner l'Id qui y
est contenu (représentant le dernier Id attribué
à une entrée de page).
Si ce bloc de méta info n'est pas présent,
cette fonction va s'occuper de le créer,
y mettre comme valuer d'ID 0, puis retourner
0.
Si une quelquonque erreur s'est produite,
la fonction retournera un chiffre négatif
ou bien enverra une exception (comme vous le sentez)
'''
def fetchPUBmetaInfo(initialPass):
if initialPass:
currentID = '0'
#écrire metainfo dans le HUB
newMetaInfo = metaInfo + beginID + currentID + endID
newContent = newMetaInfo + '\n'
payload={'action':'edit','assert':'user','format':'json','utf8':'','prependtext':newContent,'summary':summary,'title':user,'token':edit_token}
r4=requests.post(baseurl+'api.php',data=payload,cookies=edit_cookie)
else:
HUBcontent = fetchPageData(user)
result = getPUBId(HUBcontent)
if result == None:
#la balise a été effacée/endommagée
currentID = '-1'
else:
currentID = result
return currentID
'''Cette fonction doit être appelée après que
PUB ait fait toute sa traversée, elle doit
actualiser l'ID contenu de méta_info.
@param newId : Int
Le nouvel ID a inscrire dans les metaInfo.
'''
def updatePUBmetaInfo(newId):
result=requests.post(baseurl+'api.php?action=query&titles='+user+'&export&exportnowrap')
soup=BeautifulSoup(result.text,'html.parser')
content=''
for primitive in soup.findAll("text"):
content+=primitive.string
currentID = fetchPUBmetaInfo()
content=content.replace(metaInfo + beginID + currentID + endID, metaInfo + beginID + str(newId) + endID)
payload={'action':'edit','assert':'user','format':'json','utf8':'','text':content,'summary':summary,'title':user,'token':edit_token}
r4=requests.post(baseurl+'api.php',data=payload,cookies=edit_cookie)
'''
En fonction de la variable fromScratch,
cette fonction va récupérer la liste des pages qui
ont été modifiées récemment, ou bien
toutes les pages sur lequel on veut établir
un indexage par PUBId.
Elle retournera la liste des pages sous
la forme d'une liste d'url wikipast.
@para fromScratch : Boolean
vaut true si on veut faire un indexage depuis 0
ou false si on veut juste récupérer les pages
récemment modifiées.
'''
def getPageList(fromScratch):
protected_logins=["Frederickaplan","Maud","Vbuntinx","Testbot","IB","SourceBot","PageUpdaterBot","Orthobot","BioPathBot","ChronoBOT","Amonbaro","AntoineL","AntoniasBanderos","Arnau","Arnaudpannatier","Aureliver","Brunowicht","Burgerpop","Cedricviaccoz","Christophe","Claudioloureiro","Ghislain","Gregoire3245","Hirtg","Houssm","Icebaker","JenniCin","JiggyQ","JulienB","Kl","Kperrard","Leandro Kieliger","Marcus","Martin","MatteoGiorla","Mireille","Mj2905","Musluoglucem","Nacho","Nameless","Nawel","O'showa","PA","Qantik","QuentinB","Raphael.barman","Roblan11","Romain Fournier","Sbaaa","Snus","Sonia","Tboyer","Thierry","Titi","Vlaedr","Wanda"]
if fromScratch:
depuis_date = '2017-02-02T16:00:00Z'
else:
depuis_date = '2017-05-02T16:00:00Z'
liste_pages=[]
for user in protected_logins:
result=requests.post(baseurl+'api.php?action=query&list=usercontribs&ucuser='+user+'&format=xml&ucend='+depuis_date)
soup=BeautifulSoup(result.content,'lxml')
for primitive in soup.usercontribs.findAll('item'):
liste_pages.append(primitive['title'])
return list(set(liste_pages))
'''
À l'aide du titre de la page donné en argument,
récupère les données de cette page,
sous la forme d'une string
@param pageName : String
le titre de la page wikipast où aller chercher les données.
'''
def fetchPageData(pageName):
result=requests.post(baseurl+'api.php?action=query&titles='+pageName+'&export&exportnowrap')
soup=BeautifulSoup(result.text, "lxml")
pageData=''
for primitive in soup.findAll("text"):
pageData+=primitive.string
return pageData
'''
Vérifie que l'entrée donnée en argument soit bien une
entrée biographie (c'est à dire une entrée à puce commencant par une date)
@param entre : String
l'entrée à vérifier.
'''
def isValidEntry(entry):
if entry[0:3] == '*[[' and (entry[3:7]+entry[8:10]+entry[11:13]).isdigit() and entry[7]+entry[10] == '..' and entry[13:15] == ']]':
return True
else:
return False
'''
Va s'occuper de trier le contenu
de la page donné en argument
pour en ressortir que les entrées biographiques
sourcées (le texte ajouté autre part est ignoré).
Une entrée est normalement écrite sous la forme (dans le code):
*[[YYYY.MM.JJ]] / [[<lieu>]]. [[<évènement>]] entre [[<Mr. X>]] et [[<Mr.Y>]]. [<référence>]
!! remarque importante que je n'avais pas pensé avant :
Où met-on le PUB_id ? (il sera de la forme "<!-- PUB_id=69-->") ?
Il faut penser qu'on doit le mettre dans un endroit stratégique,
car il faudrait que si d'autres bots reprennent ou modifient des entrées,
ils conservent l'intégrité du PUB_id.
Cette fonction retournera une liste de String qui constituent
les entrées retournées sous la forme montrée plus haut.
@param content : String
le contenu de la page
'''
def parseEntries(content):
lines = content.split('\n')
newLines = []
for line in lines:
if not line.isValidEntry():
newLines.append(line)
#if a subtitle is found, abort
if line.startswith('='):
return newLines
return newLines
'''
Va mettre à jour le PUBId de l'entrée
passée en argument si Un PUBId est présent,
Sinon va ajouter ce PUBId à l'entrée
@param entry : String
l'entrée biographie.
@param PUBId : Int
l'Id à mettre à jour sur cette page.
'''
def setPUBId(entry, PUBId):
return entry+' '+entryMetaInfo+beginID+PUBId+endID
'''
retourne une liste d'hyperLinks contenu
dans cette entrée sous une forme de liste
de String, mais en excluant de cette liste l'argument
toExclude.
'''
def getHyperLinks(entry, toExclude):
hyperLinks = re.findall('\[\[(.*?)\]\]', entry)
hyperLinks = set(hyperLinks)
if toExclude in hyperLinks: hyperLinks.remove(toExclude)
return list(hyperLinks)
'''
retourne une liste d'hyperLinks contenu
dans cette entrée sous une forme de liste
de String, mais en excluant de cette liste l'argument
toExclude.
'''
def getReferences(entry):
return re.findall('\[(.*?)\]', entry)
'''
Va créer une nouvelle page wikipast nommée selon
l'argument donné. Si cette page existe déjà, va
simplement retourner l'URL de la page. Autrement retourne
l'url de cette pas nouvelle créée.
@oaram name : String
Le nom de la page à créer.
'''
def createNewPage(name):
subtitleToAdd = ''
payload={'action':'edit','assert':'user','format':'json','utf8':'','prependtext':subtitleToAdd,'summary':summary,'title':name,'token':edit_token}
r4=requests.post(baseurl+'api.php',data=payload,cookies=edit_cookie)
'''
Détermine si deux entrées sont identiques.
Pour ce faire on teste que
les dates, les lieux et la liste des hypermots
sont identiques.
(Pas de comparaison entre les PUBId!)
Si toutes les conditions énumérées ci dessus
sont satisfaites, alors on renvoit True,
autrement Talse.
@param entry1 : String
La première entrée à comparer
@param entry2 : String
La seconde entrée avec laquelle on compare la première
'''
def areEntrySimilar(entry1, entry2):
#la liste des hypermots inclus également la date
listOfHyperLinks1 = getHyperLinks(entry1)
listOfHyperLinks2 = getHyperLinks(entry2)
listOfReferences1 = getReferences(entry1)
listOfReferences2 = getReferences(entry2)
return (listOfHyperLinks1 == listOfHyperLinks2) and (listOfReferences1 == listOfReferences2)
'''
Tri une liste d'entrée par ordre chronologique
@param listOfEntries : List(String)
La liste des entrées à trier
'''
def sortEntries(listOfEntries):
return sorted(listOfEntries)
'''
Va transformer une liste d'entrée
en un format que la page wikipédia en une seule
sting et retourner donc ces entrées
formatée en un seul bloc
@param entries : List(String)
Les entrées nouvellement modifiées
'''
def unParseEntries(entries):
return '\n'.join(entries)
'''
Va uploader le contenu nouvellement modifié
sur la page indiqué par url
Note importante :
il faudrait peut être ajouter à "content" le reste
de la page (pas que la partie des entrées biographiques)
selon comment il faut uploader des modifications sur wikipast
(soit juste la partie qui change, soit toute la page)
@param content : ???? (à voir)
le contenu à uploader
@param url : String
L'url de la page ou mettre ces modifications.
'''
def uploadModifications(content, url):
#TODO
pass