Ce matin, je mettais en ligne un billet scraper la base d’incendies de forêts expliquant comment scraper la base Promethee, en remplaçant automatique une formulaire. Dans la soirée, Alek Vladimir Nevski sur Twitter me faisait remarquer que c’était intéressant, mais peut être inutile (sur cet exemple particulier en tous cas).
Sur Firefox, il existe un “Moniteur Réseau“, qui s’ouvre en cliquant sur le clavier Ctrl + Maj + E ( Command + Option + E quand on est est sur un Mac). Ça ouvre un espace en bas de la fenêtre
Si maintenant je lance a la main ma requête, on voit ce qui est fait
Une methode GET apparait. En cliquant dessus, on a toute l’information nécessaire a droite
Dans l’onglet ‘Reponse’, on voit l’information sur le fichier json créé,
on a plus d’information bien entendu, si on agrandit
et surtout si on va dans l’onglet ‘En-tetes’
on a l’URL complet de la requête ! On peut ensuite copier le lien, et l’ouvrir
On a ainsi a accès a presque toute la table. Quand on regarde l’URL, seuls 20 incendies sont renvoyés, a cause du &nbrLigne=20& mais on peut tenter de le changer. Alek Vladimir Nevski propose de mettre &nbrLigne=10000& et il affirmait que ça marchait. J’avoue avoir essayé, sans succès.
Mais je retiens le tuyau en tous cas. Parfois, on peut faire simple !
OpenEdition suggests that you cite this post as follows:
Arthur Charpentier (September 19, 2018). Scraper, ou pas ? Freakonometrics. Retrieved December 3, 2024 from https://doi.org/10.58079/ovbq