[issue42447] robotsparser deny all with some rules

Net Offensive added the comment: Sorry if my message is not clear enough. I will ask my developer to come and complete the information if needed. -- ___ Python tracker <https://bugs.python.org/issue42

[issue42447] robotsparser deny all with some rules

New submission from Net Offensive : Bonjour, Notre développeur a un soucis avec l'utilisation de cette librairie. Dans le cadre d'un projet SEO, nous souhaiterions scrapper les pages de notre réseau de site. Nous avons essayé de tester avec l'un de nos site dont les page