Paramètres avancés
Emplacement : Étape 13 - Paramètres avancés
Il s’agit de l’étape experte pour la forme de sortie et les directives manuelles.
Contrôles disponibles
- Crawl Delay (seconds)
- Consolidate User-agents
- Custom Rules
Ce que font ces réglages
Crawl Delayajoute une valeur de délai pour les robots qui la respectentCustom Rulesvous permet d’ajouter vos propres directivesConsolidate User-agentsregroupe les règles parUser-agent
Notes sur les offres
Crawl Delayest disponible sur Pro et Premium