Comment et pourquoi créer un robots.txt
Article publié le 30 décembre 2006 à par Monwebmaster.
Promouvoir cette article
Vous n'avez pas encore de fichier robots.txt à la racine de votre site ?
Dans cette article, il vous sera expliquer l'importance d'un robots.txt
Tout d'abord que contient ce fichier ?
Le fichier robots.txt placer à la racine de votre site contient des lignes de commandes destinés aux moteurs de recherche afin que ceux ci indexe ou pas, un répertoire, une page ou un fichier de votre site.
Vous pouvez par exemple interdire à tous les moteurs de recherche d'indexé le répertoire /administration/ de votre site avec les lignes suivantes :
User-Agent: *
Disallow: /administration/
Si vous voulez spécifiés une restriction à un seul moteur de recherche
il vous suffit de remplacer * par le nom de celui-ci exemple avec google :
User-Agent: Google
Disallow: /administration/
Vous pouvez placer bien évidement plusieurs ligne de commande à la suite :
User-Agent: Google
Disallow: /administration/
User-Agent: VoilÃ
Disallow: /administration/
User-Agent: *
Disallow:
La dernière ligne Disallow: signifie qu'aucune page n'est à exclure ce qui équivaut à l'absence d'un fichier robots.txt sur votrre site si vous n'avez aucun répertoire à protégé de l'indexation des moteurs de recherches.
ATTENTION : le fichier robots.txt ne doit contenir en aucun cas une ligne vide.
Voici une petite liste de moteurs de recherche :
Alta Vista Scooter
Excite ArchitextSpider
Google Googlebot
HotBot Slurp
InfoSeek InfoSeek Sidewinder
Lycos T-Rex
Voilà Echo
Liens sponsorisés
|