Robots.txt pour Yahoo! / Yahoo! Slurp

Yahoo!

Yahoo! Slurp est le robot d'exploration de Yahoo!. Lors de l'exploration, le robot Slurp recherche des pages mises à jour ou nouvelles à ajouter dans l'index de Yahoo!.

Instructions pour Googlebot

Exemple de robots.txt ciblant Yahoo! pour bloquer l'exploration du dossier /personnel/. Les robots de Yahoo! acceptent deux noms différents : Yahoo! Slurp et Slurp

User-agent: Yahoo! Slurp
Disallow: /personnel/

ou (équivalent) :

User-agent: Slurp
Disallow: /personnel/

A noter également que Yahoo! supporte la directive Allow dans le fichier robots.txt pour bloquer l'exploration d'un répertoire sauf certains fichiers ou sous-répertoires contenus dans celui-ci.

Plus d'information sur Yahoo! Slurp sur la page Webcrawler du centre d'aide de Yahoo!.