je voudrais savoir si vous avez des expériences similaires avec des bots qui ont un drôle de comportement.
Je viens de bloquer (en partie) Yandex l'homologue de Google en Russie, sur une rangée d'IP : 93.158.150.0 à 93.158.150.255
Ce bot teste une centaine de fois par jour à référencer des dossiers en testant des noms au hasard.
Je sais que Yandex possède différents bots, mais je trouve ses pratiques douteuses ! C'est le premier dans la liste :
Liste des robots Yandex
Voici les Yandex Bots :
* Yandex/1.01.001 (compatible; Win16; I) : robot principal; sa fréquence de crawl est assez élevée et il est de loin le plus assidu des robots pour un site russe, même petit, au netlinking très faible et aux mises à jour rares. Ce robot est également de plus en plus présent sur les sites non-russophones.
* Yandex/1.01.001 (compatible; Win16; H) : robot dédié aux sites miroirs et contenus dupliqués
* Yandex/1.01.001 (compatible; Win16; P) : robot images
* Yandex/1.02.000 (compatible; Win16; F) : robot favicons
* Yandex/1.03.000 (compatible; Win16; M) : robot servant au surlignage des mots-clés dans le cache
* Yandex/1.03.003 (compatible; Win16; D) : robot actif lors de l'ajout d'URL à Yandex
* YaDirectBot/1.0 (compatible; Win16; I) : robot pour les sites qui installent un code Yandex Direct (régie publicitaire de Yandex)
* YandexBlog/0.99.101 (compatible; DOS3.30,B) : robot dédié aux fichiers XML pour Blog Search (RSS/Atom) http://blogs.yandex.ru/
* YandexSomething/1.0 : robot Yandex News news.yandex.ru
* Yandex/2.01.000 (compatible; Win16; Dyatel; C) : robot vérifiant si les sites présents dans l'annuaire Yandex fonctionnent; si non, les sites sont supprimés rapidement
* Yandex/2.01.000 (compatible; Win16; Dyatel; D) : contrôle les liens sponsorisés Yandex Direct
* Yandex/2.01.000 (compatible; Win16; Dyatel; Z) : robot de Yandex Bookmark
Bref OUT !!
C'est qui le prochain ? Baidu ?