Alex писал(а):robots.txt лежит в корне сайта. Там инструкции для роботов - гугля, яндекса и пр. В какие папки роботам можно заходить, а какие папки пропустить и не индексировать. Роботы поисковых систем начинают просмотр сайта со считывания файла robots.txt. Вот и всё.
Роботы давно на это забивают.