Sitemaps: помогаем поисковым системам индексировать ваш сайт
Поисковые роботы, какими умными алгоритмами они не были наделены, все равно — обычные программы. Которые к тому же должны кравлить целую тучу разных сайтов. Неудивительно, что об изменениях на вашем сайте робот может узнать через неделю после самих изменений. В случае с Гуглботом это особенно актуально для страниц с низким PageRank.
У вас есть не так много средств, чтобы управлять тем, как часто робот просматривает сайт. Да, есть HTTP-заголовок Expires, но от него не так много пользы. Довольно часто приходится просто сидеть и ждать, пока поисковый робот почтит вас своим вниманием и переиндексирует именно эту страницу.
К счастью, появилась технология, с помощью которой вебмастер может самостоятельно указывать поисковой системе, какие страницы изменились, какие — нет, какие страницы и как часто следует индексировать. Тыкать поисковый бот носом, так сказать. Эта технология называется Sitemaps. Узнать, что это такое.
