+7 499 753-40-53
+7 499 753-40-53
zapros@web-dius.ru

Как проверить индексацию сайта

Продвижение сайтов – дело настолько тонкое и точное, что ошибка SEO-специалиста порой может привести к таким же критичным последствиям, как, скажем, неточное решение топ-менеджмента компании. К примеру, вы можете ежемесячно инвестировать в контент шестизначные суммы, публиковать лучшие статьи от экспертов «с именем», но все усилия по продвижению перечеркнёт единственный символ в robots.txt. Этим символом вы запретите индексирование, из-за чего ваш изумительного качества контент попросту никто не увидит.

Статья объяснит, почему индексация является критически важным моментом в SEO, посоветует ряд сервисов и инструментов и уточнит, как проверить индексацию сайта в «Яндексе» и Google.

Содержание

 

Что мы имеем в виду, говоря об индексации

Индексация сайта - картинка

Индексация – процесс, когда робот поисковика заносит в свои базы данных информацию о веб-ресурсе. Пользователю в выдаче демонстрируются только проиндексированные роботом страницы. Пока страница не пройдёт индексирование, не начнёт ранжироваться.

Как происходит индексация? Рассмотрим по этапам:

  1. Робот узнаёт о существовании вашего ресурса и заходит посмотреть, что там интересного.
  2. Следующим этапом является планирование. Робот планирует время занесения контента с сайта в свой индекс.
  3. Робот индексирует контент. Страницы попадают в базу данных.
  4. Проиндексированные страницы начинают ранжироваться и показываться пользователям в выдаче.

Весь алгоритм условно можно поделить на 2 части: сканирование (этапы 1-2) и непосредственно индексация (этапы 3-4). Важно понимать разницу между сканированием и индексированием. Робот сканирует сайт целиком, а вот добавить в индекс может только часть страниц – например, потому, что сочтёт остальные недостаточно качественными.

На животрепещущий вопрос SEO-специалистов о том, сколько времени занимает индексирование, к сожалению, чёткого ответа нет. Время индексации мало зависит от того, насколько крупный сайт и сколько денег инвестировано в развитие. Больше – от того, как сильно ресурс приглянулся поисковой системе. Если будете публиковать качественные материалы и избегать проходных, со временем добьётесь, что странички будет «залетать» в индекс почти мгновенно. В отношениях с поисковиком важно доверие. Заслужите его – и робот начнёт пропускать контент в индекс, как охранник пропускает старого знакомого в ночной клуб.

Нужно ли проверять индексирование в поисковых системах

Нужно ли проверять индексирование в поисковых системах - картинка

Проверка индексации сайта в Google и «Яндекс» позволяет SEO-специалисту сделать вывод, используется ли потенциал ресурса «на полную», а также определить, почему трафик ресурса просел. Проверка индексации сайта – важный этап SEO-аудита. Оптимизатор определяет:

  • все ли страницы в индексе;
  • если часть из них не зашла в индекс – почему так вышло.

Естественно, некоторые страницы SEO-шник закрывает от индексации собственноручно. Речь о страницах служебного пользования, пагинации, о дублях. В редких ситуациях скрепя сердце приходится закрывать от индексирования страницы с ценным контентом – например, по требованию Роскомнадзора. Однако, если вне индекса оказалось множество статей с ценным контентом, это очевидный признак того, что сайт «недополучает» трафика. Проверка индексации страниц сайта даёт возможность «вытащить» эту проблему наружу и принять меры по её устранению.

Второй повод проверить сайт на индексацию в поисковиках – проседание трафика. В пределах ресурса трафик по страницам распределяется неравномерно. Часто существует одна страница-«локомотив», которая приносит сайту 30-40% трафика. Если такая выпадет из индекса и окажется недоступной для пользователей, это приведёт к существенному снижению трафика в целом.

Возможно ли продвижение без индексирования

Продвижение сайта без индексирования в поисковых системах - картинка

Возможно – если делаете акцент на контекстную рекламу. Проверкой контекстных объявлений и индексацией веб-сайтов занимаются два разных робота – и роботу, отвечающему за «контекст», всё равно, находится ли ресурс в индексе поисковика. Такой путь продвижения, как правило, выбирают владельцы «одностраничников», поскольку понимают, что не способны конкурировать за Топ выдачи с «гигантами», имеющими сотни тысяч оптимизированных страниц.

К слову, если потом надумаете продвигаться в органическом поиске, контекст вам сыграет добрую службу. С момента, когда люди начинают переходить на сайт по объявлениям в контекстной рекламе, запускается поведенческий фактор ранжирования. Значит, в индекс ресурс попадёт уже не «нулевым», а с каким-никаким трастом.

Определяем количество страниц в индексе

Как определить количество страниц сайта в индексе - картинка

Есть много способов посмотреть индексацию сайта. О каждом – расскажем подробно.

Через «вебмастерские»

Для проверки индексации сайта в «Яндекс» прибегаем к услугам «Яндекс.Вебмастера». Нужно проследовать по пути «Индексирование» – «Страницы в поиске».

Как проверить индексацию сайта в Яндекс Вебмастере - скриншот

В этом разделе перейдите на вкладку «Все страницы». Вы увидите перечень страниц, присутствующих в индексе русского поисковика.

Проверка индексации страниц в Яндекс Вебмастере - скриншот

Перечень можно выгрузить в файлах форматов .xls и .csv, чтобы потом открыть в Excel.

Другой сервис «Проверить статус URL» необходим для постраничной проверки индексирования. Пользоваться им просто – вбиваешь URL-адрес в поисковую строку и нажимаешь «Проверить». На экране появляется лаконичный отчёт, как на примере ниже:

Проверка статуса URL страницы в Яндекс Вебмастере - скриншот

Проверка индексации сайта в «Гугле» производится в панели Google Search Console. Полный перечень страниц в индексе здесь представлен в разделе «Покрытие» (1), а выполнить анализ единственной странички можно в разделе «Проверка URL» (2).

Проверка индексации страниц в Google Search Console - скриншот

Разумеется, метод годится только для анализа собственного веб-ресурса. Чужие придётся проверять иначе.

С использованием оператора «site»

Операторами называют команды, которые позволяют уточнить результат выдачи. В частности, с помощью оператора «site:» можно ограничить выдачу страницами лишь одного сайта. Так вы узнаете, какое количество страничек вашего веб-ресурса ПС успела проиндексировать.

Занесите в поисковую строку запрос в формате: site:web-dius.ru.

Проверка индексации сайта в поиске Яндекса - скриншот

Правее колонки выдачи мы видим надпись «Нашлось 552 результата». Это значит, что в индексе ПС 552 страницы сайта.

Оператор «site» предназначен для массовой проверки индексации сайта. Анализировать конкретную страничку нужно при помощи оператора «url:».

Проверка индексации страниц сайта в поиске Яндекса - скриншот

Если страничку вы видите, значит, она успешно проиндексирована поисковиком.

Заметка. В Google оператор «url:» не работает. У забугорного поисковика схожую функцию выполняет оператор «inurl:». Он позволяет оставить в выдаче только те сайты, которые содержат определённое слово или набор символов в URL-адресе.

Благодаря функции расширенного поиска в «Яндексе» мы, используя операторы, можем определить, какие страницы были добавлены в индекс недавно – например, за последний месяц. Как это сделать? Кликаем на иконку расширенного поиска (1), выбираем в форме «За месяц» (2), выставляем регион, в котором продвигаемся (3). Потом жмём «Найти».

Расширенный поиск в Яндексе для проверки индексации страниц - скриншот

В результате узнаём, что за последний месяц на ресурсе опубликовали 14 статей, и получаем список этих материалов.

Задействуем плагины и дополнения браузеров

Плагины – это простенькие javascript-программы, которые устанавливаются в браузере в виде дополнений. С одной стороны, плагины удобны для быстрой проверки сайта на индексацию онлайн – не нужно всякий раз лезть в сервисы, достаточно нажать на иконку. С другой стороны, они «утяжеляют» браузер, и тот начинает потреблять больше ресурсов компьютера.

Для проверки индексации сайта онлайн можно воспользоваться такими дополнениями:

  • RDS Bar. Даёт возможность бесплатной проверки индексации сайта онлайн в «Яндексе». По Google, увы, информации не предоставляет – пишет «parse error».
  • SEO-анализ сайта от Be1. «Убойное» расширение, которое не только определяет число страниц в индексе, но и проверяет ресурс по ряду других критериев – например, замеряет его скорость на PageSpeed.
  • SEO-Tools. Эта программа не проверяет индексацию сайта в «Яндексе» и «Гугле» самостоятельно – она по сути лишь подставляет команду оператора и показывает юзеру уточнённую выдачу. Вариант для самых ленивых.

При помощи платных и бесплатных онлайн-сервисов

Говоря откровенно, информация об индексации – не та, за которую стоит платить. Для её получения можно использовать один из множества бесплатных сервисов:

  • PR-CY. Даёт возможность бесплатно проверить индексацию сайтов онлайн в «Яндекс» и Google. В платной версии позволяет посмотреть динамику индексирования.
  • Инструмент Серпхант. Лучший онлайн-сервис для проверки индексации конкретных страниц. Можно проанализировать одной «пачкой» до 50 URL-адресов, а результаты проверки – выгрузить в форматах, которые читаются Экселем.
  • Arsenkin.ru. Инструмент Александра Арсёнкина способен проверить индексирование 5000 (!) адресов сразу. Правда, воспользоваться этой программой удастся только после регистрации / авторизации.

Сервисы seogadget.ru, xseo.in и raskruty.ru сейчас рекомендуют скорее «по инерции» – невзирая на то, что они «скатились». Seogadget большую часть времени недоступен, а у двух оставшихся – дизайн из разряда «вырви глаз».

Платные сервисы рекомендуем использовать для проверки сайта на индексацию онлайн, если вы и так применяете их в работе. Программы-«мультитулы» позволяют соблюдать принцип «одного окна» и по минимуму переключаться между закладками – что удобно. К примеру, сервис SERanking проверяет позиции, обратные ссылки, качество используемой семантики – и индексирование между делом. Для «Линкбокс» проверка индексации сайта – тоже побочная задача, поскольку эта программа нужна главным образом для работы с бэклинками.

Заметка. Если вам нужна проверка индексации сайта по ключевым словам, а не по URL-адресам, используйте сервис Rush-Analytics. Других программ, способных справиться с этой нетривиальной задачей, пока нет.

Утилиты для десктопа

Есть ряд десктопных программ, которые позволяют проверить индексацию сайта в поисковых системах бесплатно и за деньги. В число бесплатных программ входят:

  • Site-Auditor. Небольшая утилита от Лаборатории Ашманова.
  • Xenu’s Links Sleuth. Инструмент, предназначенный прежде всего для поиска битых ссылок. Но и чтобы проверить индексацию сайта, тоже сгодится.

У платных программ функция проверки индексации является второстепенной. Речь идёт о:

  • Screaming Frog SEO Spider. Культовая прога в сфере SEO, «паук», способный «спарсить» ресурс целиком и разложить его в виде таблицы EXCEL.
  • Netpeak Spider. Главный конкурент «лягушки», недорогой парсер, позволяет выполнить глубокий SEO-анализ.
  • SEMonitor. Пакет программ, в который помимо утилиты, способной проверить индексацию сайта в «Гугл» и «Яндекс», входит множество других – например, для чека позиций и анализа бэклинков. Инструменты толковые, но по интерфейсу выглядят, будто их не меняли уже пару десятилетий.

Индексация не происходит: причины

Индексация сайта не происходит - причины - картинка

Нужно понимать, что быстрая индексация – это привилегия со стороны поисковиков. Увы, SEO-шники склонны «пожарить» по поводу индексации преждевременно – начинают искать ошибки, когда поисковый робот до сайта ещё не успел добраться. Дольше всего ПС индексирует молодые ресурсы. Поисковику нужно время, чтобы собрать информацию о том, какие материалы на ресурсе публикуются. Стоит быть готовым к отсутствию нового сайта в выдаче в течение минимум полугода.

А вот если страницы старого сайта не заходят в индекс – это уже нерядовая ситуация. Дело может быть в SEO-ошибке или вообще в фильтре ПС. Рассмотрим возможные причины, почему ресурс не индексируется:

  • Страница или раздел закрыты в «роботсе». При корректировании robots нужно действовать с хирургической точностью. Если неверно использовать директиву, можно, ошибившись, запретить индексацию целого раздела сайта.
  • Отсутствует сайтмап. Карта сайта (сайтмап) содержит ссылки на все страницы ресурса. Благодаря sitemap вы облегчаете поисковому роботу работу.
  • Низкая скорость загрузки. Робот не может себе позволить ждать по несколько секунд, когда страница загрузится – у него и так полно работы. Поэтому во избежание проблем с индексированием позаботьтесь о том, чтобы ускорить загрузку, и не публикуйте огромные картинки.
  • Контент редко обновляется. Робот зайдёт раз, зайдёт два, увидит, что ничего не меняется, и потом начнёт заходить всё реже. Чтобы этого избежать, заведите на сайте новостной раздел и делайте там хотя бы по одной публикации ежедневно. Такой контент стоит копейки.
  • CMS настроена на запрет индексации. Например, в «админке» WordPress достаточно поставить всего одну галочку, чтобы запретить поисковикам индексировать ресурс.
  • Сайт «забанен». Обычно в это не верят до последнего. Но если вы перебрали все варианты причин отсутствия индексаций, стоит предположить самое худшее. Напишите письмо Платону Щукину, попросите уточнить, не попал ли сайт под фильтр.

Страницы могут иметь слишком большой уровень вложенности –. Предельно допустимым уровнем вложенности считается 4-ый. Если странички запрятаны глубже, отсутствие их в индексе вполне ожидаемо. У робота может просто не хватить краулингового бюджета, чтобы до них добраться.

Что такое краулинговый бюджет и как он связан с индексацией сайта

Индексация и краулинговый бюджет сайта - картинка

Понять, что такое краулинговый бюджет, проще, если рассматривать его через призму бытовых примеров. Представим, вы записались к стоматологу в поликлинику. Он находит два больных зуба: один лечит, а второй за отведённые на пациента 45 минут не успевает. Будете ли вы возмущаться и требовать, чтобы всё вылечили за один визит? Вряд ли. Стоматолог – заложник обстоятельств, у него в коридоре уже собралась очередь.

«Краулинговый бюджет» стоматолога из примера – 45 минут. У поисковика краулинговый бюджет измеряется количеством не минут, а страниц. По сути это максимальное количество страниц, которое он может обойти за раз. Больше он себе позволить не может, поскольку сайтов, которые стоят в очереди и нетерпеливо ждут переобхода – тьма тьмущая.

Робот обходит сайт планомерно. Сначала проверяет главную, потом проходится по второму уровню вложенности – и так, пока не кончится краулинговый бюджет. Поскольку краулинговый бюджет поискового робота ограничен, он просто не доберётся до страниц, которые глубоко запрятаны. Поэтому в индексации 5-го и последующих уровней вложенности можно быть уверенным, только если сайт небольшой.

Как ускорить процесс индексации сайта

Как ускорить процесс индексации сайта - картинка

  1. Первое правило, которое реально работает – сделать публикации в соцсетях со ссылками на сайт. Социальные сети – это тоже сайты, и по ссылкам с этих сайтов роботы переходят.
  2. Второе – переработайте структуру сайта, сделайте её более «плоской», без больших уровней вложенности. Вместе с тем, конечно же, настройте эффективную перелинковку.
  3. Третье – регулярно публикуйте контент. «Приручайте» поискового робота и приучайте его к тому, что статьи на вашем сайте – исключительного качества.

Выводы

Никакой «чудесной кнопки», которой пользуются «мастодонты» SEO для быстрой индексации, не существует. Рекомендации по увеличению скорости индексирования, изложенные выше, секретными никак не назовёшь. Неужели вы никогда не слышали, что если публиковать хорошие материалы, вас полюбят поисковики? Их любовь проявляется быстрой индексацией.

Проверять индексацию сайта онлайн или через десктопные программы нужно, но не стоит тратить на это много времени и уж тем более подключать платные сервисы. Вся информация об индексации и её динамике доступна бесплатно в панелях вебмастеров Google и «Яндекс».

Комментарии

Добавить комментарий

* Поля, обязательные для заполнения
Бесплатный
аудит сайта
Сделаем анализ
сайта, напишем
как сделать
его продающим и
популярным в
поиске
Добавляйся в наши социальны сети:
Каждый день интересные материалы про маркетинг и не только.
Контакты
Офис продаж:
г. Москва, ул. 4-я Кабельная, 2 строение 1А, 5-й этаж, офис №2
Пн - Пт: 9.00-18.00

SEO-Продвижение:
узнайте стоимость для вашего сайта!

Студия DIUS работает с продвижением сайтов:

Бесплатное составление
бюджета
5
шагов для рассчета стоимости
продвижения онлайн!
 
  • По трафику
  • По позициям
  • Продвижение молодых сайтов
  • Продвижение интернет-магазинов

Ваш расчет готов. Пожалуйста, заполните форму ниже для связи с вами по данному вопросу:

Заказ сайта
Оставить заявку
Заявка на расчет
Оставить заявку
Оставить заявку
Заказ услуги
Заказ услуги
Заказ работ
Продвижение от 10.000 рублей
X
Хочу быть автором