robots.txt — что это и частые ошибки | SEO Глоссарий

Глоссарий

robots.txt

Файл с рекомендациями для роботов: что можно обходить, что лучше не тратить краулинг.

robots.txt — это не «запрет индексации навсегда», а управление обходом. Закрыли URL в robots — робот может не увидеть даже noindex на странице.

Типичная ошибка: закрыть нужные каталоги, CSS/JS, или весь сайт после переноса.

Служебные параметры и корзину часто ограничивают. Коммерческие разделы — почти никогда.

Если термин всплыл в отчёте подрядчика или в аудите — могу разобрать на вашем сайте: что это значит именно для вашей ниши и что делать дальше.

Все термины · Чек-листы · Услуги

Следующий шаг

Давайте посмотрим, есть ли у вашего сайта точки роста

Расскажите, чем занимаетесь и что сейчас не устраивает в SEO. Я посмотрю проект и предложу следующий шаг.

Как удобнее связаться? *

Отправляя форму, вы соглашаетесь на обработку данных для ответа.

Спасибо! Заявка получена. Свяжусь с вами в течение рабочего дня.
Калькулятор Обсудить