Bots ban
Блокировка ботов
Блокировка ботов
Часть роботов, которые обходят интернет-магазин, ничего ему не дают: SEO-сервисы собирают ссылки и тексты для своих баз, сканеры выкачивают каталог страница за страницей. Они создают нагрузку на сервер, а покупателей и позиций в поиске не приносят.
Модуль закрывает витрину для таких роботов по их User-Agent — строке, которой браузер или бот представляется при каждом запросе. Вы указываете список имён ботов, а модуль на каждом запросе к витрине сверяет с ним User-Agent посетителя. Если в User-Agent есть одно из имён списка, вместо страницы посетитель получает ответ 403 Forbidden с текстом You are forbidden!.
- Настройка одна — список ботов; в нём уже есть известные SEO-краулеры: MJ12bot, SemrushBot, AhrefsBot, DotBot, SEOkicks-Robot, Ezooms.
- Панель администратора модуль не проверяет никогда, так что закрыть себе доступ к админке неудачным списком нельзя.
- Проверка выполняется до формирования страницы, поэтому заблокированный бот почти не нагружает сервер.
Модуль работает на CS-Cart и Multi-Vendor начиная с версии 4.3.1 и поддерживает редакции CS-Cart, CS-Cart Ultimate, Multi-Vendor, Multi-Vendor Plus и Multi-Vendor Ultimate. С версии 1.3.0 модуль совместим с PHP 8.3.
- CS-Cart Ultimate с несколькими витринами и Multi-Vendor Ultimate с несколькими витринами — список ботов задаётся для каждой витрины отдельно (см. Основные настройки модуля).
- Multi-Vendor — список один на весь маркетплейс; продавцам страница модуля не доступна.
Модуль не выводит ничего на витрине, поэтому от темы оформления не зависит.
После оформления и оплаты, ваш заказ будет автоматически переведен в статус Оплачен в течение считанных минут. Статус заказа Оплачен означает активацию лицензии и вам на e-mail отправляется письмо с подтверждением о получении оплаты и письмо со ссылкой на скачивание модуля. Так же модуль всегда можно скачать в нашем разделе Управление лицензиями. Для установки модуля на ваш сайт, пожалуйста, выполните следующие шаги:
- Скачайте последнюю версию модуля на нашем сайте в разделе "Управление лицензиями" или по ссылке, отправленной по e-mail.
- Пройдите в раздел Модули → Управление модулями и в меню шестерёнки выберите Ручная установка.
- Выберите ранее скачанный файл и завершите установку модуля.
На этом установка модуля завершена. Для перехода на страницу настроек модуля выберите установленный модуль в разделе Модули → Модули CS-Commerce
Страница модуля открывается в панели администратора через Модули → Модули CS-Commerce → Блокировка ботов. Туда же ведёт ссылка на модуль в списке Модули → Управление модулями.
На странице одна вкладка — Основные настройки с полем Плохие боты, а справа, в боковой панели, блоки Обновления модуля и Поддержка и оценка.
Доступ к странице регулируется отдельной группой прав Управление модулем "Блокировка ботов": право просмотра позволяет открыть страницу, право управления — сохранить список. Это права администраторов магазина; продавцы Multi-Vendor страницу не видят.
Плохие боты
Список ботов, которым закрыт доступ к витрине. После установки в нём стоит:
MJ12bot, SemrushBot, mj12bot.com, AhrefsBot, DotBot, SEOkicks-Robot, Ezooms
Список можно дополнять и сокращать. Изменения вступают в силу сразу после нажатия Сохранить.
Как заполнять список
- Разделитель — запятая или перенос строки, их можно смешивать. Подсказка у поля говорит только о запятой, но с версии 1.3.0 каждое имя можно писать и с новой строки.
- Пробелы по краям имени отбрасываются:
AhrefsBot,AhrefsBotиAhrefsBot,— одно и то же. - Пустые элементы — две запятые подряд, запятая в конце, пустая строка — пропускаются и ни с чем не совпадают.
- Регистр букв не важен:
ahrefsbotзаблокирует иAhrefsBot. - Совпадение по части строки. Имя из списка ищется внутри всего User-Agent, а не сравнивается с ним целиком. Например, User-Agent бота Ahrefs выглядит так:
Mozilla/5.0 (compatible; AhrefsBot/7.0; +http://ahrefs.com/robot/)— для блокировки достаточно имениAhrefsBot.
Вписывайте в список уникальное имя бота, а не общие слова. Строка «bot» совпадёт с User-Agent Googlebot и YandexBot и закроет магазин для поисковых систем, а строка «Mozilla» есть в User-Agent почти любого браузера — витрина закроется для всех покупателей.
Имя бота обычно видно в журнале доступа веб-сервера (поле User-Agent) или на странице, на которую ведёт ссылка внутри его User-Agent, как ahrefs.com/robot в примере выше.
Несколько витрин
В CS-Cart Ultimate и Multi-Vendor Ultimate с несколькими витринами список хранится для каждой витрины отдельно. Выберите витрину в переключателе вверху страницы и сохраните список для неё. В режиме Все магазины (в Multi-Vendor Ultimate — Все витрины) поле недоступно для правки; чтобы записать одно значение сразу во все витрины, нажмите на значок рядом с полем, затем введите список и сохраните.
Проверка встроена в запуск витрины CS-Cart и выполняется на каждом запросе к ней, в том числе на AJAX-запросах:
- Модуль берёт заголовок User-Agent запроса.
- Разбивает список Плохие боты на имена по запятым и переносам строк, отбрасывает пробелы и пустые элементы.
- Ищет каждое имя внутри User-Agent без учёта регистра.
- При первом же совпадении отвечает кодом
403 Forbiddenс текстомYou are forbidden!и прекращает обработку запроса. Если совпадений нет, страница открывается как обычно.
Не проверяются:
- панель администратора — ни при каком содержимом списка;
- запросы без User-Agent — их модуль пропускает;
- файлы, которые веб-сервер отдаёт сам, без запуска CS-Cart: изображения, CSS, JavaScript.
Модуль доверяет тому, как бот себя называет. Он закрывает витрину для ботов, которые честно указывают своё имя, — так ведут себя SEO-краулеры из списка по умолчанию. Бот, который выдаёт себя за обычный браузер, по User-Agent не отличить; от таких ботов защищает модуль Защита от ботов, который проверяет сам браузер.
В боковой панели страницы модуля блок Обновления модуля показывает, какая версия установлена и можно ли обновиться:
- Установлена актуальная версия — обновлять нечего;
- Доступно обновление — вышла новая версия, и подписка позволяет её установить; кнопка Обновить открывает Центр обновлений CS-Cart с модулями CS-Commerce;
- Вышла версия… — новая версия есть, но обновление для вашей установки не поставляется; блок предложит обратиться в техническую поддержку;
- Подписка заканчивается — до конца подписки на обновления осталось 30 дней или меньше; появляется кнопка Продлить подписку;
- Подписка на обновления истекла — новые версии станут доступны после продления подписки.
В блоке также указаны дата окончания подписки на обновления и ссылка Список изменений на историю версий модуля.
Если блок сообщает Ошибка лицензии, модуль не смог подтвердить лицензию для текущего домена — проверьте данные лицензии по ссылке в сообщении. Надпись Сервер лицензий недоступен означает, что магазин не может связаться с сервером api.cs-commerce.com; на блокировку ботов это не влияет, но если связи нет несколько дней, проверьте, не закрыт ли исходящий доступ к этому адресу на сервере.
Порядок самого обновления описан в разделе Обновление модуля.
Витрина отвечает всем «You are forbidden»
Если сообщение You are forbidden! видят все посетители, а не только боты, причина почти всегда в списке Плохие боты:
- Версия модуля до 1.3.0 на PHP 8. В старых версиях пустой элемент списка — запятая в конце, две запятые подряд, пустой список — совпадал с любым User-Agent, и на PHP 8 витрина закрывалась для всех. Обновите модуль до 1.3.0: в нём пустые элементы пропускаются. Если обновиться сразу нельзя, уберите из списка завершающую запятую и пустые элементы.
- Слишком общее имя в списке. Строки вроде
bot,Mozilla,Windows,Chromeесть в User-Agent обычных браузеров. Замените их полными именами ботов.
Админка при этом остаётся доступной, так что список можно исправить в любой момент.
Сайт пропал из поиска
Проверьте, нет ли в списке имени, которое совпадает с поисковым роботом: Googlebot, YandexBot, bingbot или общего слова bot. Уберите его и сохраните список.
Бот из списка продолжает заходить
- Сверьте имя в списке с User-Agent из журнала доступа: имя должно входить в User-Agent целиком, лишние символы или опечатка дают промах.
- Если в журнале бот запрашивает только изображения, CSS или JavaScript, это файлы, которые веб-сервер отдаёт без CS-Cart, — модуль их не проверяет.
- На Ultimate с несколькими витринами проверьте, что список сохранён для нужной витрины.
- Если изменения всё равно не применяются, очистите кэш CS-Cart.
Для того, чтобы иметь доступ к обновлениям модуля, у вас должен быть активный период подписки на обновления. При истекшем периоде подписки, вам будут доступны только обновления, выпущенные до даты истечения вашей подписки. Продлить подписку на обновления можно в разделе "Управление лицензиями" на нашем сайте.
Модуль поддерживает поставку обновлений через Центр обновлений CS-Cart. О выходе новых версий модуля вас оповестит встроенный Центр уведомлений Cart (колокольчик). Обновление модуля с помощью Центра обновлений позволит без потерь настроек данных модуля произвести переход на более новую версию модуля.
Непосредственно перед обновлением, крайне рекомендуется делать полный бэкап сайта (базы данных и файлов) вашего магазина средствами сервера или хостинга.
Обновление модуля через Центр обновлений:
- В верхнем меню пройдите в раздел Администрирование → Центр обновлений;
- В меню шестеренки нажмите "Проверить доступные обновления"
- Cреди списка доступных обновлений найдите нужное и нажмите кнопку Обновить;
- Следуйте всем инструкциям, которые будут показаны при процедуре обновления;
- Рекомендуется произвести очистку кэша CS-Cart после завершения устанвоки обновлений удалением папки var/cache на вашем сервере или добавлением в адресную строку параметра ctpl (прмиер: https://domain.com/admin.php?ctpl).
Переустановка модуля удалением:
Переустановка модуля означает удаление настроек и данных модуля. Переустановка позволит получить чистую установку модуля. Для переустановки модуля с сохранением настроек и данных, пожалуйста, обратитесь в наш Центр поддержки для оказания такой услуги.
Для полной переустановки модуля без сохранения данных выполните следующие шаги:
- Пройдите в раздел Модули → Управление модулями и найдите старый установленный модуль.
- Нажмите в меню шестеренки модуля кнопку удалить.
- Скачайте последнюю версию модуля на нашем сайте в разделе "Управление лицензиями".
- Пройдите в раздел Модули → Управление модулями и в меню шестеренки выберите Ручная установка.
- Выберите ранее скачанный файл и завершите установку модуля.
Техническая поддержка модуля уже включена в его стоимость. Прежде чем обращаться в центр поддержки, пожалуйста, убедитесь что вы используете последнюю выпущенную версию модуля. Старые версии модуля не обслуживаются технической поддержкой.
Для того, чтобы воспользоваться нашей технической поддержкой, выполните следующие шаги:
- На нашем сайте центра поддержки https://helpdesk.cs-commerce.com/ авторизуйтесь под своей учетной записью;
- Нажмите на кнопку "Новая заявка";
- Заполните все необходимые поля и создайте заявку (Вы получите на e-mail письмо с подтверждением);
- Ожидайте ответ специалиста (на ваш e-mail придет уведомление об ответе на вашу заявку) в соответствии с регламентами работы службы техподдержки.
Если Вы не получили ответ в течении сроков, обозначенных в регламентах, напишите нам на e-mail [email protected] сообщение с темой заявки и мы постараемся решить вас вопрос в ближайшее время.
Техническая поддержка по диалогу в чате на сайте, прямым телефонным обращениям или e-mail письмам не осуществляется. Вся помощь проходит через центр поддержки. Внимательно изучайте документацию к модулю и условия технической поддержки перед созданием обращения.Рекомендуем ознакомиться с общими ограничениями:
- Фрагменты кода или некоторые файлы модуля могут иметь закрытую (закодированную) часть. Закодированная часть не создает проблемы в доработке модуля;
- Модуль будет работать только на тех доменах, которые указаны в лицензии пользователя. При попытке использования решения на установках CS-Cart, домены которых не включены в лицензию, модуль будет автоматически выключен;
- Установка локально не допускается системой лицензирования. Чтобы модуль работал на дополнительном домене (псевдониме) укажите этот псевдоним на странице управления лицензиями. На один домен допускается указать до трех псевдонимов для нужд тестирования и разработки.
- Главный домен лицензии вы можете менять самостоятельно на странице управления лицензиями.
Для доступа к изменению/добавлению доменов и псевдонимов лицензии, подписка на обновления должна быть активной. Для изменения домена лицензии с истекшим периодом подписки, сначала необходимо продлить подписку на обновления.
Версия 1.3.0 от 14 октября 2026 года
- Добавлена совместимость с PHP 8.3.
- Исправлена блокировка посетителей: если список ботов был пустым или заканчивался запятой, на новых версиях PHP витрина закрывалась для всех посетителей с сообщением «You are forbidden».
- Названия ботов теперь можно разделять и переносом строки, а совпадение проверяется без учёта регистра.
- Обновлена базовая часть модуля: улучшен блок «Обновления модуля» в настройках и повышена надёжность связи с сервером обновлений.
Версия 1.2.1 от 23 мая 2025 года
- Базовые обновления безопасности модуля.
Версия 1.2.0 от 11 декабря 2023 года
- Базовые обновления безопасности модуля.
Версия 1.1 от 22 июля 2022 года
- Добавлен встроенный центр обновлений.
- Базовое обновление безопасности.
Версия 1.0 от 25 октября 2018 года
- Первый релиз модуля.