Резкий всплеск прямых заходов. Как бороться?

Brat_Sergij
На сайте с 26.11.2015
Offline
341
#761
alaev #:

Если 403 отдаётся скриптом, который я тут давал, то там бан по ip для тех, у кого пустой реферер или определённый.

Если на 403 странице есть активная ссылка, то боты по ней кликают, получают рефку и уже дальше идут без проблем.

Может в этом дело?

Запрет прописан обычным правилом deny from в htaccess. Никаких ссылок на 403 странице конечно нет, да там и кода всего пару строчек)

alaev
На сайте с 18.11.2010
Offline
700
#762
Brat_Sergij #:

Запрет прописан обычным правилом deny from в htaccess. Никаких ссылок на 403 странице конечно нет, да там и кода всего пару строчек)

Так вебвизор что-то показывает по заблокированным? Вывод ip бота можно сделать в метрику.

Странная ситуация, либо чего-то я не понял.

Создание и продвижение сайтов - https://alaev.net , аудиты сайтов, контекстная реклама
Brat_Sergij
На сайте с 26.11.2015
Offline
341
#763
alaev #:

Так вебвизор что-то показывает по заблокированным? Вывод ip бота можно сделать в метрику.

Странная ситуация, либо чего-то я не понял.

У меня вебвизор не был активен, не было повода как-то пользоваться. Активировал его только после установки запрета в htaccess. 

Так вот и для меня она странная, поэтому делюсь и интересуюсь мнением знающих людей. 

Shelton724
На сайте с 26.05.2011
Offline
241
#764
Brat_Sergij #:
Странное дело... В htaccess вбил все найденные диапазоны битерики. По логам видно, что указанные айпишники стали получать 403 ошибку, но на показателях роботности это не отразилось никак, не стало меньше даже на 1%! Полез в настройки счетчика метрики, поставил там галочку "Принимать данные только с указанных адресов ", на следующий день проверил - ноль эффекта. Вообще не понимаю как так... Боты битерики (коих как оказалось было немало) стали получать 403, но процент роботности в метрике не снизился. У кого-нибудь есть идеи почему так?

Воооот... И Вы получили примерно такие же результаты в метрике, как и я. Попробуйте теперь фиксировать визиты самостоятельно (просто инкрементируйте счётчик каждый раз при любом обращении к php уже прошедшего проверку на бан в апаче/нгинксе посетителя) - ещё больше удивитесь: метрика показывает количество визитов намного больше обращений к серваку, причём 60-70% из них роботы по её мнению. Так и не понял, откуда оно данные такие берёт.

З.Ы. Можно ещё по логам тупо пересчитать, но, думаю, результат будет точно таким же, как и в случае с элементарным счётчиком, иначе это было бы какое-то сильное колдунство.

softerra
На сайте с 02.10.2023
Offline
27
#765

Может немного прямых ботов стоит оставить?

Я к теме охладел, теперь додбятся отдельные придурки, а без них даже скучно.

ЗЫ Не верю, что это скрипты, думаю - это живые бакланы ..

Brat_Sergij
На сайте с 26.11.2015
Offline
341
#766

Еще заметил одну странность, если сравнивать показатели счетчиков Метрики и LI.

LI показывает, что у меня постоянно каждый день идет нормальный такой траф и Гонконга, причем увеличивающийся по нарастающей. 

При этом в Метрике Гонконга в географии посещений нет в принципе, даже единичных заходов (Китай есть, но там по пару переходов в день). Да они и не могут быть - у меня русскоязычный проект. Да и VPN из-под Гонконга я как-то пока и не встречал, но и тогда бы он все равно попал в Метрику. Что за дичь тогда? Вряд ли LI не может правильно определить айпишники по странам, таких серьезных косяков за этим счетчиком я ранее не наблюдал.

B2
На сайте с 02.11.2015
Offline
121
#767

Яндексу стоит признать, что вся эта хрень с поведенческими факторами - срань полная. Это не должно быть основным фактором ранжирования, как сейчас.  Ботоферм становится все больше. Замучаешься все бото-сети банить.

Кто-нибудь может поделиться ip-сетью ботофермы Hetzner Online GmbH ? 

TheVS
На сайте с 27.12.2006
Offline
427
#768

Если раньше были подозрения, что метрика рисует левые данные, то теперь я в этом полностью уверен. Есть сайт, на котором ежедневно сидит около 10 человек в реальности которых сомнений нет, потому что я их лично знаю. Ещё 10-30 человек заходит с поиска, хз люди это или боты. Роботность по метрике каждый день скачет от 10% до 50%. Случается наплыв явных ботов с ip США, который длится 4 дня, роботность повышается до 83-99%. Наплыв заканчивается, а роботность остаётся на уровне >93%. В один из дней при 52 хостах, 10 из которых точно "свои" и 2 мои с разных компьютеров с разных провайдеров, метрика рисует 100% роботности. Закрываю сайт на тех. работы, оставляя доступ только своим -- метрика рисует 16-33% роботности. Методом тыка удалось выяснить, что заходы с обоих моих компьютеров на любые сайты всегда считаются роботами несмотря на то, что я залогинен в аккаунт яндекса и пользуюсь его сервисами. Также методом этого же тыка выяснил, что проблема массовая. С этим может быть связано и то, что рся банит сайты за недействительные показы, которые делаете вы, шарясь по своим же сайтам, являясь при этом в глазах их кривой статистики ботом.

Также ранее я писал, что метрика учитывает визиты, которых на самом деле не было судя по логам сервера. Было подозрение, что это может быть как-то связано с кэшем и CDN, но внимательно всё проверив усилиями нескольких человек пришли к выводу, что это действительно приколы метрики. Как и для чего это делается остаётся только гадать.

🍄 Партнёрская программа для вебмастеров: https://bit.ly/finance_pp
alaev
На сайте с 18.11.2010
Offline
700
#769
Booch24 #:

Яндексу стоит признать, что вся эта хрень с поведенческими факторами - срань полная. Это не должно быть основным фактором ранжирования, как сейчас.  Ботоферм становится все больше. Замучаешься все бото-сети банить.

Кто-нибудь может поделиться ip-сетью ботофермы Hetzner Online GmbH ? 

Яша настолько тупой, что качают ботов первое время с любых серваков, включая hetzner и ovh.

Лишь переход из поиска делают с мобильных или каких-то локальных прокси.

B2
На сайте с 02.11.2015
Offline
121
#770
alaev #:

Яша настолько тупой, что качают ботов первое время с любых серваков, включая hetzner и ovh.

Лишь переход из поиска делают с мобильных или каких-то локальных прокси.

Давно наблюдаю за ботами. Очевидно, что вся сеть принадлежит одному лицо или совсем небольшому кругу лиц.

Авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий