Боты и технологии

  • Запрет Google-Extended не убирает сайт из Поиска

    Токен Google-Extended в robots.txt решает, можно ли уже скачанное использовать для обучения Gemini и для grounding. На включение сайта в Поиск и на сигнал ранжирования он не влияет, отдельной строки User-Agent у него нет.

    5 мин чтения
  • IP-репутация и списки блокировок

    Что номер автономной системы говорит о маршруте, чем общий IPv4 при CGN отличается от человека и как устроен DNS-список адресов.

    5 мин чтения
  • Что такое rate limiting

    Код 429 говорит «слишком много запросов» и не задаёт, кто такой пользователь. Чем лимит частоты отличается от капчи, блокировки IP и одного слабого сигнала.

    6 мин чтения
  • Что такое TLS-отпечаток (JA3/JA4)

    Как JA4 сворачивает ClientHello в строку, чем это отличается от отпечатка браузера и почему строка сама по себе не доказывает автоматический визит.

    5 мин чтения
  • Что такое антидетект-браузер

    Чем сайт узнаёт браузер без отдельной анкеты. Что в заголовке User-Agent, что называют отпечатком и чем пассивный съём отличается от активного.

    6 мин чтения
  • Что такое JavaScript-проверка браузера

    Что Метрика делает, если нет JavaScript и Referer, чем активный съём в браузере отличается от заголовка запроса и почему отсутствие скрипта нельзя считать единственным отказом.

    4 мин чтения
  • Что такое User-Agent и почему ему нельзя верить

    Что HTTP-заголовок User-Agent сообщает о программе, почему браузеры его урезают, как Google просит проверять робота не по строке и почему одного заголовка для решения о визите мало.

    5 мин чтения
  • Что такое отпечаток браузера (fingerprint)

    Заметка W3C называет отпечатком способность узнать браузер по настройкам и наблюдаемым чертам. Cookie и VPN связку по отпечатку не обрывают, а статья 11 закона биометрией технические черты не называет.

    5 мин чтения
  • Почему капча не спасает от ботов

    Капча в Директе и у OWASP замедляет автоматизацию, но тест можно решить. Чем она отличается от вычислительной задачи и что делать, если бот всё равно дошёл до сайта.

    4 мин чтения
  • Что такое бот-ферма

    В стандарте MRC клик-ферма — организованная нероботная активность через многих людей или машины. Чем SIVT отличается от рутинного GIVT и почему решённая капча не доказывает человека.

    4 мин чтения