Боты читают мой блог чаще, чем люди
Неделя статистики нового блога: 92 захода людей и 122 захода ботов. Кто эти боты, зачем они приходят и что интересного делают ИИ-краулеры.
Эта запись есть на другом языке: English
Неделю назад я прикрутил к этому блогу простую самописную аналитику. Хотелось понять банальное: заходит ли кто-нибудь вообще. Первые же цифры оказались интереснее, чем я ожидал — и не тем, о чём я думал.
За семь дней сайт получил 214 обращений. Из них:
- 92 — живые люди (66 уникальных посетителей);
- 122 — боты.
То есть 57% трафика моего блога — это машины. Они приходят чаще людей, и разрыв не случайный: он держался почти каждый день.
Кто именно приходил
Вот полный список за неделю:
| Бот | Визитов | Кто это |
|---|---|---|
| Googlebot | 27 | индексация в поиске Google |
| MJ12bot | 20 | SEO-краулер Majestic |
| SemrushBot | 17 | SEO-сервис Semrush |
| Applebot | 13 | Apple — Siri, Spotlight, Apple Intelligence |
| ClaudeBot | 13 | Anthropic, Claude |
| LohiSoftBot | 12 | малоизвестный краулер |
| GPTBot | 8 | OpenAI, ChatGPT |
| KBCnetContactBot | 6 | сборщик контактов |
| PetalBot | 2 | поиск Huawei |
| прочее | 3 | мои же проверки через curl |
Три наблюдения, которые мне показались любопытными.
1. ИИ-краулеры нашли сайт почти сразу
ClaudeBot — 13 визитов, GPTBot — 8. Вместе это 21 обращение, примерно каждый шестой визит бота.
Сайту неделя. У него нет обратных ссылок, я его нигде не анонсировал и не подавал ни в какие каталоги. Тем не менее краулеры Anthropic и OpenAI пришли и прочитали всё, что было опубликовано.
Раньше, чтобы тебя заметили, нужно было ждать индексации месяцами. Сейчас появился второй контур распространения контента — и он, судя по всему, работает быстрее. Причём ни один из этих визитов не отображается в обычной статистике «посетителей»: человек, который спросит у ChatGPT и получит ответ из моей статьи, ко мне на сайт может не зайти никогда.
2. Почти половина ботов не даёт ничего
Посчитаем: MJ12bot (20) + SemrushBot (17) + PetalBot (2) + KBCnetContactBot (6) + LohiSoftBot (12) = 57 визитов. Это 47% всего ботового трафика.
Что я с этого получаю? Ничего. Это SEO-агрегаторы, которые собирают данные, чтобы продавать их в своих сервисах, и сборщики контактов сомнительной полезности. Они не приведут ко мне читателя и не покажут меня в поиске — просто ходят и забирают.
Для маленького блога это не проблема: несколько десятков запросов в неделю никого не положат. Но для сайта побольше это уже статья расходов на трафик, и становится понятно, почему люди начинают закрывать таких ботов в robots.txt.
3. Люди приходят напрямую, а не из поиска
По источникам у живых посетителей:
- прямые заходы — 74
- внутренние переходы — 15
- из поиска — 3
Три захода из поиска за неделю. Что абсолютно нормально: новый сайт, поисковики только начали его индексировать, никаких позиций ещё нет.
Зато видно, откуда на самом деле берётся аудитория в начале: это люди, которым ты сам дал ссылку. Никакой магии «напишу статью — придёт трафик» не существует, по крайней мере первые месяцы.
Что это значит на практике
Проверять надо не только людей. Если смотреть лишь на «посетителей», то первая неделя выглядит скучно: 66 человек. Но параллельно с этим сайт уже прочитан поисковиками и двумя крупными языковыми моделями. Это разные каналы, и второй не виден в обычных счётчиках.
Контент должен быть в HTML. Я писал об этом в отдельной статье: ИИ-краулеры не выполняют JavaScript. Если бы мой блог рендерился на клиенте, ClaudeBot и GPTBot унесли бы пустую страницу — и эти 21 визит не значили бы ничего.
Решение о ботах стоит принимать осознанно. Я оставил всех открытыми: блог написан, чтобы его читали, и если модель процитирует мою статью — хорошо. Но теперь я хотя бы знаю, кто ко мне ходит, и могу в любой момент закрыть тех, кто только берёт.
Оговорки
Честно про ограничения этих цифр: это одна неделя одного маленького личного блога. Выборка крошечная, выводы нельзя переносить на большие сайты. Боты определяются по User-Agent — его можно подделать, так что часть «людей» теоретически может быть замаскированными краулерами. Свои заходы я из статистики исключил, но несколько собственных проверок через curl в цифры попали — они в строке «прочее».
Тем не менее общая картина, кажется, устойчивая: на новом сайте машин больше, чем людей, и среди машин всё заметнее доля тех, кто читает не для поиска, а для обучения и ответов.
Вернусь к этим цифрам через пару месяцев — интересно, изменится ли соотношение, когда появится поисковый трафик.