Издатели США и Британии требуют закона против скрытых ботов
Скрейпинг вырос на 185,2% за год и даёт 70,9% вредоносного бот-трафика. Более 300 издателей США и Британии лоббируют закон, обязывающий ботов идентифицировать себя.

Скрейпинг составил 70,9% вредоносного бот-трафика, проанализированного компанией DataDome в сентябрьском отчёте, а за 12 месяцев исследования его объём вырос на 185,2%. На этих цифрах строится трансатлантическая кампания издателей, которые устали блокировать crawlers в одиночку и требуют от правительств США и Британии закона, обязывающего ботов представляться.
Издатели давно ведут эту войну техническими средствами — и проигрывают её по всем фронтам. «Они приходят с именованным краулером — мы блокируем. С анонимным — блокируем. Притворяются людьми — блокируем. Потом прикидываются краулером Google… блокируем, и тогда они идут через домашние прокси, через интернет обычных граждан. Вот здесь подключаются правительства», — рассказал Джон Робертс (Jon Roberts), директор по инновациям People Inc., на конференции Digiday Media Strategies London. По его словам, компания пропускает 38 ботов в день, блокируя «десятки миллионов» запросов ИИ-краулеров.
Масштаб проблемы иллюстрирует Financial Times. Один аккаунт пытался получить доступ примерно к миллиону статей за восемь часов с 700 тысяч IP-адресов, сообщила управляющий директор по клиентской выручке FT Фиона Спунер (Fiona Spooner). «Нас скрейпят и контент забирают постоянно, как и люди пытаются обойти платный доступ», — сказала она. Издатель Reach за последние полгода зафиксировал более 100 млн успешных скрейпов своего контента, сообщил гендиректор Пирс Норт (Piers North).
Что должно изменить законодательство?
В сентябре News/Media Alliance организовала визит более 300 издательских топ-менеджеров в Конгресс США в поддержку федерального Stealth Bot Prohibition Act — законопроекта, который обяжет скрытых краулеров чётко идентифицировать себя и свои цели. 15 октября коалиция британских и американских издателей, включая The Times, Financial Times и Condé Nast, призвала правительство Великобритании поддержать аналогичную инициативу. Британским направлением руководит News Media Association.
«Мы тесно работаем с нашими британскими коллегами», — сказала гендиректор News/Media Alliance Даниэль Коффи (Danielle Coffey). 14 октября топ-менеджеры крупных медиакомпаний, среди них Condé Nast и The Guardian, опубликовали совместное заявление с призывом поддержать законопроект депутата Дэмиана Хиндса (Damian Hinds) — Automated Online Software (Access and Transparency) Bill. «Боты теперь составляют более 50% мирового веб-трафика, и такие меры жизненно необходимы для защиты открытого интернета, британских интересов и способности авторов контролировать свой контент», — говорится в заявлении.
Требование прозрачности подкреплено данными о маскировке краулеров. Анализ Piano данных Cloudflare показал: 70% бот-трафика не проходит верификацию. Компания Centinel в отчёте Fake Googlebot and AI Crawlers (конец июня — 21 сентября) выявила: на типичном сайте каждая седьмая заявка на принадлежность к Googlebot не подтверждается, 84% запросов от имени GPTBot и 99% от имени Perplexity-User — фальшивые, а 94% фальшивых Googlebot копировали реальную строку версии краулера Google.
Работают ли собственные блокировки?
Частично. Reuters с начала года перешёл к политике блокировки по умолчанию. «Мы делаем всё возможное, чтобы блокировать неавторизованных ботов. Но это не всегда стопроцентно надёжно», — признал Фил Андраос (Phil Andraos), генеральный менеджер цифрового направления Reuters, на Digiday Publishing Summit. People Inc. после месяцев «cat-and-mouse» с краулерами, менявшими идентичность, в январе тоже ввела блокировку по умолчанию. «Блокировать надо на уровне CDN. Список имён — это как шоколадный чайник. Robots.txt не делает ничего», — заявил Робертс.
Издатели также указывают на экономику: рынок перепродажи доступа к чужому контенту оценивается в миллионы долларов. Робертс привёл пример Exa, привлекшей $85 млн при оценке $900 млн в сентябре прошлого года и затем $250 млн в раунде Series C при оценке $2,2 млрд в мае. «Таких „напстеров контента" около 80», — сказал он. Юристы ожидают эскалации: «Многие правообладатели хотят более жёстких рамок, чем добровольные меры вроде robots.txt», — отметил Аарон Рубин (Aaron Rubin), партнёр Gunderson Dettmer, указав на прецедент GDPR, за которым последовала волна законов о приватности в штатах США.
Что ещё происходит в отрасли
- Condé Nast: прибыль британского подразделения за год упала на 36% — с £28 млн до £18 млн.
- 15% американцев получают новости из ИИ-чатботов против 9% в 2025 году, по данным Pew Research Center.
- Более 400 издателей участвуют в платной ИИ-программе Google News; Forbes присоединился к пилоту на фоне падения реферального трафика примерно на 45% год к году.
- Reach заключила платную лицензионную сделку с Google и одновременно направила OpenAI cease-and-desist письмо за несанкционированный скрейпинг.
- The Independent впервые получила от social-commerce больше выручки, чем от SEO; четыре направления роста — ИИ, контент создателей, e-commerce и подписки — дадут почти половину выручки в 2026 году.
- Meta удалила явные упоминания ИИ-обучения из новых условий, но сохранила широкие права на скрейпинг сайтов издателей, сообщает Nieman Lab.
Вывод прост: издатели сделали ставку на закон, потому что техническая оборона больше не сдерживает ботов.
Original: google.com
More from Екатерина Ларина
132 articles
Related articles
- Elvis Presley Song Rights Holders Demand $41.1 Million from Anthropic
- Pinduoduo and Anthropic paid Kazakhstan 8 billion tenge in taxes
- Disney Will Show Super Bowl 2027 Through the Eyes of Star Wars Characters
- Mom's Touch to Open 50 Restaurants in Kazakhstan with Shin-Line
- Prada answered AI slop with a pencil: 6 million views and mice in the style of Disney