Advertising & Media

Издатели США и Британии требуют закона против скрытых ботов

Скрейпинг вырос на 185,2% за год и даёт 70,9% вредоносного бот-трафика. Более 300 издателей США и Британии лоббируют закон, обязывающий ботов идентифицировать себя.

4 min read

Media Briefing: The transatlantic push to rein in stealth bots is gathering pace
Media Briefing: The transatlantic push to rein in stealth bots is gathering pacedlohner / pixabay

Скрейпинг составил 70,9% вредоносного бот-трафика, проанализированного компанией DataDome в сентябрьском отчёте, а за 12 месяцев исследования его объём вырос на 185,2%. На этих цифрах строится трансатлантическая кампания издателей, которые устали блокировать crawlers в одиночку и требуют от правительств США и Британии закона, обязывающего ботов представляться.

Издатели давно ведут эту войну техническими средствами — и проигрывают её по всем фронтам. «Они приходят с именованным краулером — мы блокируем. С анонимным — блокируем. Притворяются людьми — блокируем. Потом прикидываются краулером Google… блокируем, и тогда они идут через домашние прокси, через интернет обычных граждан. Вот здесь подключаются правительства», — рассказал Джон Робертс (Jon Roberts), директор по инновациям People Inc., на конференции Digiday Media Strategies London. По его словам, компания пропускает 38 ботов в день, блокируя «десятки миллионов» запросов ИИ-краулеров.

Масштаб проблемы иллюстрирует Financial Times. Один аккаунт пытался получить доступ примерно к миллиону статей за восемь часов с 700 тысяч IP-адресов, сообщила управляющий директор по клиентской выручке FT Фиона Спунер (Fiona Spooner). «Нас скрейпят и контент забирают постоянно, как и люди пытаются обойти платный доступ», — сказала она. Издатель Reach за последние полгода зафиксировал более 100 млн успешных скрейпов своего контента, сообщил гендиректор Пирс Норт (Piers North).

Что должно изменить законодательство?

В сентябре News/Media Alliance организовала визит более 300 издательских топ-менеджеров в Конгресс США в поддержку федерального Stealth Bot Prohibition Act — законопроекта, который обяжет скрытых краулеров чётко идентифицировать себя и свои цели. 15 октября коалиция британских и американских издателей, включая The Times, Financial Times и Condé Nast, призвала правительство Великобритании поддержать аналогичную инициативу. Британским направлением руководит News Media Association.

«Мы тесно работаем с нашими британскими коллегами», — сказала гендиректор News/Media Alliance Даниэль Коффи (Danielle Coffey). 14 октября топ-менеджеры крупных медиакомпаний, среди них Condé Nast и The Guardian, опубликовали совместное заявление с призывом поддержать законопроект депутата Дэмиана Хиндса (Damian Hinds) — Automated Online Software (Access and Transparency) Bill. «Боты теперь составляют более 50% мирового веб-трафика, и такие меры жизненно необходимы для защиты открытого интернета, британских интересов и способности авторов контролировать свой контент», — говорится в заявлении.

Требование прозрачности подкреплено данными о маскировке краулеров. Анализ Piano данных Cloudflare показал: 70% бот-трафика не проходит верификацию. Компания Centinel в отчёте Fake Googlebot and AI Crawlers (конец июня — 21 сентября) выявила: на типичном сайте каждая седьмая заявка на принадлежность к Googlebot не подтверждается, 84% запросов от имени GPTBot и 99% от имени Perplexity-User — фальшивые, а 94% фальшивых Googlebot копировали реальную строку версии краулера Google.

Работают ли собственные блокировки?

Частично. Reuters с начала года перешёл к политике блокировки по умолчанию. «Мы делаем всё возможное, чтобы блокировать неавторизованных ботов. Но это не всегда стопроцентно надёжно», — признал Фил Андраос (Phil Andraos), генеральный менеджер цифрового направления Reuters, на Digiday Publishing Summit. People Inc. после месяцев «cat-and-mouse» с краулерами, менявшими идентичность, в январе тоже ввела блокировку по умолчанию. «Блокировать надо на уровне CDN. Список имён — это как шоколадный чайник. Robots.txt не делает ничего», — заявил Робертс.

Издатели также указывают на экономику: рынок перепродажи доступа к чужому контенту оценивается в миллионы долларов. Робертс привёл пример Exa, привлекшей $85 млн при оценке $900 млн в сентябре прошлого года и затем $250 млн в раунде Series C при оценке $2,2 млрд в мае. «Таких „напстеров контента" около 80», — сказал он. Юристы ожидают эскалации: «Многие правообладатели хотят более жёстких рамок, чем добровольные меры вроде robots.txt», — отметил Аарон Рубин (Aaron Rubin), партнёр Gunderson Dettmer, указав на прецедент GDPR, за которым последовала волна законов о приватности в штатах США.

Что ещё происходит в отрасли

  • Condé Nast: прибыль британского подразделения за год упала на 36% — с £28 млн до £18 млн.
  • 15% американцев получают новости из ИИ-чатботов против 9% в 2025 году, по данным Pew Research Center.
  • Более 400 издателей участвуют в платной ИИ-программе Google News; Forbes присоединился к пилоту на фоне падения реферального трафика примерно на 45% год к году.
  • Reach заключила платную лицензионную сделку с Google и одновременно направила OpenAI cease-and-desist письмо за несанкционированный скрейпинг.
  • The Independent впервые получила от social-commerce больше выручки, чем от SEO; четыре направления роста — ИИ, контент создателей, e-commerce и подписки — дадут почти половину выручки в 2026 году.
  • Meta удалила явные упоминания ИИ-обучения из новых условий, но сохранила широкие права на скрейпинг сайтов издателей, сообщает Nieman Lab.

Вывод прост: издатели сделали ставку на закон, потому что техническая оборона больше не сдерживает ботов.

Original: google.com

Share this article:

More from Екатерина Ларина

Related articles

« Previous articleNext article »