Штраф до 35 млн евро: за ошибки ИИ в ЕС заплатит руководство

Четыре зоны требований

Регламент разворачивается поэтапно:

• Запрещённые практики — большинство действует с 2 февраля 2025 года. Сюда входят манипуляции, существенно искажающие поведение человека, социальный рейтинговый рейтинг, распознавание эмоций по биометрии на рабочем месте, а также биометрические выводы о политических взглядах, религиозных убеждениях или сексуальной ориентации. «Если случай использования ИИ попадает в список запрещённых, такую систему нельзя ни выводить на рынок, ни внедрять, ни вообще использовать», — подчёркивает Шилейките.
• Системы высокого риска — биометрия, критическая инфраструктура, образование, трудовые отношения, ключевые услуги вроде скоринга и страхования. Регулирование начнёт применяться с 2 декабря 2027 года. С августа 2028 года — требования к ИИ, работающему как регулируемый продукт или его компонент безопасности.
• Прозрачность — с 2 августа 2026 года. Человек должен знать, что общается с ИИ (чат-бот, автоответчик), и видеть маркировку синтетического контента, включая дипфейки. Для ИИ-текстов на темы общественного интереса маркировка не нужна, если содержание проверил и взял редакционную ответственность человек.
• ИИ-грамотность — с 2 февраля 2025 года. После пакета изменений Omnibus достаточный уровень каждого сотрудника подтверждать не требуется, но работодатель обязан развивать его. «Сотрудники должны чётко знать: для каких задач ИИ разрешён, какие данные нельзя вводить в публичные инструменты, когда результат обязателен к проверке и когда выводу доверять нельзя», — перечисляет Шилейките.

Поставщик или внедряющий?

AI Act различает роль поставщика (provider) — компании, создавшей ИИ-систему и выпустившей её на рынок под своим именем, — и внедряющего (deployer), который использует готовую систему по назначению. Общие обязанности — прозрачность, грамотность, отказ от запрещённых практик — общие. Остальное различается. Поставщик несёт больше: управление рисками, оценка соответствия, маркировка CE, журналы, мониторинг после вывода на рынок.

Внедряющий обязан следовать инструкциям, назначать человеческий надзор, проверять входные данные и знать, как остановить систему. Хитрость в том, что внедряющий может незаметно стать поставщиком — если начнёт использовать систему под своей торговой маркой или существенно её изменит. «Текстовый ассистент, превращённый в систему рейтингования кандидатов, — типичный пример», — говорит юрист. Сотрудники, отмечает она, охотно расширяют применение удачного инструмента далеко за рамки задуманного. Руководству стоит чётко зафиксировать, какие системы и для каких целей используются. Самотёк здесь дорог.

Две ошибки из практики

Шилейките называет два частых сценария. Первый — сотрудники на собственную инициативу создают ИИ-помощников, иногда с личных Gmail-аккаунтов, и гоняют через них корпоративные документы. Правила и разрешённые инструменты должны быть прописаны во внутренних регламентах и трудовых договорах.

Второй — ИИ-агент превышает полномочия. «Представьте: агент с лимитом заказов в 50 тыс. евро размещает заказ на 0,5 млн евро. Отказаться платить со ссылкой на то, что ошибку совершила система, скорее всего не выйдет — вторая сторона правомерно рассчитывает на исполнение», — объясняет юрист. Нужны контрольные механизмы и финальное человеческое утверждение по ряду решений. Границы агента, по её выражению, должны быть огорожены технической «колючей проволокой», а не текстовой инструкцией.

Что сделать уже сегодня

Краткий чек-лист от WALLESS:

• назначить бизнес-руководителя (HR, коммерция) под каждую ИИ-систему — не сваливать всё на ИТ-директора;
• провести аудит договоров с ИИ-поставщиками: назначение системы, автономия, границы ответственности, условия использования данных и их передачи;
• обеспечить совету директоров доказательства реального контроля над ИИ — по Гражданскому кодексу недостаточная осмотрительность ложится на руководство лично;
• прогнать внутренний стресс-тест: при инциденте кто останавливает процессы, ограничивает доступ и отвечает за минимизацию ущерба.

Штрафная сетка заставляет считать. До 15 млн евро или 3% оборота — за непрозрачность и неисполнение обязательств по высокорисковым системам, до 7,5 млн евро или 1% — за вводящую в заблуждение информацию для надзорных органов. Дешевле подготовиться.