Глава 1. Попадаете ли вы: что такое «AI system», scope и экстерриториальность

Ситуация на «Компасе»

Первый разговор про AI Act на «Компасе» длится минуту и заканчивается ничем. Технический директор формулирует то, что кажется очевидным: «Мы не обучаем модель. Вся тяжёлая работа — у провайдера foundation-модели. Мы пишем промпты, крутим ранжирование и рисуем интерфейс. Регулируют тех, кто делает модели, а мы — тонкая прослойка сверху». Продукт хостится вне ЕС, серверы в другой юрисдикции, юрлицо тоже. Вывод команды: «Европейский закон — это для европейских компаний».

Каждое из этих утверждений по отдельности звучит разумно. Вместе они складываются в самую дорогую ошибку в регуляторике ИИ — уверенность, что тонкость интеграции и география офиса выводят продукт из-под закона. Эта глава разбирает, почему «Компас» попадает под AI Act несмотря на всё перечисленное, и даёт первый артефакт комплаенс-досье — записку о применимости.

Что говорит норма

Определение «AI system» намеренно широкое. Art. 3(1) AI Act определяет систему ИИ как машинную систему, которая работает с той или иной степенью автономии, может адаптироваться после развёртывания и на основе входных данных выводит результаты — прогнозы, контент, рекомендации или решения, — влияющие на физическую или виртуальную среду. Определение согласовано с формулировкой OECD специально, чтобы быть технологически нейтральным и не устареть на следующем витке моделей. Скоринг и ранжирование кандидатов подпадают без всяких натяжек: система на основе входа (резюме, ответы) выводит рекомендацию (ранг кандидата), влияющую на решение о найме.

Что НЕ является AI system. Граница проходит по наличию «вывода» и адаптивности. Чистые детерминированные правила, классические скрипты, простая описательная статистика, обычная оптимизация — не ИИ в смысле закона. Соблазн для команд — переописать свой продукт как «набор бизнес-правил», чтобы выпасть из scope. Но как только в контуре стоит модель, которая обобщает и выводит оценку, «это просто правила» не работает. «Компас» ранжирует не по жёсткой формуле, а по выученным паттернам — это ИИ.

Материальный scope и исключения (Art. 2). Закон распространяется на providers и deployers систем ИИ широко, но с изъятиями: системы исключительно для военных и целей нацбезопасности; чистый научный R&D до вывода на рынок; личное непрофессиональное использование физлицами. Ни одно из изъятий к коммерческому HR-SaaS не применимо.

Экстерриториальность — ключевой пункт. Art. 2(1) прямо распространяет закон на providers и deployers, находящихся за пределами ЕС, если результат работы системы используется в ЕС. Это тот же приём, что сделал GDPR глобальным стандартом: юрисдикция определяется не местом сервера, а местом, где output касается людей. «Компас» продаёт европейским рекрутёрам, его ранжирование влияет на найм в ЕС — значит, он в scope, где бы ни стояли его серверы.

Роли на входе. Уже здесь важно, кем вы входите в закон — provider (разрабатывает и выводит систему под своим именем) или deployer (применяет под своей ответственностью). Это определяет и применимость, и набор обязанностей. Полный разбор ролей — глава 5; на этом шаге достаточно зафиксировать, что «Компас» выводит собственный продукт под своим брендом, то есть входит как provider.

Как это ложится на продукт

Вывод для «Компаса» однозначный: под AI Act он попадает. Хостинг вне ЕС не спасает, тонкость прослойки над чужой моделью не спасает, «мы не делали модель» не спасает. Триггер — европейские клиенты и влияние результата на найм в ЕС.

Артефакт главы — applicability memo, короткая записка на одну страницу: «попадаем ли под AI Act и почему». Это первый документ комплаенс-досье, к которому вы будете возвращаться на каждой проверке и в каждом RFP. Второй результат — инвентаризация ИИ-компонентов: не «регулируется ли продукт», а построчно — сколько в продукте отдельных ИИ-функций (скоринг, чат-бот, генерация текстов писем) и по каждой ответ на два вопроса: это AI system? её результат используется в ЕС? Без такой инвентаризации нельзя классифицировать риск (глава 2) — потому что классифицируют не продукт целиком, а каждую функцию.

Где ломается

Граница «AI system vs обычный софт». Самая мутная зона — гибриды, где ИИ-компонент маленький, а вокруг него много детерминированной логики. Где кончается бизнес-правило и начинается регулируемый ИИ — вопрос трактовки, и практики пока мало. Правило выживания: трактовать в свою пользу можно только то, что действительно детерминировано; всё, что обобщает и выводит, считать ИИ.

Смешение уровней «модель vs система». Foundation-модель под капотом (GPAI) и продукт над ней регулируются по разным трекам (главы 5 и 7). На этом шаге легко свалить их в кучу и решить «раз модель чужая, ответственность чужая». Нет: система над моделью — это ваш продукт и ваша ответственность как provider'а.

Соблазн изъятия «R&D». Исключение для научных исследований узкое и действует только до вывода на рынок или в эксплуатацию. Как только продукт продаётся или используется в проде — изъятие не применяется. Пилот с реальным клиентом на реальных кандидатах — это уже не R&D.

Что делать инженеру/продакту

Составить реестр ИИ-компонентов продукта до любых архитектурных и продуктовых решений и по каждому компоненту ответить: AI system? используется в ЕС? Это десять минут работы, которые определяют весь дальнейший режим.

Не строить стратегию комплаенса на тезисе «мы просто обёртка». Тонкость интеграции — не юридический аргумент. Если продукт выводит результат, влияющий на людей в ЕС, география и объём собственного кода не имеют значения.

Провокация

«Мы просто обёртка над моделью» — самая дорогая фраза в регуляторике ИИ. Она успокаивает команду ровно до момента, когда европейский клиент в договоре просит подтверждение соответствия, а его нет, потому что полгода все были уверены, что закон — не про них. Закон смотрит не на то, сколько строк кода вы написали и где стоит ваш сервер, а на то, что ваш продукт делает с людьми и где используется его результат. По этому критерию «Компас» — внутри, и разговор про AI Act начинается не с «попадаем ли», а с «в какой класс риска».

Читать дальше

• Дальше: Risk class — Класс риска решает всё: high-risk по Annex III
• Все главы курса →
• Подключить эксперта как MCP →