Глава 5. Кто виноват: provider, deployer и роли в цепочке поставки

Ситуация на «Компасе»

Разбирая обязательства глав 3–4, команда «Компаса» упирается в неудобное: половина требований (data governance по Art. 10, метрики точности, устойчивость) частично относится к тому, что «Компас» не делал, — к foundation-модели под капотом. Возникает вопрос распределения: кто в этой цепочке за что отвечает? Провайдер модели? «Компас»? Рекрутёры, которые применяют продукт у себя?

Ответ AI Act не «кто-то один», а роль определяет набор обязанностей, и одна компания может нести несколько ролей одновременно. «Компас» оказывается носителем двух шляп сразу — и это меняет и его обязательства, и его контракты вверх и вниз по цепочке.

Что говорит норма

Четыре роли, разные наборы обязанностей.

• Provider — разрабатывает систему ИИ или выводит её на рынок под своим именем/брендом. Несёт основную массу high-risk обязательств (главы 3–4): RMS, документация, conformity, регистрация.
• Deployer — использует систему ИИ под своей ответственностью в профессиональной деятельности. Свой, меньший набор (Art. 26): обеспечить human oversight на своей стороне, использовать по инструкции, мониторить работу, информировать затронутых лиц, для некоторых случаев — проводить оценку влияния на основные права.
• Importer / distributor — ввозят и распространяют систему на рынке ЕС; проверочные обязанности (убедиться, что provider выполнил своё).

Смена ролей — ловушка Art. 25. Deployer (или дистрибьютор, импортёр) становится provider'ом высокорисковой системы со всей ответственностью, если ставит на неё своё имя, существенно её модифицирует или меняет назначение так, что система становится high-risk. Это прямая ловушка для интеграторов и «обёрток»: взял чужую модель, надстроил, продал под своим брендом — стал provider'ом.

Value chain для GPAI. Провайдер foundation-модели обязан передавать вниз по цепочке документацию и информацию, чтобы downstream-разработчики могли выполнить свои обязательства (детали — глава 7). Это юридический мост между «чужой моделью» и вашим Annex IV.

Информирование затронутых. На стороне deployer'а лежит обязанность сообщать людям, попавшим под действие high-risk системы, что к ним она применяется (Art. 26). Для найма это означает: кандидат должен узнать, что его оценивает система.

Как это ложится на продукт

«Компас» носит две шляпы одновременно: он provider собственной high-risk системы (скоринг) — и deployer чужой GPAI-модели, на которой построен. Отсюда два разных набора обязанностей, которые нельзя смешивать.

Клиенты-рекрутёры — deployers «Компаса». Часть требований физически исполняется на их стороне: human oversight в их рабочем процессе, информирование кандидатов. Значит, «Компас» как provider обязан снабдить их instructions for use (Art. 13) и инструментами, чтобы они свою часть могли выполнить, — иначе разрыв в цепочке замкнётся на бренд «Компаса».

Артефакт главы — карта ролей и обязанностей по всей цепочке: провайдер модели → «Компас» → рекрутёр → кандидат, с явной привязкой каждой обязанности к её носителю и к подтверждающему контракту.

Где ломается

«Существенная модификация» — размытая граница. Art. 25 не даёт чёткого порога, когда надстройка над чужой моделью или её дообучение делает вас provider'ом самой модели. Интегратор живёт в этой серой зоне, и трактовка может обернуться против него.

Разрыв ответственности. Провайдер GPAI может не раскрыть всю нужную документацию, а provider «Компаса» формально отвечает за качество данных и метрики системы, которую построил не с нуля. Ответственность есть, а контроля над источником — нет.

Клиенты не выполняют свою часть. Рекрутёр-deployer может проигнорировать oversight и информирование кандидатов. Юридически это его нарушение — но репутационный и часто договорный удар придётся и по «Компасу».

Что делать инженеру/продакту

Явно определить свои роли по каждому компоненту (provider скоринга, deployer модели) и закрепить распределение обязанностей контрактами — вверх с провайдером модели (что он обязан раскрыть и гарантировать), вниз с клиентами-deployers (что они обязаны сделать на своей стороне).

Снабдить клиентов instructions for use и встроенными инструментами для их части обязательств (oversight-интерфейс, шаблон информирования кандидата). Обязанность, которую клиент не может физически выполнить через ваш продукт, вернётся к вам.

Провокация

«Мы только интегратор» — вторая по дороговизне фраза после «мы просто обёртка». AI Act устроен так, что как только вы ставите своё имя на высокорисковую систему или существенно её меняете, закон делает вас provider'ом со всей полнотой ответственности — совершенно независимо от того, чью модель вы крутите под капотом и сколько её обучали до вас.

Читать дальше

• Дальше: Transparency — Прозрачность Art. 50: чат-боты и маркировка контента
• Все главы курса →
• Подключить эксперта как MCP →