Глава 7. GPAI: обязательства провайдеров моделей, systemic risk, Code of Practice

Ситуация на «Компасе»

В главах 3 и 5 «Компас» упёрся в чужую foundation-модель: часть обязательств зависит от того, что раскрывает её провайдер. Пора разобраться с отдельным треком закона — режимом GPAI (general-purpose AI, модели общего назначения). У «Компаса» интерес здесь двойной и сугубо практичный: (а) что закон вообще требует от провайдера модели, и (б) что из этого «Компас» как потребитель вправе истребовать и на что опереться, закрывая собственные дыры в Annex IV.

Вывод главы окажется неожиданно стратегическим: выбор foundation-модели — это не только вопрос цены и качества, но и регуляторное решение.

Что говорит норма

GPAI-режим (Art. 51–55, в силе с 02.08.2025) — обязанности провайдеров моделей общего назначения:

• Техническая документация модели и информация вниз по цепочке — чтобы downstream-разработчики (как «Компас») могли выполнить свои обязательства. Это прямой юридический мост от «чужой модели» к вашему техническому файлу.
• Политика соблюдения авторского права при обучении.
• Публичное summary обучающих данных по шаблону AI Office.

Systemic-risk GPAI. Модели выше порога влияния (закон использует критерий очень большого объёма вычислений при обучении как презумпцию системного риска) несут усиленные обязанности: оценка модели, состязательное тестирование (adversarial / red-teaming), отчётность об инцидентах, повышенная кибербезопасность.

GPAI Code of Practice — добровольный инструмент, помогающий провайдерам продемонстрировать соответствие до появления гармонизированных стандартов; следование ему создаёт презумпцию добросовестности.

Стык с value chain (глава 5): документация провайдера GPAI — это вход для Annex IV и Art. 10 «Компаса». Часть того, что «Компас» не может знать про модель сам, он получает (или не получает) отсюда.

Как это ложится на продукт

«Компас» — downstream deployer GPAI: он не несёт обязанностей провайдера модели, но критически зависит от того, что провайдер раскрыл. Отсюда практический артефакт — чек-лист due diligence провайдера модели: карта модели, summary обучающих данных, лицензия и ограничения использования, заявленные метрики и известные ограничения, наличие Code of Practice. И отдельная колонка — «что делать, если не дают»: фиксировать пробел в досье как принятый риск с обоснованием.

Практический сдвиг мышления: выбор провайдера модели становится комплаенс-решением. Модель с лучшими бенчмарками, но без раскрытой документации, создаёт «Компасу» дыру в Annex IV, которую нечем закрыть.

Где ломается

Провайдер раскрывает недостаточно. Даже с обязанностью раскрытия вниз по цепочке объём и качество документации разнятся. У «Компаса» может остаться пробел в Art. 10 / Annex IV, который он структурно не в силах закрыть — и который придётся объяснять аудитору.

Порог systemic risk движется. Критерий системного риска и список таких моделей пересматриваются; статус конкретной модели может измениться, потянув за собой изменение контекста downstream.

Open-weight модели. Для моделей с открытыми весами часть обязанностей провайдера ослаблена — а значит, доля ответственности и «объяснения происхождения» смещается вниз, на того, кто их применяет, то есть на «Компас».

Что делать инженеру/продакту

Ввести model-due-diligence в процедуру выбора провайдера наравне с ценой и качеством: модель без нужной документации — это комплаенс-риск, а не выгодная сделка. Чек-лист прогонять до интеграции, а не после.

Зафиксировать в досье, что именно провайдер раскрыл, а что нет, — граница ответственности, признанная письменно, защищает лучше, чем молчаливая надежда, что «модель серьёзная, значит с ней всё в порядке».

Провокация

Выбор foundation-модели — это регуляторное решение, замаскированное под техническое. Команда выбирает по бенчмаркам, цене и latency, а расплачивается соответствием: модель-лидер без раскрытой документации оставляет в вашем техническом файле дыру, которую перед аудитором придётся закрывать вам — не её провайдеру.

Читать дальше

• Дальше: Conformity — Доказательство: conformity, CE, ISO 42001, штрафы
• Все главы курса →
• Подключить эксперта как MCP →