Кредитный модуль платформы «Ковчег» готовит проекты решений по заявкам клиентов. По EU AI Act это не «ассистент», а high-risk AI system: оценка кредитоспособности физлиц прямо поименована в Annex III. Это переводит систему в другой юридический класс с обязательной системой управления рисками, технической документацией, логами, human oversight и регистрацией. Параллельно текстовый ассистент, генерирующий ответы клиентам, попадает под Article 50 — прозрачность ИИ-сгенерированного контента. Одна система, два разных набора обязательств.
Соответствие, собираемое вручную к дате аудита, — это театр. Соответствие, генерируемое пайплайном из живых плоскостей системы, — это доказательство. Инженерная задача — превратить регуляторные требования из PDF-политики в автоматизированные гейты и артефакты.
Цена вопроса
EU AI Act — это не рекомендация. Article 99 задаёт три яруса штрафов: до €35 млн или 7% оборота за запрещённые практики (Article 5, действуют с 02.08.2025), до €15 млн или 3% за нарушения по high-risk, до €7,5 млн или 1% за недостоверную информацию регулятору. Для SME — по нижней из величин.
Даты сдвигались «Digital/AI Omnibus»: надзорные полномочия AI Office и Article 50 (прозрачность) вступают в силу 02.08.2026; stand-alone high-risk (Annex III) отложены на 02.12.2027; embedded high-risk (Annex I) — на 02.08.2028. Сдвиг дат — не отмена. Система управления рисками, техническая документация и оценки строятся годами. Кто отложил подготовку до 2027, к этой дате обнаружит, что собрать досье задним числом невозможно.
ISO/IEC 42001 (опубликован в декабре 2023) — де-факто требование в B2B-RFP в ЕС. Стандарт не гармонизирован под AI Act и не даёт presumption of conformity, но даёт сертифицируемое доказательство governance. NIST AI RMF — добровольный, несертифицируемый фреймворк.
Архитектурный паттерн: Compliance-by-Design
Соответствие встроено в CI/CD. Классификация риска, система управления рисками и маркировка контента — шаги пайплайна, а не ручной аудит. Governance выражен как код (policy-as-code), доказательства — как автогенерируемые артефакты.
Шаг 1. Автоклассификация риска в CI/CD
При регистрации или релизе система метится по категориям AI Act: unacceptable, high-risk, limited, minimal. Класс определяет набор обязательных гейтов.
Для «Ковчега» это раздвоение работает так: кредитный модуль получает класс high-risk и полный набор гейтов; текстовый ассистент получает класс limited и требования Article 50. Автомат ставит черновой класс, юрист подтверждает пограничные кейсы. Автомат ставит черновой класс, юрист подтверждает пограничные кейсы.
Шаг 2. Risk Management System для high-risk
Регулярное протоколирование рисков и мер снижения (Article 9) привязывается к аудит-логу и eval-отчётам. RMS — живой процесс, не разовый документ. Риск-реестр обновляется при каждом релизе, оценки мер снижения — при каждом изменении модели или данных. Доказательство работы RMS собирается из артефактов глав системы автоматически.
Шаг 3. C2PA Watermarking под Article 50
На сгенерированный контент — текст, изображение, аудио — накладываются криптографические Content Credentials и provenance-метаданные стандарта C2PA. Против срыва метаданных при перефразе, скриншоте или ре-энкоде работают Durable Credentials: невидимый watermark и перцептивный фингерпринт (идея SynthID). Комиссия в draft Code of Practice on Transparency называет C2PA примером решения, закрывающего все четыре критерия Article 50.
Шаг 4. Technical documentation как артефакт
Досье системы — данные, модель, оценки, риски, контроли — собирается автоматически из артефактов системы к моменту релиза. Не пишется задним числом. Шаблоны technical documentation заполняются из живых плоскостей: метаданные модели тянутся из реестра, результаты оценок — из eval-отчётов, логи рисков — из RMS-трекера.
Шаг 5. Единая матрица соответствия
Одна таблица связывает статьи AI Act, контроли ISO 42001 и реализованные плоскости системы. Структура: «требование → контроль (глава) → доказательство (артефакт)». Эта матрица — ядро аудита. Когда доказательства автогенерируются из живых плоскостей, матрица не расходится с продом.
Инженерный стек
- Provenance/watermark: C2PA Content Credentials, Durable Content Credentials, SynthID; черновик ISO 22144.
- Policy-as-code: OPA (Rego) — гейты в CI/CD.
- Compliance automation: реестр AI-систем, шаблоны technical documentation, RMS-трекеры.
Где ломается
Watermark срывается. Перефраз текста, скриншот, ре-энкод убивают маркировку. Durable Credentials снижают потери, но не устраняют — для текста особенно слабо. Не обещайте «неснимаемую» метку. Честный отчёт о срыве метки — часть артефакта.
Классификация риска не бинарна. Пограничные кейсы требуют юридической интерпретации. Автомат ставит черновой класс, юрист подтверждает. Автоклассификация ускоряет, не заменяет.
ISO 42001 ≠ presumption of conformity. Сертификат сильно помогает на RFP и как доказательство governance, но не закрывает AI Act автоматически. Стандарт не гармонизирован под закон.
Сдвиг дат расслабляет. High-risk отложен на декабрь 2027 — соблазн отложить подготовку. Но RMS, документация и оценки строятся годами. К 2027 году у тех, кто отложил, не окажется ничего, кроме срочных подрядчиков и пустого досье.
Compliance-театр возвращается. Матрица соответствия есть, а контроли в проде не работают — тот самый разрыв между PDF-политикой и реальностью. Лечится тем, что доказательства автогенерируются из живых плоскостей, а не скриншотятся к аудиту.
Стандарты и маппинг
| Стандарт | Что покрывает |
|---|---|
| EU AI Act | Art. 5 (запреты), Art. 6 + Annex III (high-risk), Art. 9 (RMS), Art. 11–12 (документация, логи), Art. 14 (oversight), Art. 50 (прозрачность), Art. 99 (штрафы) |
| ISO/IEC 42001 | AIMS, Annex A controls |
| NIST AI RMF | Govern / Map / Measure / Manage |
| C2PA / ISO 22144 (draft) | Provenance, Content Credentials |
Чеклист зрелости
- L1: системы классифицированы, назначен владелец соответствия.
- L2: RMS и technical documentation как артефакты релиза, C2PA на выходном контенте.
- L3: policy-as-code гейты в CI/CD, матрица AI Act ↔ ISO 42001 с живыми автогенерируемыми доказательствами, Durable Credentials, готовность к сертификации AIMS.
Источники
- EU AI Act — implementation timeline
- Article 99: Penalties
- EU AI Act и C2PA: что требует Article 50
- ISO 42001 vs NIST AI RMF vs EU AI Act (EC-Council)
Когда придёт аудитор с запросом на доказательство соответствия, у вас будет либо пайплайн, который сгенерировал артефакты из живой системы, либо папка с PDF, собранная за неделю до проверки. Штраф за high-risk — до €15 млн или 3% оборота. Какое из двух доказательств вы готовы предъявить?