Через полгода после запуска в «Ковчег» приходит запрос от регулятора: клиент обжалует отказ по кредиту, датированный 12 мая. Вопрос простой и убийственный: «Почему ИИ рекомендовал отказать?» Если у вас нет ответа — не «модель так решила», а восстановимая цепочка: какой был системный промпт, какие данные клиента подтянулись, какая версия модели отвечала, какие guardrails и политики сработали, — то high-risk-система недоказуема, а значит несоответствна.
Continue reading “Аудит и воспроизводимость решений ИИ: как доказать регулятору, что произошло”