Month: September 2026

Аудит и воспроизводимость решений ИИ: как доказать регулятору, что произошло

Неизменяемый трейс каждого вызова модели — единственное доказательство для регулятора. Архитектура audit plane на OpenTelemetry.

Через полгода после запуска в «Ковчег» приходит запрос от регулятора: клиент обжалует отказ по кредиту, датированный 12 мая. Вопрос простой и убийственный: «Почему ИИ рекомендовал отказать?» Если у вас нет ответа — не «модель так решила», а восстановимая цепочка: какой был системный промпт, какие данные клиента подтянулись, какая версия модели отвечала, какие guardrails и политики сработали, — то high-risk-система недоказуема, а значит несоответствна.

Continue reading “Аудит и воспроизводимость решений ИИ: как доказать регулятору, что произошло”

Agentic AI Governance: как дать агенту автономию и не пустить инъекцию в банковский перевод

Автономия агента — не тумблер, а градация по риску. Архитектура policy-gated action loop, HITL для необратимого и kill-switch как штатный режим.

Пока модель генерирует текст, худшее, что может случиться — неверный ответ. Как только модель начинает действовать, её власть и видимость становятся поверхностью атаки. Инъекция из письма превращается не в плохой ответ, а в выполненный перевод денег.

Continue reading “Agentic AI Governance: как дать агенту автономию и не пустить инъекцию в банковский перевод”

Манифест: AI Governance как control plane, а не PDF-политика

Два способа делать AI governance. Первый — написать политику на сорок страниц и положить в SharePoint. Второй — встроить контроль в путь запроса, чтобы модель физически не могла его обойти.

Есть два способа делать AI governance. Первый — написать политику. Документ на сорок страниц: принципы ответственного ИИ, комитет, матрица ролей, требование «использовать ИИ этично». Его подписывают, кладут в SharePoint и возвращаются к нему на следующем аудите. Второй способ — встроить governance в путь запроса: каждый вызов модели физически не может обойти маскирование PII, контроль доступа, guardrails, лимиты и аудит, потому что они стоят на пути пакета, а не в голове разработчика.

Этот текст — про второй способ. Тезис простой и жёсткий: governance, который нельзя обойти технически, — это не документ, это control plane.

Continue reading “Манифест: AI Governance как control plane, а не PDF-политика”

Чат, CLI, SDK или голый HTTP: какой слой доступа к LLM выбрать под задачу

Одна и та же LLM за четырьмя интерфейсами ведёт себя по-разному. Различается не модель, а оркестрация вокруг неё — управление контекстом, детерминированность, кэш, роутинг.

Один и тот же промпт можно отправить в модель четырьмя способами: набрать в веб-чате, отдать консольному агенту, вызвать из кода через SDK или собрать HTTP-запрос руками. Ответ вернётся похожий. А вот система вокруг него получится разной по задержке, стоимости, предсказуемости и безопасности — и разница эта возникает не в модели, а в слое, через который вы к ней обращаетесь.

Continue reading “Чат, CLI, SDK или голый HTTP: какой слой доступа к LLM выбрать под задачу”

«Усиливать, а не заменять» — а с чего вы взяли, что кто-то хочет вас усиливать?

Бизнес никогда не хотел улучшать сотрудников — он хотел снизить зависимость от них. «Усиление» одного делает лишним другого.

«ИИ должен усиливать человека, а не заменять его!» — пишут мне сотни людей. Разумеется, среди них нет ни одного руководителя.

Помимо очевидной инфантильности этого тезиса — который звучит как плаксивое «позязя, ни заминяйте миня!» — давайте серьёзно разберём экономику процесса. Не эмоцию, не мораль, а арифметику, по которой на самом деле принимают решения о найме и сокращении.

Главный вопрос, который тут пропускают: с чего вы взяли, что кто-то вообще хочет вас усиливать?

Continue reading “«Усиливать, а не заменять» — а с чего вы взяли, что кто-то хочет вас усиливать?”

Никаких талонов на ИИ: вы перепутали бюджет с дефицитом

Компании не ограничивают токены LLM — их считают и оптимизируют, как любой счёт за инфраструктуру. Дефицит ИИ — миф, рождённый перепутанным глаголом.

— По всему миру компании ограничивают потребление токенов LLM! — кричат мне. — Ура, скоро мы снова вернёмся к ручной разработке!

Нет. Совсем не так.

Кто-то услышал слово «лимит», сложил его со словом «токены» и получил апокалипсис: доступ к ИИ по талонам, очереди за килобайтами, возвращение золотого века ручного кодинга. Красивая история — разваливается на первом же вопросе: что, собственно, вы собрались ограничивать?

Continue reading “Никаких талонов на ИИ: вы перепутали бюджет с дефицитом”

Иллюзия деградации: почему падение оценок на экзаменах — приговор школе, а не студентам

Минус 20% на очных экзаменах — не «цифровое слабоумие» молодёжи, а явка с повинной академической системы, которая измеряет обесценившийся навык.

Консерваторы от образования снова нашли виновника всех бед. Статистика непреклонна: школьники и студенты, привыкшие готовить домашние задания с помощью нейросетей, сдают очные экзамены без гаджетов в среднем на 20% хуже предыдущих поколений. Реакция системы предсказуема: крики о «цифровом слабоумии», призывы банить генеративный ИИ на корню и ужесточать прокторинг.

Continue reading “Иллюзия деградации: почему падение оценок на экзаменах — приговор школе, а не студентам”

«Заказчик не сформулирует production-ready ТЗ» — так он его и не формулирует, ТЗ пишет себе сам клод

Семнадцать человек за неделю написали мне, что AI в руках заказчика бесполезен — потому что заказчик не сформулирует production-ready ТЗ. Семнадцать взрослых человек не додумались до простой вещи: заказчику не надо ничего формулировать. Клод сформулирует себе сам.

Аж целых 17 человек за неделю написали мне одно и то же: AI в руках заказчика не принесёт результата, потому что заказчик не способен сформулировать production-ready постановку задачи. Семнадцать взрослых людей среди моих активных подписчиков не смогли додуматься до простой вещи — той самой, которая рушит всю их конструкцию в один ход.

Continue reading “«Заказчик не сформулирует production-ready ТЗ» — так он его и не формулирует, ТЗ пишет себе сам клод”

«ИИшный код надо вычитывать глазами» — и это диагноз вашему руководителю

Ручная вычитка генерации глазами — не инженерная зрелость, а ставка на человека в критической цепи. Руководитель, который на неё полагается, проиграет тем, кто построил автоматический контроль.

Есть популярное утверждение: код и скрипты, которые сгенерировала модель, надо обязательно проверять вручную — вычитывать глазами то, что она выдала. Звучит как здравый смысл, как ответственность, как зрелая инженерная культура.

Само по себе это утверждение абсолютно безумно. Оно делает работу с ИИ более медленной и бессмысленной. Зачем тогда вообще нужна модель, если к ней ещё нужно приставить инженера — как рабочего к станку? ИИ придумали, чтобы заменить инженера, а не чтобы замедлить его ещё сильнее.

Continue reading “«ИИшный код надо вычитывать глазами» — и это диагноз вашему руководителю”

Ваш идеальный промпт — это поводок, на котором вы душите модель умнее себя

Длинный жёстко алгоритмизированный промпт не раскрывает возможности LLM, а запирает их в стенках вашего ограниченного разума. Диктуйте контекст, а не способ решения.

Промпт-инжиниринг — это вредный абсурд. Индустрия так долго внушала нам, что для работы с нейросетями нужны особые «заклинания», что мы начали принимать этот костыль за реальную потребность. Мы привыкли думать, что искусственный интеллект — это исполнительный, но туповатый джуниор, которому нужно разжевать каждый чих, иначе он обязательно свернёт не туда. Отсюда рождаются многоэтажные монстры: «представь, что ты гениальный маркетолог с двадцатилетним стажем, напиши текст в три абзаца, используй вот эти слова, не используй те, дыши через раз».

Continue reading “Ваш идеальный промпт — это поводок, на котором вы душите модель умнее себя”