Никаких талонов на ИИ: вы перепутали бюджет с дефицитом

Компании не ограничивают токены LLM — их считают и оптимизируют, как любой счёт за инфраструктуру. Дефицит ИИ — миф, рождённый перепутанным глаголом.

— По всему миру компании ограничивают потребление токенов LLM! — кричат мне. — Ура, скоро мы снова вернёмся к ручной разработке!

Нет. Совсем не так.

Кто-то услышал слово «лимит», сложил его со словом «токены» и получил апокалипсис: доступ к ИИ по талонам, очереди за килобайтами, возвращение золотого века ручного кодинга. Красивая история — разваливается на первом же вопросе: что, собственно, вы собрались ограничивать?

Continue reading “Никаких талонов на ИИ: вы перепутали бюджет с дефицитом”