Компании слишком быстро развернули ИИ-агентов без инфраструктуры для контроля их работы и расходов. К такому выводу пришел основатель стартапа Hebbia Джордж Сивулка в эссе для рассылки a16z, пишет Fortune.
Он связал проблему с tokenmaxxing — практикой, при которой организации отслеживали и поощряли рост потребления токенов при работе с ИИ. По его словам, компании ошибочно приняли рост потребления токенов за признак внедрения ИИ и повышения продуктивности.
По его мнению, ИИ-агенты не столько снизили затраты на труд, сколько изменили структуру расходов. В эссе Сивулка заявил, что «впервые в истории люди оказались дешевле программного обеспечения».
Hebbia разрабатывает корпоративные ИИ-инструменты. По данным Fortune, среди клиентов стартапа — BlackRock, KKR и ВВС США.
Проблема оказалась не в моделях
По оценке Сивулки, ИИ-агенты часто не справляются с задачами не из-за слабости моделей, а из-за неясных инструкций внутри компаний. Он утверждает, что «примерно один из 100 сотрудников» умеет давать ИИ достаточно контекста для качественного выполнения работы.
Плохие инструкции приводят к «петлям»: агент пытается исправить собственные действия, повторно обращается к модели и расходует дополнительные токены без соразмерного результата. Сивулка описал это как «расход токенов на расход токенов». В итоге автор пришел к выводу, что компании столкнулись не с технологическим, а с управленческим кризисом.
Fortune связало этот тезис с более широкой дискуссией о расходах на ИИ. По данным издания, в начале 2026 года ряд компаний отслеживал и поощрял потребление токенов как показатель активности сотрудников.
Позднее часть таких инициатив свернули. Ранее издание писало, что Meta и Amazon использовали внутренние рейтинги потребления токенов, но отказались от них после того, как сотрудники начали использовать ИИ ради показателей, а не результата.
Расходы стали отдельным риском
Fortune приводит данные UBS Global Research, согласно которым почти все руководители ИИ-компаний на закрытом мероприятии банка говорили о проблеме расходов на токены в корпоративной среде.
Одна неназванная фирма сообщила UBS, что ее расходы на Anthropic выросли с $20 000 в декабре до почти $1 млн в июле. Менеджмент не стал ограничивать использование полностью, но начал вводить внутренние лимиты и предупреждения о превышении порогов.
По данным журналистов, UBS ранее оценивал обеспокоенность расходами на токены как значимую проблему примерно для 60% организаций. Издание также упомянуло случай неназванной компании, которая, по данным Axios, за месяц получила счет примерно на $500 млн за использование Claude после запуска ИИ-инструментов без лимитов.
Компании переходят к управлению моделями
Сивулка считает решением не отказ от ИИ, а появление управленческой инфраструктуры для агентных систем. К ней он отнес четкое описание процессов, оценки качества результата, контроль расходов и распределение задач между разными моделями.
Fortune пишет, что некоторые компании уже переходят к model routing. В таком подходе простые операции передают более дешевым или быстрым моделям, а дорогие передовые используют только для ключевых сценариев.
Сивулка также предупредил о новой внутренней проблеме, связанной с удержанием сотрудниками важного рабочего контекста. По его словам, люди могут не захотеть передавать ИИ-системам знания и процессы, которые делают их незаменимыми. Эксперт отметил, что без доверия и понятных правил работники не будут помогать системам, которые могут изменить их.
Как не потерять себя, когда ИИ заберет вашу работу? - ForkLog
Текстовая версия свежей "Деконструкции".
forklog.com
Напомним, в июле обозреватель Financial Times Сара О’Коннор назвала знания сотрудников ресурсом для корпоративного ИИ.