AI-агентов ищут в 1 458 вакансиях, кэш промптов в 13
На hh.ru «AI-агента» упоминают в 1 458 вакансиях, а кэширование промптов только в 13. Хотя именно кэш решает, сколько стоит агент. Одна задача в 30 шагов прочитала 1,63 млн токенов и стоила $3,38 без кэша и $0,51 с ним.
Я написал серию из трёх статей для тех, кто только вкатывается в агентов. В первой разбираю слова из этих вакансий и считаю, куда уходят токены. Вторая про прод: агент, которого после падения запустили с нуля, стоит на 81% дороже и второй раз отправляет клиенту письмо. В третьей собираю всё вместе в агента поддержки, который возвращает деньги, и он вырастает из одного файла до Temporal, саги и circuit breaker.
Расчёты условные, по ценам конца октября. Все три части ниже.
Часть 1. Агенты, MCP, токены и кэш: https://habr.com/ru/articles/1103562/ Часть 2. Инструменты, RAG, надёжность и проверки: https://habr.com/ru/articles/1105712/ Часть 3. Агент поддержки от одного файла до Temporal: https://habr.com/ru/articles/1106294/
English version: Часть 1. Dev.to: https://dev.to/muratover/ai-engineering-for-newbies-agents-mcp-tokens-and-caching-with-numbers-1gh1 Medium: https://medium.com/@cooperative.entr/ai-engineering-for-newbies-agents-mcp-tokens-and-caching-with-numbers-cd00e5919707 Часть 2. Dev.to: https://dev.to/muratover/ai-agents-in-production-for-newbies-tools-rag-reliability-and-evals-4boa Medium: https://muratover.medium.com/ai-agents-in-production-for-newbies-tools-rag-reliability-and-evals-58c7cd17a348 Часть 3. Dev.to: https://dev.to/muratover/agent-systems-for-newbies-building-a-support-agent-from-one-file-to-temporal-sagas-and-a-circuit-2fhf Medium: https://muratover.medium.com/agent-systems-for-newbies-building-a-support-agent-from-one-file-to-temporal-sagas-and-a-circuit-d2e8e71ced40