Anthropic открыла бета-версию Message Threads: меньше задержка в длинных сессиях Claude Кого затрагивает: Разработчики на Claude Platform и пользователи Claude Code с длинными активными сессиями.

Anthropic открыла бету Message Threads, включённую у большинства в Claude Code. В Messages API параметр thread позволяет после полной истории слать лишь новые сообщения и ID прошлого ответа. История зашифрована в памяти, без записи на диск; через 5 минут без запросов её нужно передать заново.

По данным Anthropic, в Claude Code при 500 тыс.–1 млн токенов медианное время до первого токена ниже примерно на 35%. Это не гарантия для любых запросов. Расход токенов, тарифы и лимиты прежние: вся история читается каждый раз.

While each request is smaller with message threads, Claude still reads the full conversation on every turn, so token usage stays the same.

Источники: claude.com Читать полный обзор

Подпишись на @DeusOps