Мир агентного ИИ переживает тектонический сдвиг: на смену чат-ботам с короткой памятью приходят автономные копилоты, способные вести длительные проекты, помнить контекст и использовать инструменты. Однако главный вызов — не в интеллекте модели, а в stateful-инженерии: умении сохранять, разделять и переносить состояние агента. Платформа Letta (ранее MemGPT) предлагает архитектуру, которая превращает LLM из «золотой рыбки» в полноценного цифрового коллегу. Разбираем ключевые механизмы, которые меняют правила игры.
Почему память — это новая нефть агентного ИИ
Классические LLM работают в парадигме stateless: каждый запрос начинается с чистого листа, а весь контекст умещается в ограниченное окно токенов. Для одноразовых задач этого достаточно, но настоящий копилот должен помнить, что обсуждалось вчера, какие файлы он редактировал и какие решения уже приняты. Context Engineering — дисциплина управления этим окном — становится критически важной.
Letta решает проблему через многоуровневую память: ядро (core memory), архив (archival memory) и внешние источники. Агент сам решает, что оставить «под рукой», а что отправить в долгосрочное хранилище, используя специальные функции. Это не просто буферизация — это активное управление контекстом, где модель выступает редактором собственной памяти.
Деление состояния: один агент — много пользователей
В корпоративных сценариях один копилот часто обслуживает десятки сотрудников или сессий. Letta вводит понятие shared state с изоляцией по пользователям и агентам. Каждый агент получает собственный блок памяти, а общие знания (например, база регламентов компании) выносятся в разделяемые источники.
На практике это означает, что вы можете создать «мастер-агента» с базовой логикой и порождать его клоны с независимой памятью для каждого клиента. При этом обновление системного промпта или инструментов в родителе транслируется в дочерние сущности — без потери накопленного контекста. Это открывает дорогу к мультитенантным копилотам, которые не путают пользователей и не смешивают их данные.
Практический сценарий: поддержка клиентов
- Агент первого уровня помнит историю обращений конкретного клиента.
- Эскалация к «старшему» агенту передаёт не только текст тикета, но и сжатую выжимку состояния.
- Общая база знаний остаётся единой, а персональные данные — изолированными.
Семантический поиск: память, которая понимает смысл
Хранить историю — половина дела. Нужно уметь мгновенно находить в ней нужное. Letta использует векторные представления (embeddings) для семантического поиска по архивной памяти. Когда агент сталкивается с вопросом, он не перечитывает всю переписку, а выполняет запрос к своему архиву, получая наиболее релевантные фрагменты.
Это особенно ценно в длительных проектах. Представьте копилота-разработчика, который месяц назад обсуждал архитектуру микросервиса. Вместо того чтобы «забыть» детали, он извлекает их по смысловой близости к текущей задаче — даже если формулировки изменились. Смысловой поиск превращает архив в живую, доступную часть интеллекта агента.
Кастомные инструменты: расширяем возможности без переписывания ядра
Сила агентного ИИ — в действиях. Letta позволяет подключать пользовательские инструменты (tools) как функции, которые агент вызывает по мере необходимости: от запросов к CRM до запуска скриптов и работы с файловой системой. Каждый инструмент описывается схемой, а модель сама решает, когда его применить.
Ключевое преимущество — инструменты становятся частью состояния. Агент помнит, какие инструменты у него есть, какие он уже использовал и с каким результатом. Это позволяет строить сложные цепочки: например, сначала найти документ, затем извлечь из него данные, потом обновить запись в базе — и всё это в рамках одной связной сессии.
- Определите функцию и её входные параметры.
- Зарегистрируйте инструмент в конфигурации агента.
- Агент автоматически включит его в свой «арсенал» и будет вызывать по контексту.
Стриминг ответов: отзывчивость как часть UX
Ожидание полного ответа убивает ощущение диалога. Letta поддерживает стриминг (streaming) — токен за токеном, шаг за шагом. Пользователь видит, как агент «думает», вызывает инструменты и формирует вывод в реальном времени.
Но стриминг в stateful-системе — это не просто вывод текста. Нужно синхронизировать обновления памяти и промежуточные вызовы инструментов с потоком ответа. Letta решает это через события (events), которые транслируются клиенту: начало генерации, вызов функции, результат, финальный ответ. Разработчик получает полный контроль над тем, как выглядит «живой» копилот в интерфейсе.
Что это даёт на практике
- Снижение воспринимаемой задержки — пользователь вовлечён с первой секунды.
- Прозрачность: видно, какие инструменты задействованы.
- Возможность прервать или скорректировать агента на лету.
Перенос рабочих процессов: state как переносимый артефакт
Одна из самых недооценённых возможностей Letta — сериализация состояния. Всю память агента, включая ядро, архив и историю вызовов инструментов, можно экспортировать и импортировать. Это значит, что рабочий процесс не привязан к конкретному серверу или сессии.
Представьте: копилот ведёт проект на локальной машине разработчика, а затем «переезжает» в облако вместе со всей накопленной памятью. Или агент завершает смену, передавая состояние агенту следующей смены — как эстафетная палочка. Переносимость состояния открывает сценарии резервного копирования, миграции и даже «клонирования» опытных копилотов для обучения новых.
Для инженеров это означает воспроизводимость: баг в поведении агента можно зафиксировать снимком состояния и отладить локально, не воспроизводя всю цепочку событий заново.
Что это меняет для разработчиков
Stateful-инженерия с Letta смещает фокус с промпт-инжиниринга на архитектуру памяти и инструментов. Вместо того чтобы умещать всё в один запрос, вы проектируете, как агент будет управлять своим контекстом на протяжении дней и недель. Это ближе к классической разработке ПО: есть состояние, есть транзакции, есть миграции.
Ключевые навыки будущего — умение описывать инструменты, настраивать политики памяти (что хранить, что забывать, что искать) и обеспечивать изоляцию данных. Именно эти компетенции определят, чей копилот будет полезен, а чей — останется демо-игрушкой.
Короткий чек-лист внедрения
- Спроектируйте блоки памяти: что должно быть в ядре, а что — в архиве.
- Определите границы изоляции: пользователи, команды, проекты.
- Опишите кастомные инструменты с чёткими схемами.
- Настройте стриминг событий для отзывчивого UX.
- Продумайте экспорт и импорт состояния для миграций и бэкапов.
Вывод
Letta демонстрирует, что будущее агентного ИИ — не в бесконечном увеличении окна контекста, а в грамотном управлении состоянием. Разделение памяти между пользователями, семантический поиск, кастомные инструменты, стриминг и переносимые рабочие процессы превращают LLM в настоящего копилота, который помнит, учится и не теряет нить. Освоив stateful-инженерию сегодня, разработчики получают преимущество завтра — когда конкуренция будет измеряться не качеством промпта, а глубиной памяти и связностью действий агента.
