Microsoft Agent Framework получил долговременную память на Azure Cosmos DB
Microsoft выпустила предварительную интеграцию долговременной памяти для Microsoft Agent Framework и Azure Cosmos DB. Python-пакет agent-framework-azure-cosmos-memory добавляет провайдер контекста, который до ответа извлекает подходящие факты из прошлых сессий, а после ответа сохраняет новые реплики и запускает фоновую обработку памяти.
Что изменилось
Память подключается как часть жизненного цикла агента
CosmosMemoryContextProvider работает вокруг каждого вызова модели. До запуска он ищет сведения, связанные с новым сообщением, и добавляет их в контекст. После завершения сохраняет свежий разговор. Агенту не нужно отдельно решать, когда вызвать инструмент памяти, а приложению - строить собственный конвейер поиска для каждого запроса. Это уменьшает интеграционный код, но повышает ответственность провайдера: ошибочно найденный факт будет незаметно влиять на последующие ответы.
Из диалогов формируются разные типы воспоминаний
Azure Cosmos DB Agent Memory Toolkit извлекает факты, эпизодические и процедурные сведения, создает резюме веток и обновляет профиль пользователя. Обработка выполняется в фоне, чтобы не задерживать текущий ответ. Такая память отличается от простого архива чата: система преобразует разговор в компактные записи, которые можно вернуть позже. Разработчику нужно определить, какие утверждения достаточно надежны для сохранения, как исправить устаревшее значение и какие категории вообще запрещено извлекать.
Поиск сочетает векторы и обычный текст
Cosmos DB for NoSQL хранит реплики и производные записи, а для возврата поддерживает векторный, полнотекстовый и гибридный поиск в одной базе. Вектор помогает находить смыслово близкие формулировки, текстовый режим - точные названия и идентификаторы, гибридный объединяет сигналы. Качество зависит от фильтров пользователя, модели эмбеддингов и порога релевантности. Без устойчивого user_id воспоминания новой сессии не будут правильно связаны с прежней, а слабая изоляция идентификаторов создаст риск смешивания данных.
Разработчик может заменить правила извлечения
Если стандартная схема памяти не подходит предметной области, пакет принимает собственные шаблоны Prompty. Например, сервис поддержки может сохранять подтвержденный тариф и номер договора, но не предположение оператора; учебный помощник - цель курса и пройденные темы, но не случайную ошибку ученика как постоянный факт. Настройка требует тестового набора разговоров: нужно проверять, что система извлекает нужное, не переносит чувствительные данные и корректно обновляет противоречивую информацию.
Релиз пока предварительный и только для Python
Пакет устанавливается с флагом предварительных версий и на момент анонса не заявлен для C#. Microsoft предупреждает, что интерфейсы могут измениться до общей доступности. Для запуска нужны Cosmos DB, конечная точка Foundry, модель эмбеддингов и чат-модель. DefaultAzureCredential позволяет использовать локальный вход Azure и управляемую идентичность в продакшене без ключей в коде, но права ресурсов и сетевые ограничения все равно настраиваются отдельно.
Что это дает пользователю
Начинайте с одного проверяемого сценария, например сохранения языка, региона и выбранного продукта. Составьте двадцать диалогов с обновлениями и противоречиями и убедитесь, что новая подтвержденная запись заменяет старую, а не существует рядом с ней.
Разделите память по сроку хранения. Профильное предпочтение может жить месяцами, одноразовый статус заказа - до закрытия обращения, а платежные и медицинские данные могут не сохраняться вовсе. Политика удаления нужна до пилота, а не после накопления базы.
В интерфейсе стоит показывать пользователю сохраненные факты и давать способ исправить или удалить их. Скрытая память удобна разработчику, но затрудняет разбор ситуации, когда агент снова и снова использует неверное предположение.
Для продакшена проверяйте изоляцию по tenant_id и user_id, управляемые идентичности, шифрование, журналы чтения и удаления. Тест на утечку должен пытаться получить память другого пользователя как прямым запросом, так и смыслово похожей формулировкой.
Что нужно учитывать
Интеграция находится в preview, доступна для Python и может получить несовместимые изменения API.
Провайдер автоматизирует память, но не определяет юридически допустимый срок хранения данных.
Гибридный поиск не гарантирует, что извлеченная запись актуальна и относится к нужному контексту.
Для работы требуются отдельные ресурсы Azure и модели, расходы которых нужно учитывать в архитектуре.
Коротко
Новая интеграция превращает долговременную память из отдельного пользовательского конвейера в стандартный провайдер Agent Framework. Это удобно для персонализированных помощников и поддержки между сессиями, но автоматическое извлечение делает ошибки памяти системными. Хороший пилот должен проверять не только узнавание пользователя, но и исправление, удаление, изоляцию арендаторов и стоимость поиска. Пока пакет имеет статус preview, его разумно закрывать собственным интерфейсом, чтобы будущие изменения не затронули все приложение. До общей доступности стоит хранить версию пакета и схему миграции рядом с каждым развертыванием, а изменения извлечения проверять на сохраненном наборе диалогов.