Исследователи из компании Mem0 разработали две архитектуры памяти — Mem0 и Mem0g, — которые повышают способность больших языковых моделей (LLM) запоминать и использовать информацию в длительных диалогах.
Это решение устраняет ключевое ограничение современных LLM: неспособность эффективно работать с данными за пределами их контекстного окна, даже если оно расширено до миллионов токенов.
По словам Таранджит Сингха, генерального директора Mem0, существующие системы страдают от «забывания» важных данных — например, игнорирования аллергий пациента медицинским ассистентом или потери деталей поездки в разговоре с планировщиком.
Изображение: VentureBeat / Ideogram Mem0 решает проблему через динамическое извлечение и обновление информации.
На первом этапе система анализирует недавние сообщения и сводку всего диалога, выделяя ключевые факты. На втором — оценивает, нужно ли добавить новые данные, обновить существующие или удалить противоречивые.
В результате память агента остаётся актуальной без перегрузки контекста. Mem0g дополняет этот подход графовыми структурами, где сущности (люди, события, объекты) связаны как узлы, а их отношения — как рёбра.
Это позволяет ИИ строить сложные ассоциации, например, соединять даты поездки с городами и мероприятиями.
Тестирование на базе набора данных LOCOMO показало, что Mem0 сокращает задержку на 91% и экономит более 90% токенов по сравнению с методами, загружающими полный контекст.
При этом качество ответов не ухудшается. Mem0g демонстрирует аналогичную эффективность, но лучше справляется с задачами, требующими временных или логических связей.
Обе архитектуры превзошли шесть категорий систем, включая решения с открытым исходным кодом и ChatGPT. Для корпоративных приложений это означает более надёжных ИИ-агентов в службах поддержки, медицинских сервисах или планировании.
Mem0 подойдёт для простых сценариев, а Mem0g — для комплексных задач вроде анализа многомесячных диалогов. Разработчики подчёркивают, что их подход не требует увеличения вычислительных ресурсов, что делает его экономически выгодным для бизнеса.
Рубрика: Технологии и Наука. Читать весь текст на www.ixbt.com.