Современные ИИ-ассистенты обычно хранят всю историю переписки без сортировки и отбора. Избыток данных затрудняет поиск нужной информации и может нарушать последовательность ответов.

Разработчики предложили вынести управление долговременной памятью нейросети в отдельный модуль. Он определяет, какие сведения нужно оставить, а какие — удалить или изменить.

Перед ответом система ищет среди сохраненных записей информацию, связанную с новым запросом. Затем она сжимает найденные данные в краткий контекст и передает его модели вместе с запросом пользователя. После этого модуль памяти оценивает новые сведения и решает, стоит ли добавлять их в хранилище.

Ученые также предусмотрели дополнительную обработку записей. По их замыслу, это помогает убрать лишние и повторяющиеся сведения и сохранить более последовательную работу ассистента во время долгого диалога.

Лариса Кузина, доцент кафедры алгоритмических языков, входящей в состав факультета вычислительной математики и кибернетики МГУ, назвала память ИИ управляемой системой, а не простым архивом переписки. По ее словам, в ней следует сохранять только значимую информацию и по мере работы перестраивать ее структуру.