텐센트 헌위안이 대화나 작업 기록에서 오래 기억할 정보를 골라 저장하는 전용 모델을 공개했다. 장기 기억 기능을 만드는 개발자는 기존 기억 관리 체계를 유지하면서 기록을 맡던 범용 언어 모델을 교체할 수 있다.

1. 답변이 아니라 기억 작성을 맡는다

10월 15일 공개된 Hy-Memory-30B-A3B는 전체 파라미터가 300억 개이며, 한 번의 계산에 약 30억 개를 활성화하는 혼합 전문가 모델이다. 여러 전문가 중 일부를 골라 쓰는 구조이며, 가중치에는 Apache-2.0 라이선스가 적용된다.

장기 기억 시스템은 정보를 기록하고, 필요한 기록을 검색한 뒤, 이를 읽어 답하는 구조다. 이번 모델은 첫 단계에서 무엇을 남길지, 얼마나 구체적으로 적을지, 새 정보로 기존 기록을 어떻게 바꿀지를 결정한다. 기록에서 빠진 사실은 뒤의 검색만으로 되살릴 수 없다는 문제를 겨냥한다.

학습은 자신이 만든 기록을 바탕으로 교사 모델의 지도를 받는 단계와, 저장된 정보로 나중에 답할 수 있는지를 평가하는 강화학습 단계로 나뉜다. 후자는 답변에 쓰인 근거를 원래 입력 구간에 연결해 보상하고, 불필요한 저장과 과도한 기록 증가에는 불이익을 준다.

2. 기존 서비스의 작성 모델 자리에 연결한다

Mem0과 MemOS의 범용 모델 자리를 대체하도록 학습됐다. 자체 프레임워크에서는 대화, 업무, 코딩을 다루며, 검색기나 답변 모델까지 함께 교체하는 방식은 아니다.

모델 카드는 vLLM 0.31.0에서 확인한 배포 방법을 안내하며, OpenAI 호환 API로 호출한다. 프레임워크에는 언어 모델 접속점과, 텍스트를 검색용 숫자 벡터로 바꾸는 임베딩 접속점을 설정한다.

아래는 저장소의 원본 설정 예시다. 다른 제공자의 모델을 가리키는 범용 예시이므로, 공개 모델을 직접 연결하려면 언어 모델 쪽 주소와 모델명을 배포한 서비스에 맞춰 바꿔야 한다.

export MEMORY_LLM_API_KEY="sk-your-key"
export MEMORY_LLM_BASE_URL="https://api.deepseek.com"
export MEMORY_LLM_MODEL="deepseek-chat"

export MEMORY_EMBEDDER_API_KEY="sk-your-key"
export MEMORY_EMBEDDER_BASE_URL="https://dashscope.aliyuncs.com/compatible-mode/v1"
export MEMORY_EMBEDDER_MODEL="text-embedding-v3"
export MEMORY_EMBEDDING_DIMS=1024

3. 점수는 작성 모델만 바꾼 결과다

논문은 네 가지 기억 프레임워크에서 버전과 프롬프트, 검색 설정, 답변 모델과 채점 모델을 고정했다. 각 작성 모델이 빈 저장소부터 기록을 쌓았으며, 평가 자료는 벤치마크마다 고정된 20% 표본을 사용했다. 프레임워크별 점수는 여섯 지표의 동일 가중치 평균이고, 종합 점수는 네 프레임워크 점수의 동일 가중치 평균이다.

이 조건에서 공개 모델의 종합 점수는 55.49%로, Claude Opus 5의 54.62%보다 높았다. 다만 평균이 높다고 개별 평가 항목까지 전부 앞선 것은 아니다.

학습에서 제외한 EverMemOS에서는 56.89점으로, DeepSeek V4.1 Flash의 55.47점을 웃돌았다. 학습한 체계 밖에서도 작성 능력이 이어질 수 있음을 보여주는 결과다.

4. 계산량의 이점과 운영 부담을 구분해야 한다

활성 파라미터가 작은 전용 모델로 기록을 맡길 수 있다는 것이 기대 이익이다. 그러나 검색과 답변 단계는 여전히 필요하고, 직접 배포하면 작성 모델 서비스도 운영해야 한다. 전체 파라미터가 300억 개이므로 활성 규모만 보고 저장·메모리 요구량을 판단해서는 안 된다. 실제 지연 시간이나 운영비 절감액은 제시되지 않았다.

5. 작은 격차보다 검증 범위를 본다

논문은 학습에 사용한 두 프레임워크에서 Claude Opus 5와의 0.01~0.02점 격차를 통계적으로 구분된 우위가 아닌 동등 수준으로 해석한다. 학습에서 뺀 프레임워크도 하나뿐이며 반복 학습 검증은 향후 과제다.

보상은 회수된 근거를 입력 구간에 연결하지만, 특정 기록이 답변 개선의 원인임을 입증하지는 않는다. 보상 요소를 각각 빼서 효과를 확인하는 통제 실험도 제시되지 않아, 어느 학습 장치가 개선을 이끌었는지 단정하기 어렵다.

이번 공개는 기억 시스템 전체의 대체보다 작성 단계의 전문화에 의미가 있으며, 도입 판단은 작은 평균 격차보다 실제 업무에서 남기는 기록의 품질에 맞춰야 한다.