미스트랄이 시간순으로 쌓이는 센서값이나 수요를 예측하는 사전 학습 모델 제품군을 공개했다. 설비 감시나 수요 예측을 개발하는 팀은 데이터마다 처음부터 학습시키는 대신, 이미 학습된 모델로 예측을 시작할 수 있다. 그래픽 처리 장치 없이 서버 중앙처리장치에서도 실행할 수 있다.
1. 새 데이터에도 옮겨 쓰는 예측 모델
Timestral은 다양한 시계열에서 미리 배운 패턴을 새 데이터에 옮겨 쓴다. 계열 하나의 과거에 맞추는 전통적 모델이나 데이터셋마다 처음부터 학습하는 딥러닝 모델과 구별되는 지점이다. 처음 보는 데이터도 추가 학습 없이 예측하는 방식을 제로샷 예측이라고 한다.
2. 공개 평가의 순위와 비교 범위
회사는 사전 학습된 제로샷 모델 중 공개 예측 평가 세 곳의 다섯 지표에서 모두 1위를 기록했다고 밝혔다. 여러 모델의 출력을 합치지 않고 단일 학습 결과로 얻은 성적이다.
GIFT-Eval과 TIME에는 평가 결과를 제출한 상태다.
이 두 평가에서 파라미터 2800만 개 모델이 약 4배 큰 Chronos-2보다 좋은 성적을 냈다는 설명이다.
나머지 평가는 fev-bench다. 전체 결과를 담은 기술 보고서는 추후 공개할 예정이므로, 순위는 발표 당시 회사가 제시한 평가 결과로 읽어야 한다.
최대 모델은 파라미터 2억 900만 개로, 이전 최고 성능 모델의 약 3분의 2 규모에서 더 나은 결과를 냈다고 설명했다. 회사는 TimesFM-3와 Falcon-2.0보다 적은 파라미터로 앞섰다고 밝혔다. 파라미터 수는 모델 규모이지 실제 운영비 자체는 아니다.
3. 크기 선택은 정확도와 지연시간의 교환이다
모델은 파라미터 500만, 2800만, 1억 2300만, 2억 900만 개의 네 크기다. 구조와 학습 방식은 같고, 큰 모델은 예측 성능을 높이며 작은 모델은 더 빠르고 저렴하다는 것이 회사의 설명이다.
표준 서버 중앙처리장치에서 8개 스레드를 쓰고, 15분 간격의 3주치 이력으로 하루 앞을 예측할 때 지연시간은 500만 모델이 10밀리초, 최대 모델이 140밀리초였다. 구체적인 프로세서 기종은 제시되지 않았다.
같은 추론 성능 설명에서 2800만 모델은 최대 모델보다 5배 빠르며, 1억 2300만 모델은 최대 모델 지연시간의 4분의 3으로 점수 차이가 0.2% 이내라고 밝혔다. 중간 두 모델의 밀리초 단위 실측값과 이 점수가 가리키는 개별 지표는 제시되지 않았다.
작은 모델을 고르면 추론 시간과 비용을 줄이는 대신 일부 정확도를 양보한다. 따라서 최대 모델의 순위보다 실제 데이터의 예측 오차와 갱신 주기에 맞춰 크기를 고르는 편이 타당하다.
4. 함께 움직이는 값과 미래 조건을 다룬다
다변량 예측은 펌프의 진동·온도·압력처럼 관련 있는 계열을 함께 예측하는 방식이다. 각 센서를 따로 예측하지 않고 서로의 변화를 활용한다.
출력은 단일 예상값이 아니라 21개 분위수다. 분위수는 예측 분포를 확률 위치별 값으로 나타낸 것으로, 팀은 그 범위를 보고 불확실성을 고려한 경보 기준을 정할 수 있다.
입력에는 과거에만 알려진 보조 변수와 생산 일정처럼 미래 값이 미리 알려진 보조 변수를 넣을 수 있다. 요일이나 설비 상태 같은 범주형 값도 직접 받으므로, 숫자로 바꿔 임의의 순서나 크기를 부여할 필요가 없다.
내부적으로는 관측 이력을 문맥에 남겨 예측에 활용하고, 보조 변수의 역할을 구분해 예측 대상의 미래값 유출을 막는다. 합성 자료로 먼저 학습한 뒤 실제·합성 자료를 섞어 후학습하며, 최대 입력 문맥은 32,768개 시점이다.
5. 자체 데이터 적용과 운영상 주의점
회사는 자체 데이터로 실행할 수 있는 GitHub 저장소를 공개했지만 발표문에 실행 코드나 호출 방법은 제시되지 않았다.
라이선스는 Modified MIT로 표기됐으나 상세 조항은 제시되지 않았다.
Mistral Forge를 이용하면 자체 데이터 추가 학습, 학습 자료 구성 조정, 구조 확장을 선택할 수 있다.
배포 형태는 자체 설비, 가상 사설 클라우드, 외부망과 분리된 환경을 포함하며 전체 학습 파이프라인도 고객 하드웨어에 배포할 수 있다.
공개 평가 성적이 생산 현장에서도 유지된다고 볼 수는 없다. 설비 노후화나 수요 변화로 데이터 양상이 바뀌면 현장에 맞춘 재학습이 필요할 수 있다. 추가 학습 없이 시작하는 이익과 별개로 운영 단계의 데이터 관리와 적응 작업은 남는다.
Timestral은 예측의 출발 부담을 낮추지만, 배포 판단은 모델 크기와 현장 데이터 적응을 함께 따져야 한다.
