devotd.

LLM

주제별 새 소식과 판단에 필요한 맥락을 모았다.

최신 글

57 개의 글
  1. LLM KST

    QwenGyre arXiv v1: 2.4T 학습 59시간 단축, Colocate 대비 16시간 차이

    QwenGyre는 에이전트 실행과 강화학습 사이에서 GPU 자원을 작업 상황에 따라 다시 배분한다. 2.4T 모델의 NL2RepoBench 48스텝 실험에서 Async 대비 59.13시간(43.9%), Colocate 대비 16.05시간(17.5%) 일찍 끝났다. 널리 인용되는 1.85배는 별도의 122B·TerminalBench 결과이며, 논문에는 구현 코드와 반복 실행 오차가 없다.

  2. LLM KST

    TRL v1.15.0: 융합 LM head 기본 적용, 전체 logits 텐서 제거

    TRL v1.15.0은 SFT, DPO, KTO, GRPO, RLOO, Distillation에서 전체 logits 텐서를 만들지 않고 토큰 점수를 계산한다. 프로젝트 측정에서 DPO의 최대 학습 길이는 5.80배 늘었지만, 효과는 기존 손실 경로와 어휘 크기에 따라 다르다.