Re:L
MoE 언어 모델 학습 통신 비용을 줄이는 'CE-MoE' 기법, 레이어 재구성으로 GPU 시간 33% 절감 | Re:L