Transformers 5.20, 멀티모달 Muse Spark Open 지원

여러 입력을 받아 텍스트로 답하는 모델입니다

한국시간 2026년 10월 16일 공개된 Transformers 5.20.0은 Meta의 Muse Spark Open 지원을 추가했습니다. 릴리스와 해당 버전의 모델 문서는 텍스트·이미지·오디오·영상을 입력으로 받고 텍스트를 생성하는 멀티모달 모델로 소개합니다. 영상을 이해할 수 있다는 설명을 영상 생성 기능으로 바꿔 읽으면 안 됩니다.

공식 사양은 전체 8,160억 개 파라미터, 토큰당 활성 420억 개 파라미터의 MoE 구조와 최대 1,048,576토큰 문맥을 제시합니다. 문맥은 입력 종류별로 따로 주어지는 용량이 아니라 여러 종류가 함께 사용하는 한도입니다. 활성 파라미터 수만 보고 전체 가중치를 작은 장비에 올릴 수 있다고 결론 내리는 것도 적절하지 않습니다.

라이브러리에서 연결하는 방법

버전이 고정된 문서의 예제는 AutoProcessor와 AutoModelForMultimodalLM을 사용합니다. 메시지에 이미지·영상·오디오 항목과 질문을 함께 넣고, 프로세서의 채팅 템플릿을 적용한 다음 generate()로 텍스트를 생성하는 흐름입니다. 텐서 병렬·전문가 병렬 설정을 함께 사용하는 예제가 있어, 단순히 모델 이름만 바꾸는 것 이상의 실행 환경 준비가 필요합니다.

영상 예제에는 초당 추출 프레임 수와 최대 프레임 수를 지정하는 설정이 나옵니다. 입력 영상 전체의 모든 순간을 같은 밀도로 읽는다고 가정하지 말고, 어떤 프레임이 실제로 모델에 들어가는지 살펴봐야 합니다. 긴 영상의 중요한 순간이 샘플링 과정에서 빠지면 질문의 정보가 충분하지 않을 수 있습니다.

양자화 지원에는 버전 조건이 있습니다

릴리스는 BF16과 NVFP4 체크포인트를 소개합니다. 하지만 5.20.0에 고정된 모델 문서의 NVFP4 절에는 별도 개발 브랜치를 설치해야 한다는 주의가 있습니다. 따라서 5.20.0 정식 패키지만 설치하면 모든 NVFP4 예제가 그대로 실행된다고 안내해서는 안 됩니다. 현재 도입할 때는 이후 버전의 지원 상태와 장치 호환성을 다시 확인해야 합니다.

또 이 릴리스는 전문가 병렬 추론에 속도 회귀가 있음을 별도로 경고합니다. 새 모델 지원 소식을 곧바로 성능 향상 소식으로 받아들이기 어려운 이유입니다. 전체 모델 크기, 정밀도, 병렬 구성과 입력 길이를 함께 기록해야 비교 결과의 의미를 설명할 수 있습니다.

품질은 실제 입력으로 확인해야 합니다

개발 작업에 적용한다면 공개 가능한 코드 설명, 이미지 속 UI 질문, 짧은 영상의 동작 설명을 나눠 비교할 수 있습니다. 같은 질문에서 추가 입력이 답변 근거를 개선했는지, 누락된 장면을 추측하지 않는지를 보는 방식입니다. 이 글은 공식 문서와 릴리스를 검토한 내용이며, 모델을 내려받아 실행하거나 한국어 품질·메모리 사용량을 측정한 결과는 아닙니다.

출처

• 공식 릴리스 원문
• 5.20.0에 고정된 Muse Spark Open 모델 문서