Transformers 5.22.2, 분산 실행과 템플릿 샌드박스 보완

서로 다른 두 실행 경로를 보완한 패치입니다

Transformers 5.22.2는 한국시간 2026년 11월 7일 공개됐습니다. 공식 릴리스는 분산 처리와 보안 수정에 초점을 둔 패치라고 설명하며, NCCL 장치 지정 변경과 Jinja 샌드박스 보강을 포함합니다. 두 변경은 함께 배포됐지만 원인과 확인 방법은 서로 다릅니다.

분산 초기화에서 장치 ID를 넘기는 조건

변경 요청 #50281은 기존 코드가 CPU를 제외한 여러 백엔드에 device_id를 전달했다고 설명합니다. 장치를 미리 연결하면 이후 DeviceMesh가 통신 그룹을 나눌 때 특정 그룹 분리 경로를 선택하는데, 모든 백엔드가 이를 지원하지는 않습니다. 보고된 사례는 Trainium에서 그룹 분리를 지원하지 않아 초기화가 실패하는 상황입니다.

수정은 device_id를 NCCL 백엔드에만 넘기도록 조건을 좁힙니다. 이는 모든 장치를 NCCL로 전환한다는 의미가 아닙니다. 기존 백엔드를 유지하면서 지원하지 않는 기능을 초기화 과정에서 요구하지 않도록 한 것입니다. 실제 영향은 실행 백엔드와 프로세스 그룹 구성에 따라 달라지므로, 단일 GPU 추론 성공만으로 분산 문제가 해결됐다고 판단할 수 없습니다.

템플릿이 접근하는 객체를 줄입니다

변경 요청 #50431과 구현은 채팅 템플릿에 전달하는 데이터를 제한하는 방식을 보여줍니다. 템플릿 안의 dict는 필요한 기능만 가진 객체로 바꾸고, namespace에 밑줄로 시작하는 속성을 저장하지 못하게 합니다. 메시지·도구 정의·문서·추가 인자도 일반적인 값으로 정리해 템플릿이 임의 객체의 메서드를 따라가지 못하도록 보완합니다.

이미지나 배열처럼 복잡한 객체는 템플릿에서 형식을 나타내는 자리표시자로 다뤄집니다. 호출자가 가진 원본 객체까지 바꾸는 것이 아니며, 공개 테스트는 원래 메시지의 이미지 객체가 유지되는지도 확인합니다. 따라서 이 변경을 모델에 전달할 이미지 데이터를 삭제하는 기능으로 이해하면 안 됩니다.

의존성과 사용자 템플릿도 확인합니다

같은 수정에서 Jinja2 최소 요구 버전은 3.1.6으로 올라갔습니다. 오래된 환경을 고정해 둔 서비스는 Transformers만 바꾸지 말고 의존성 설치 결과도 확인해야 합니다. 사용자 정의 템플릿이 객체의 특별한 메서드나 밑줄 속성에 의존했다면, 강화된 경계 때문에 기존 렌더링이 달라질 수 있습니다.

적용 검증은 분산 초기화·정상 종료와 채팅 템플릿 출력 비교를 분리해 진행하는 것이 좋습니다. 공식 변경과 테스트 코드를 직접 대조했지만, 여기서 Trainium 학습이나 보안 공격 재현을 실행한 것은 아닙니다. 패치가 다루는 경로를 설명하는 범위이며 모든 환경의 성능 개선이나 완전한 보안을 보장하지 않습니다.

출처

• 공식 릴리스 원문
• 분산 백엔드 수정 이유 #50281
• Jinja 방어 강화 #50431
• 샌드박스 구현과 회귀 테스트 변경