OpenAI Python SDK, Vertex AI의 Responses API 지원

Responses 요청을 Vertex AI로 보냅니다

OpenAI Python SDK 3.36.0은 한국시간 2026년 10월 22일 공개됐습니다. 표준 OpenAI·AsyncOpenAI 클라이언트에 vertex 제공자 설정을 사용해 Google Cloud Vertex AI로 Responses API 요청을 보낼 수 있도록 지원합니다. OpenAI 계정의 API 키만으로 모든 Vertex 모델을 호출할 수 있게 됐다는 의미는 아닙니다.

PR #4139와 연결된 가이드는 프로젝트와 위치 또는 명시적인 API 루트를 설정하도록 설명합니다. 모델과 기능의 사용 가능 여부는 해당 Google Cloud 배포 조건에 달려 있으므로, SDK 지원과 프로젝트 접근 권한을 구분해야 합니다.

인증 방식에 따라 추가 의존성이 달라집니다

Google Application Default Credentials나 Google 자격 증명을 사용하는 경우에는 선택 의존성 openai[vertex]가 필요합니다. 앱이 토큰 갱신을 직접 관리한다면 token_provider 콜백을 사용할 수 있으며 이 방식은 기본 패키지로 동작합니다.

비동기 클라이언트의 콜백은 awaitable을 반환할 수 있지만 이벤트 루프를 막아서는 안 됩니다. 안내된 읽기 제한 시간을 넘기면 Vertex 요청을 보내기 전에 타임아웃을 발생시킵니다. 인증 대기 시간과 모델 응답 시간을 같은 실패로 취급하지 않는 것이 좋습니다.

요청 목적지와 응답 수명 경로를 유지합니다

구현은 인증 정보를 설정된 origin에 묶고 리디렉션을 비활성화합니다. 다른 주소로 이동하는 응답을 임의로 따라가도록 설정을 완화하는 변경이 아닙니다. 목적지와 인증의 관계를 유지하는 경계가 포함되어 있습니다.

같은 3.36.0의 PR #4140은 저장 응답 조회·삭제에서 바깥쪽 API 루트의 v1을 v1beta1로 바꾸던 동작을 제거합니다. 생성 요청뿐 아니라 이후 수명 작업도 설정한 API 루트를 유지하도록 한 수정입니다. 짧은 생성 호출 하나가 성공했다고 전체 응답 처리 흐름이 검증됐다고 판단하기 어려운 이유입니다.

기존 파이프라인은 작은 범위부터 확인하세요

도입 검토에서는 대상 프로젝트와 위치에서 실제 허용된 모델을 먼저 확인하고, 민감하지 않은 입력으로 생성·스트리밍·후속 조회 등 필요한 기능을 나누어 살펴보세요. 기존 서비스와 출력 형식이 같아 보여도 기능 지원과 오류 조건은 다를 수 있습니다.

PR은 집중 제공자 테스트와 선택 의존성이 있는 경우·없는 경우의 wheel 검증을 보고하지만 실제 Vertex 수락 시험은 실행하지 않았다고 명시합니다. 이 글에서도 Google Cloud 인증이나 API 호출을 수행하지 않았습니다. 문서와 코드에서 확인한 SDK 경로를 설명할 뿐 계정별 사용 가능 여부를 보장하지 않습니다.

전체 앱을 한 번에 옮기기보다 인증·목적지·응답 수명 처리를 분리해 확인하면, 실패가 라이브러리 구성인지 배포 권한인지 구별하기 쉬워집니다.

출처

• Python SDK 3.36.0 공식 릴리스
• PR #4139 · Vertex 제공자와 인증 조건
• PR #4140 · 응답 조회·삭제 API 루트 보존
• Vertex 공식 SDK 가이드 추가 커밋