장애 조치

모델의 기본 공급자가 5xx 오류를 반환하거나 타임아웃이 발생하면, AllToken은 다음 가용 공급자로 자동으로 요청을 재시도합니다. 이 과정은 완전히 투명하게 이루어지며, 애플리케이션에 별도의 재시도 로직 없이도 성공 응답을 받을 수 있습니다.

각 모델에는 우선순위 순서로 정렬된 공급자 목록이 있습니다. 기본 공급자가 실패하면:

1. 요청이 우선순위 2 공급자로 라우팅됩니다
2. 실패 시 우선순위 3을 시도합니다
3. 공급자가 응답하거나 모두 소진될 때까지 계속합니다

모델 상세 페이지의 "사용 가능한 공급자"에서 폴백 체인을 확인하세요.

클라이언트 오류(4xx)는 재시도를 트리거하지 않습니다 — 요청 자체에 문제가 있음을 나타냅니다 (잘못된 API Key, 잘못된 형식, 속도 제한). 서버 오류(5xx)만 장애 조치 메커니즘을 트리거합니다.