Claude Code Qwen 3.6 27B 이슈: 작업 수행 직전 중단 현상 분석

안녕하세요, DeepCode 입니다. 오늘은 Claude Code 환경에서 Qwen 3.6 27B 모델을 사용할 때 발생하는 예기치 못한 동작 중단 현상을 정리해보겠습니다. 에이전트 도구 사용 환경에서 오픈소스 모델을 통합할 때 직면할 수 있는 기술적 병목 지점을 이해하는 데 도움이 됩니다.

출처: 공식

 

▶ 1. Claude Code와 Qwen 3.6 27B 모델의 충돌 현상

최근 Reddit의 LocalLLaMA 커뮤니티를 중심으로 Claude Code 에이전트 환경에서 Qwen/Qwen3.6-27B-FP8 모델을 구동할 때 발생하는 특이 동작이 보고되었습니다. 사용자는 vLLM을 통해 모델을 서빙하며 Claude Code와 연결하여 작업을 수행하고 있습니다. 모델 자체의 추론 능력은 준수하지만, 특정 단계에서 프로세스가 멈추는 문제가 핵심입니다.

이 현상은 모델이 "이제 ~를 수행하겠습니다"라고 작업 계획을 선언한 직후, 실제 도구 호출(Tool Call)로 이어지지 않고 그대로 멈춰버리는 양상을 보입니다. 이는 명백한 도구 호출 오류(Error)가 발생한 상황이 아니라, 모델의 출력 흐름이 에이전트 인터페이스의 기대값과 어긋나면서 발생하는 추론 불일치 문제입니다. 출시된 지 얼마 되지 않은 최신 모델과 에이전트 프레임워크 간의 최적화 이슈로 판단됩니다.

▶ 2. 기술적 구성 요소와 핵심 문제점

vLLM을 이용한 모델 서빙 환경

사용자는 고성능 추론을 위해 vLLM 프레임워크를 사용하며, 텐서 병렬화(Tensor Parallelism)와 FlashInfer 어텐션 백엔드를 적용하고 있습니다. 이는 대규모 모델을 효율적으로 돌리기 위한 설정이지만, 도구 호출 파서(Tool Call Parser) 설정이 변수가 될 수 있습니다.

설정 항목	적용 값	목적
Model	Qwen3.6-27B-FP8	FP8 양자화 모델 사용
Tensor Parallel	4	4개의 GPU 분산 처리
Tool Parser	qwen3_xml	XML 기반 도구 호출 파싱

도구 호출(Tool Call) 프로세스 단절

정상적인 에이전트 동작은 [계획 선언] -> [도구 호출 생성] -> [도구 실행] 순으로 이어져야 합니다. 하지만 현재 보고된 이슈는 계획 선언과 도구 호출 생성 사이의 연결 고리가 끊어져 있습니다. 모델이 내부적으로는 도구를 쓰려고 시도하지만, 출력 형식이 Claude Code가 인식할 수 있는 규격과 미세하게 어긋날 때 이런 멈춤 현상이 발생합니다.

추론 흐름의 불일치 원인

제 경험상 이런 문제는 모델의 시스템 프롬프트와 에이전트가 요구하는 출력 스키마가 충돌할 때 자주 발생합니다. Qwen 모델이 XML 형식을 사용하도록 설정되어 있음에도 불구하고, Claude Code의 인터페이스가 특정 토큰이나 마킹을 기대할 때 모델이 이를 무시하고 일반 텍스트로 답변을 끝내버리면 에이전트는 다음 명령을 기다리며 무한 대기에 빠지게 됩니다.

▶ 3. 시작하기 (vLLM 서빙 설정 예시)

문제가 된 환경을 재현하거나 유사한 오픈소스 모델을 Claude Code에 연결하기 위해서는 다음과 같은 vLLM 실행 명령어가 필요합니다. GPU 메모리 활용도와 도구 호출 파서를 정확히 지정하는 것이 중요합니다.

vllm serve Qwen/Qwen3.6-27B-FP8 \
  --tensor-parallel-size 4 \
  --gpu-memory-utilization 0.95 \
  --max-num-seqs 8 \
  --enable-auto-tool-choice \
  --tool-call-parser qwen3_xml \
  --enable-prefix-caching \
  --attention-backend flashinfer

▶ 4. 실무 활용 시나리오 및 대응

이러한 로컬 LLM 에이전트 환경은 보안이 중요한 기업 내부 코드 베이스를 분석하거나, 외부 클라우드 API 호출 없이 로컬에서 자동화 스크립트를 생성할 때 매우 유용합니다. 하지만 현재와 같은 멈춤 현상이 발생할 경우 다음과 같은 방식으로 접근해야 합니다.

첫째, 도구 호출 파서의 형식을 점검해야 합니다. 만약 `qwen3_xml` 방식이 동작하지 않는다면, 모델이 생성하는 원본 텍스트를 로그로 확인하여 XML 태그가 누락되었는지 확인하는 과정이 필수적입니다. 둘째, 시스템 프롬프트를 수정하여 모델이 반드시 도구 호출 형식을 지키도록 강제하는 전략이 필요합니다. 셋째, vLLM의 `--enable-auto-tool-choice` 옵션과 Claude Code의 요구 규격이 일치하는지 검증해야 합니다.

▶ 5. 한계와 주의사항

오픈소스 모델을 에이전트로 사용할 때는 항상 예측 불가능한 출력이 발생할 수 있음을 인지해야 합니다. Qwen 3.6 27B 모델은 매우 강력하지만, Claude Code와 같은 폐쇄적인 인터페이스를 가진 도구와 결합할 때는 모델의 '자율성'이 오히려 '오동작'으로 이어질 수 있습니다.

특히 FP8 양자화 모델을 사용할 경우, 미세한 수치 차이가 토큰 생성 확률에 영향을 주어 도구 호출에 필요한 특수 토큰을 생성하지 못하게 만들 가능성도 배제할 수 없습니다. 따라서 에이전트 환경 구축 시에는 모델의 성능뿐만 아니라, 해당 모델이 특정 API 규격을 얼마나 엄격하게 준수하는지에 대한 벤치마크가 선행되어야 합니다.

▶ 6. 참고 자료

관련 기술적 세부 사항은 아래 커뮤니티와 공식 문서를 통해 확인하실 수 있습니다.

vLLM 공식 레포지토리

관련 글 추천

Tistory

정리해보면, Qwen 3.6 27B 모델이 Claude Code에서 작업 직전 멈추는 것은 도구 호출 규격의 불일치 가능성이 높습니다. vLLM의 파서 설정과 모델의 출력 형식을 정밀하게 맞추는 작업이 해결의 핵심입니다. 로컬 에이전트 구축 시에는 모델의 추론 일관성을 반드시 테스트하시기 바랍니다.

vLLM 및 모델 서빙 관련 공식 문서를 참고하여 설정을 최적화해보시기 바랍니다.