DeepSeek

로컬 코딩 LLM 파이프라인을 검증하면서 처음엔 단순하게 접근했다. 모델별로 딱 한 번씩 돌려보고, 가장 빠르고 결과물이 깔끔한 모델을 고르면 된다고 생각했다. 그런데 최종 결정을 내리기 직전에 “정말 이 결과가 우연이 아닐까?“라는 의문이 들어서, 가장 유력했던 모델(DeepSeek-Coder-V2-16B)만 완전히 동일한 프롬프트로 한 번 더 돌려봤다. 두 번째 실행에서 벌어진 일 1차 실행에서는 9분 30초 만에 요청한 4개 함수(add, subtract, multiply, divide)만 정확히 작성하고 끝났다. 2차 실행은 22분 55초가 걸렸고, 요청하지 않은 함수 4개(거듭제곱, 나머지, 제곱근, 팩토리얼)를 임의로 추가했으며, 코드 스타일 오류(flake8)도 훨씬 많이 남겼다.

모델 후보를 고르는 과정을 돌아보다가 문득 이상한 점을 느꼈다. 검토했던 후보 — Qwen3-Coder, Qwen2.5-Coder, DeepSeek-Coder-V2 — 가 전부 중국 회사(알리바바, 딥시크)의 모델이었다. 의도한 건 아니었는데, 결과적으로 다양성이 전혀 없었던 셈이다. 왜 이렇게 됐나 솔직히 말하면 의도적인 선택이 아니라 벤치마크 점수 기준으로 좁히다 보니 자연스럽게 그렇게 됐다. HumanEval, MBPP 같은 코딩 벤치마크에서 로컬(7B~32B급) 규모의 오픈소스 모델 중 상위권을 차지하는 게 최근 Qwen·DeepSeek 계열에 쏠려 있는 게 현실이다. 그럼 다른 나라 모델은 없나 찾아보면 분명히 있다. 정리하면 이렇다.

집에 있는 구형 인텔 아이맥이 눈에 밟혔다. 3GHz 6코어 i5, Radeon Pro 570X 4GB, 32GB DDR4 — 일반 업무용으로는 여전히 충분한 사양인데, 놀고 있는 게 아깝다는 생각이 들었다. 마침 로컬 오픈소스 LLM으로 코딩 보조 파이프라인을 만들어보고 싶었던 참이라, 이 아이맥을 실험대로 삼기로 했다. 목표는 단순했다. 로컬 LLM이 코드 초안을 자동으로 작성하고, Claude Code가 그 결과를 검증·수정·커밋하는 2단계 파이프라인을 만드는 것. “결과만 정확하면 시간이 오래 걸려도 괜찮다"는 전제를 깔고 시작했다. GPU 가속, 기대는 접어야 했다 가장 먼저 확인한 건 Radeon Pro 570X로 추론을 가속할 수 있는지였다. 결론부터 말하면 불가능이다.