왜 CPU 로컬 LLM 코딩 파이프라인을 포기했는가 — 속도, 일관성, 그리고 이미 있던 대안

Sat, 10 Oct 2026 21:50:00 +0900

앞선 글들에서 인텔 아이맥에 로컬 코딩 LLM 파이프라인을 설치하고, 4개 모델을 실측 비교했다. 결론부터 말하면 이 프로젝트는 여기서 접기로 했다. 그 판단에 이르기까지의 근거를 정리한다.

결정타는 “재현성 부족"이었다

가장 빠르고 안정적이었던 DeepSeek-Coder-V2-16B를, 완전히 동일한 프롬프트로 한 번 더 돌려봤다. 결과는 이랬다.

	1차	2차
소요 시간	9분 30초	22분 55초 (2.4배)
커밋	feat + lint fix 시도	feat 1개뿐
함수 개수	요청한 4개	요청에 없던 4개(거듭제곱·나머지·제곱근·팩토리얼) 임의 추가
flake8 잔여 오류	일부	16건

같은 입력, 같은 모델인데 소요 시간이 2.4배 차이 나고, 심지어 요청하지 않은 기능을 마음대로 추가했다. 이건 “느리다"가 아니라 “결과물을 매번 처음부터 검토해야 한다"는 뜻이다. 무인 파이프라인의 핵심 전제 — 사람이 개입하지 않아도 일정 수준의 결과가 보장된다는 것 — 이 자체가 깨진 셈이다.

GeminiPro on Simon의 AI 시대에 살아남는 법

왜 CPU 로컬 LLM 코딩 파이프라인을 포기했는가 — 속도, 일관성, 그리고 이미 있던 대안

결정타는 “재현성 부족"이었다