놀고 있던 인텔 아이맥 하나로 시작한 실험이 어느새 17편짜리 시리즈가 됐다. 하드웨어 한계를 확인하는 글로 시작해서, Homebrew 설치 차단, MCP 바이너리 부재, 네 개 모델 실측 비교, 그리고 결국 프로젝트를 접기로 한 결정까지 — 매 단계에서 부딪힌 벽과 우회로를 그때그때 기록해뒀다.

돌아보니 남는 것

시리즈를 마치고 다시 훑어보면, 이 프로젝트에서 진짜 값진 건 “로컬 LLM 파이프라인을 완성했다"는 결과가 아니라 왜 안 되는지를 실측으로 확인한 과정 쪽이었다. GPU 가속이 안 된다는 걸 처음부터 알고도 CPU로 밀어붙였고, 그 판단이 얼마나 순진했는지는 재현성 테스트(같은 모델, 같은 프롬프트인데 소요 시간이 2.4배 벌어지고 요청하지 않은 함수까지 추가된 사례)에서 명확하게 드러났다. 결론을 성급하게 내리지 않고 두 번째 실행까지 검증해본 덕분에, “빠르고 안정적인 모델"이라는 잘못된 결론으로 파이프라인을 그대로 밀어붙이는 일은 막을 수 있었다.

기술적으로 남은 자산도 있다. Ollama, Aider, 그리고 테스트했던 모델 파일들은 디스크 용량에 여유가 있어 지우지 않고 그대로 뒀다. GPU를 갖춘 PC나 미니 서버를 나중에 구축하게 되면, 이번에 익힌 .aider.conf.yml 설정이나 MCP 서버 소스 빌드 방법이 그대로 재사용될 것이다.

이 시리즈 자체가 남긴 방법론

이 글들의 원본은 사실 하나의 긴 대화 세션이 끝나기 전에 정리해둔 백업 문서에서 나왔다. 세션이 아이맥 폴더 접근 권한을 물고 있어 새 대화로 옮겨가야 했던 사정 때문인데, 그 참에 지금까지의 결정사항과 삽질 기록을 주제별로 정리해두고, 그 기록을 다시 이렇게 시리즈 글로 풀어냈다. 긴 AI 세션을 정리해서 백업해두는 습관 자체가 왜 유용한지는 별도 글에서 다뤘는데, 이번 시리즈 전체가 그 방법의 실제 산출물인 셈이다.

맺으며

결과적으로 프로젝트는 “지금은 접는다"로 끝났지만, 접는 이유를 숫자로 확인하고 남긴 기록이라 후회는 없다. 다음에 GPU 환경에서 이 주제를 다시 꺼낼 때는, 이 17편이 처음부터 다시 헤매지 않게 해주는 지도가 되어줄 것이다.