이미 휴대폰 API 주소를 Cloudflare Tunnel 서브도메인으로 열어 서버를 하나 운영하고 있다 보니, 자연스럽게 이런 생각이 들었다. “아이맥의 로컬 LLM도 전용 서브도메인으로 열어두면, 어디서든 접근할 수 있어서 더 편하지 않을까?”

같은 기기 안에서는 이득이 없다

먼저 따져야 했던 건 “누가, 어디서 이 로컬 LLM에 접근하는가"였다. 지금 계획대로라면 Aider든 MCP 서버든, 호출하는 쪽도 결국 같은 아이맥 안이다. localhost:11434로 바로 붙으면 되는 걸 굳이 인터넷을 한 바퀴 돌아서(Cloudflare Tunnel → DNS → 다시 내 아이맥) 접근할 이유가 없다. 오히려 왕복 지연만 늘어난다.

원격지에서 이 로컬 LLM에 접근해야 하는 시나리오(예: 외부에서 다른 기기로 이 아이맥의 모델을 호출)가 실제로 생긴다면 그때 고려할 문제이지, 지금 당장은 아니었다.

열어둔다면 감수해야 할 리스크

혹시 나중에 필요해지더라도, 아무 인증 없이 Ollama API를 그대로 노출하는 건 위험하다는 것도 짚어뒀다.

  • 모델 목록 노출: 인증 없는 Ollama API의 /api/tags 엔드포인트를 두드리면 설치된 모델 목록이 그대로 드러난다. 내가 어떤 모델을 쓰는지 외부에 알려줄 이유가 없다.
  • 컴퓨팅 자원 무단 사용: 엔드포인트가 열려 있으면 누구든 내 아이맥의 CPU를 공짜로 빌려 쓸 수 있게 된다. 안 그래도 CPU 바운드라 느린 상황에서, 외부 요청까지 끼어들면 성능이 더 나빠진다.
  • 프롬프트 인젝션 시도: 공개된 LLM 엔드포인트는 자동화된 스캐너들의 프로빙 대상이 되기 쉽다.

만약 정말 열어야 한다면 Cloudflare Access(OAuth 기반 접근 제어) 같은 인증 계층을 반드시 앞단에 둬야 한다는 결론을 내렸다.

결론: 지금은 필요 없다

같은 기기 안에서만 쓰는 용도라면 서브도메인은 불필요한 복잡도이자 지연 요소일 뿐이고, 열어둘 이유가 생기기 전까지는 localhost 직접 호출로 충분하다는 결론에 도달했다. 결과적으로 로컬 LLM 파이프라인 프로젝트 자체를 접게 되면서 이 논의는 자연히 의미가 없어졌지만, “일단 만들어두고 보자"는 충동을 실제 필요성과 리스크로 검증해보는 과정 자체는 남겨둘 만한 기록이라 정리해둔다.