Building ccglass: the architecture of a local LLM reverse proxy

ccglass는 LLM API 트래픽을 캡처하는 로컬 리버스 프록시입니다.

ccglass는 코딩 에이전트 CLI의 LLM API 트래픽을 캡처하여 실시간 대시보드를 제공하는 로컬 리버스 프록시입니다. 이 도구는 MIT 라이선스 하에 오픈 소스로 제공되며, 5,000줄의 Node 코드로 구성되어 있습니다. CLI가 HTTP_PROXY를 우회하기 위한 설계를 고려하여, 다리 역할을 하는 로컬 루프백 홉을 가로채도록 설계되었습니다.

ccglass is a local reverse proxy that captures LLM API traffic from coding agent CLIs.

ccglass is a local reverse proxy that captures LLM API traffic from coding agent CLIs and provides a real-time dashboard of prompts, costs, and cache hit rates. It is open-source, MIT licensed, and consists of 5,000 lines of Node code. The design overcomes the challenge of native CLIs bypassing HTTP_PROXY by intercepting the local loopback hop instead of the wire.