How're you deploying LLMs in production now-a-days? What's the best and most affordable way? [D]

AI 제품을 위한 최적의 LLM 배포 방법에 대한 질문.

작성자가 OpenRouter의 LLM API를 사용하여 AI 제품을 개발하고 있으나, 주어진 제품 환경에서 제어할 수 있는 오픈 소스 LLM을 배포하고 싶어합니다. 완전한 스택을 소유하고 모델을 자신의 용도에 맞게 조정할 수 있는 최적의 플랫폼을 찾고 있으며, AI 엔지니어가 아니므로 복잡한 기술적 문제에 휘말리고 싶지 않다고 말합니다.

A question about the optimal LLM deployment method for AI products.

The author has been developing an AI product using LLM APIs from OpenRouter but wants to deploy an open-source LLM in a controlled production environment. They want to own the complete stack and fine-tune the model for their use case, seeking an affordable platform. Not being an AI engineer, they want to avoid complex issues related to CUDA or Transformers.