Adding Gemma 4 speech recognition to a .NET desktop app: the llama-server sidecar that survived

Gemma 4 음성 인식을 .NET 데스크탑 앱에 추가하는 방법을 설명합니다.

이 글에서는 Google의 Gemma 4를 .NET 10 음성 인식 앱인 Parlotype에 추가하는 방법을 설명합니다. 이 앱은 Whisper와 함께 로컬 음성 인식 엔진을 사용하고 있으며, 다양한 제약 조건 속에서 llama.cpp의 llama-server를 선택한 과정을 다룹니다. 기존의 오디오 처리 파이프라인을 변경하지 않고도 새로운 엔진을 통합할 수 있는 방법이 제시됩니다.

This article explains how to add Gemma 4 speech recognition to a .NET desktop app.

This post details the process of integrating Google's Gemma 4 into Parlotype, a .NET 10 dictation app, alongside the existing Whisper engine. The author discusses the constraints considered during development, such as the need for on-device processing and cross-vendor GPU support. The architecture and runtime selection process are explored, emphasizing the importance of not redesigning the established audio processing pipeline.