Competence Gate: gating tool-use on a small model's internal confidence signal instead of its verbalised one — Qwen3.5-4B, open weights [P]

Qwen3.5-4B의 로라 어댑터를 통해 내부 신뢰 신호로 도구 사용을 제어하는 새로운 접근법을 소개합니다.

Qwen3.5-4B를 위한 10MB LoRA 어댑터를 개발하여, 내부 활성화를 기반으로 도구 사용을 제어하는 방법을 제안합니다. 이 어댑터는 사용자가 질문에 대한 답변을 받을 때, 직접 답변, 웹 검색 또는 로컬 문서 검색 중 하나를 선택하게 하며, 정확성을 높이고 개인정보 유출을 줄입니다. 제안된 시스템은 답변의 출처를 명시하고 신뢰 구간을 제공하여 사용자가 정보를 검증할 수 있도록 돕습니다.

Introducing a LoRA adapter for Qwen3.5-4B that gates tool use based on internal confidence signals.

This article presents a 10MB LoRA adapter developed for Qwen3.5-4B that controls tool use based on internal activations rather than verbal confidence. The adapter decides whether to answer, search the web, or retrieve from local documents, improving accuracy and reducing data leakage. It allows users to trace answers back to specific passages and shows a confidence band for each response, ensuring reliability and transparency in outputs.