EMA-Gated Temporal Sequence Compression in Vision Transformers [P]

Vision Transformers의 비효율성을 줄이는 새로운 방법 제안.

NeuroFlow는 Vision Transformers의 비효율성을 해결하기 위해 디자인된 동적 라우팅 프레임워크입니다. 이 기술은 배경 토큰을 제거하고, 55.8배의 속도 향상을 달성하면서도 97%의 정확도를 유지합니다. 또한, 완전한 훈련 없이도 71.55%의 제로샷 정확도를 구현하는 방법도 제안하고 있습니다. 이는 비디오 추론 성능을 크게 향상시키는 혁신적 접근 방식입니다.

A new method to reduce inefficiencies in Vision Transformers.

NeuroFlow is a dynamic routing framework designed to address inefficiencies in Vision Transformers. It physically eliminates background tokens, achieving a 55.8x speedup while retaining 97% fidelity. The framework also proposes a training-free approach that achieves 71.55% zero-shot accuracy. This represents an innovative approach to significantly enhance video inference performance.