Hugging Face, 커스텀 프론트엔드를 위한 gradio.Server 출시
hugging face가 gradio.server를 출시하여 개발자가 react나 vanilla js 같은 커스텀 프론트엔드를 gradio의 백엔드 인프라와 결합할 수 있게 되었습니다. 이 솔루션은 fastapi를 확장해 자동 큐잉, 동시성 제어, spaces에서의 zerogpu 지원 등 ML 특화 기능을 제공합니다. 약 50줄의 python 구현이 백엔드를 관리하고, gradio js 클라이언트가 프론트엔드의 요청 큐잉을 처리합니다.
허깅 페이스(Hugging Face)는 Gradio의 표준 UI 구성 요소에서 백엔드 인프라를 분리하는 도구인 gradio.Server를 출시했다. FastAPI 기반으로 구축된 gradio.Server를 사용하면 개발자가 `@app.api()`를 사용하여 Gradio의 대기열 엔진 및 동시성 관리를 상속하는 사용자 지정 API 경로를 정의할 수 있다. 이 아키텍처는 발표회에서 시연된 1,300줄짜리 순수 JS 애플리케이션과 같은 복잡한 프런트엔드를 지원하면서 ZeroGPU 할당 및 `gradio_client` 호환성과 같은 백엔드 기능을 활용할 수 있다.