Hugging Face、カスタムフロントエンド向けのgradio.Serverをリリース
hugging faceがgradio.serverをリリースし、開発者がreactやvanilla jsなどのカスタムフロントエンドをgradioのバックエンドインフラと組み合わせられるようになりました。このソリューションはfastapiを拡張し、自動キューイング、同時実行制御、spacesでのzerogpuサポートなど、ML固有の機能を提供します。約50行のpython実装がバックエンドを管理し、gradio jsクライアントがフロントエンドからのリクエストキューイングを処理します。
Hugging Face は、Gradioのバックエンドインフラストラクチャを標準のUIコンポーネントから分離するツールである`gradio.Server`を導入した。 FastAPI上に構築された`gradio.Server`を使用すると、開発者は`@app.api()`を使用してカスタムAPIルートを定義し、Gradioのキューイングエンジンと並行性管理を継承できる。 このアーキテクチャは、発表で実証された1,300行のバニラJSアプリケーションなどの複雑なフロントエンドをサポートすると同時に、ZeroGPU割り当てや`gradio_client`互換性などのバックエンド機能を利用できる。