Hugging Face、本番環境レベルのCUDAカーネルを書くためのエージェントスキルを構築
hugging faceは、claudeやcodexのようなコーディングモデルが本番環境レベルのcudaカーネルを書けるようにする新しいエージェントスキルをリリースした。エージェントはdiffusersとtransformers向けに動作するカーネルを、pytorchバインディングとベンチマーク込みで正常に生成した。この550トークンのスキルは、h100、a100、t4チップ向けのGPUアーキテクチャの知識を提供し、統合パターンにも対応する。
Hugging Faceは、大規模言語モデルが本番レベルのCUDAカーネルを記述する方法を教えるように設計されたエージェントスキルを開発した。 OpenAIのCodexやAnthropicのClaudeなどのコーディングエージェントに、GPUアーキテクチャ、ベクトル化、PyTorchバインディングに関する特定のドメイン知識を装備することで、エージェントはDiffusersパイプラインとTransformersモデルの両方で動作するカーネルを生成することに成功した。このスキルには、NVIDIA H100、A100、T4ハードウェアの特定の最適化ガイドが含まれ、統合時の落とし穴やメモリ管理に対処している。この開発により、カーネル開発の複雑さが抽象化され、エージェントがソース生成からベンチマークまでをエンドツーエンドで処理できるようになった。