Hugging Face Blog·· 2023-12-05AI 评分34
AMD 与 Hugging Face 合作：AMD Instinct GPU 开箱即用加速大语言模型
AMD + 🤗: Large Language Models Out-of-the-Box Acceleration with AMD GPU
AI 导读
Hugging Face Transformers 现已支持在 AMD Instinct GPU 上无需修改代码即可运行全部模型和任务，并原生集成 Flash Attention v2、Paged Attention、DeepSpeed、GPTQ 等加速工具。
来源：Hugging Face Blog · huggingface.co