跳到正文
原文
Hugging Face Blog·· 2023-08-08精选AI 评分62

Hugging Face 发布 swift-transformers,在 Apple 设备上本地运行 LLM

Releasing Swift Transformers: Run On-Device LLMs in Apple Devices

AI 导读

Hugging Face 发布 swift-transformers,一个开发中的 Swift 包,为 Swift 开发者提供类似 transformers 的 API,专注文本生成,并支持从 Hub 下载模型与 tokenizer 配置。

推荐理由

想在 iOS/Mac 应用里跑本地 LLM 的 Swift 开发者,可以直接用这套 alpha 工具链和已转换好的 Llama 2、Falcon 模型起步。

来源:Hugging Face Blog · huggingface.co