Hugging Face Blog·· 2023-08-08精选AI 评分62
Hugging Face 发布 swift-transformers,在 Apple 设备上本地运行 LLM
Releasing Swift Transformers: Run On-Device LLMs in Apple Devices
AI 导读
Hugging Face 发布 swift-transformers,一个开发中的 Swift 包,为 Swift 开发者提供类似 transformers 的 API,专注文本生成,并支持从 Hub 下载模型与 tokenizer 配置。
推荐理由
想在 iOS/Mac 应用里跑本地 LLM 的 Swift 开发者,可以直接用这套 alpha 工具链和已转换好的 Llama 2、Falcon 模型起步。
来源:Hugging Face Blog · huggingface.co